Dat blijkt uit een uitvoeringstoets die de AFM heeft opgesteld over de Nederlandse uitvoeringswet van de Europese AI-verordening.
Nieuwe toezichtstaak
Met de AI-verordening krijgt de AFM er een nieuwe toezichtstaak bij. De toezichthouder moet onder meer controleren of financiële instellingen consumenten niet blootstellen aan verboden AI-toepassingen die manipuleren, misleiden of kwetsbaarheden uitbuiten. Daarnaast gaat de AFM toezicht houden op transparantieverplichtingen rond chatbots en deepfakes en op het gebruik van AI-systemen voor kredietbeoordelingen en kredietscores.
Vooral dat laatste geldt als een hoog-risicotoepassing onder de Europese regels. AI-systemen die worden ingezet voor kredietbeoordeling moeten onder meer voldoen aan eisen rond bias-testing, geschiktheid, uitlegbaarheid, documentatie en rapportageverplichtingen.
Kritiek
De AFM wijst erop dat consumentenbescherming een belangrijk doel is van de AI-verordening. De toezichthouder pleit daarom voor een andere bevoegdheidsverdeling, waarbij zowel AFM als DNB vanuit hun eigen toezichtrol toezicht houden op verboden AI-praktijken en hoog-risicosystemen.
Daarnaast benadrukt de AFM dat intensieve samenwerking tussen toezichthouders noodzakelijk is. Zonder duidelijke afspraken bestaat volgens de toezichthouder het risico dat AFM en DNB verschillend oordelen over wanneer een AI-toepassing onder de verordening valt of als hoog risico moet worden aangemerkt.
Meer capaciteit
Hoewel de AFM het toezicht op de AI-verordening uitvoerbaar noemt, verwacht de toezichthouder meer capaciteit nodig te hebben dan eerder werd voorzien. In het huidige kostenkader is rekening gehouden met vier fte voor AI-toezicht, maar volgens de AFM blijkt die inschatting inmiddels te laag. Ook moet de toezichthouder investeren in nieuwe IT-systemen, waaronder een meldpunt voor incidenten met hoog-risico-AI.
De AFM krijgt te maken met toezicht op ongeveer 6.600 financiële ondernemingen die al onder haar toezicht vallen, aangevuld met circa 340 banken, verzekeraars en pensioenfondsen waarop DNB toezicht houdt.
Uitstel
Opvallend is dat de Europese Commissie inmiddels heeft voorgesteld de invoering van een belangrijk deel van de AI-regels uit te stellen. De bepalingen voor hoog-risico-AI-systemen in de financiële sector zouden daardoor pas vanaf 2 december 2027 van toepassing worden.
De AFM wil daarom in 2027 opnieuw beoordelen hoeveel capaciteit en IT-investeringen nodig zijn. Volgens de toezichthouder bestaat daarover nog onzekerheid, onder meer doordat Europese richtsnoeren nog ontbreken en AI zich snel ontwikkelt.
