Dat blijkt uit onderzoek in opdracht van IT-consultant Dynamic People. Het onderzoek is uitgevoerd onder 317 IT- en businessbeslissers bij middelgrote en grote organisaties in Nederland. Van hen vindt 53 procent dat AI nooit zelfstandig contracten mag sluiten met leveranciers of klanten. Iets meer dan de helft (51 procent) wil ontslagbeslissingen altijd door mensen laten nemen. Voor het vaststellen van salarissen en arbeidsvoorwaarden geldt dat voor 45 procent.
Financiële grens
Ook bij financiële handelingen zien organisaties grenzen aan de autonomie van AI. Zes op de tien ondervraagden (61 procent) vinden dat AI nooit zelfstandig mag beslissen over financiële handelingen boven een bepaald bedrag.
Over de hoogte van die grens lopen de opvattingen uiteen. Een bedrag van 10.000 euro wordt met 29 procent het vaakst genoemd, gevolgd door 50.000 euro met 22 procent. Achttien procent vindt dat AI helemaal nooit zelfstandig financiële beslissingen mag nemen.
Organisaties die AI wel zelfstandig laten handelen, bouwen verschillende momenten in waarop mensen kunnen ingrijpen. Bijna twee derde (64 procent) doet dat zodra een AI-systeem boven een financiële drempel handelt. Zestig procent grijpt in bij risicovolle beslissingen over klanten, leveranciers en contracten. Bij 36 procent volgt menselijk ingrijpen pas achteraf, wanneer een besluit negatief uitpakt.
Ingrijpen nadat schade is ontstaan
Dat ingrijpen komt volgens veel respondenten regelmatig te laat. Bijna acht op de tien (79 procent) constateren dat menselijke tussenkomst vaak pas plaatsvindt nadat schade is ontstaan. Uitlegbaarheid van AI-beslissingen speelt daarbij een belangrijke rol. Een kwart (26 procent) grijpt in zodra een AI-systeem niet kan uitleggen waarom het tot een bepaalde beslissing is gekomen.
Volledige autonomie lijkt voor de meeste ondervraagden dan ook niet realistisch. Van de respondenten vindt 83 procent dat volledige autonomie een illusie blijft zolang beslissingen van AI uitlegbaar moeten zijn.
Jan-Douwe Jilderda, CEO van Dynamic People: “We zien dat organisaties ingrijpen als het misgaat. Hoewel dat voelt als controle, is het vooral schade beperken achteraf. Bij onomkeerbare beslissingen, zoals ontslag, contracten of grote financiële stappen, is dat te laat. Wie bevoegdheden, financiële drempels en controlemomenten al vooraf in processen en systemen vastlegt, hoeft niet te wachten tot het misgaat om te weten waar de grens ligt, en kan AI juist meer ruimte geven om veilig zelfstandig te handelen.”
