Kwart bedrijven heeft niet vastgelegd wie betaalt als autonome AI de fout ingaat

Autonome AI-systemen nemen in steeds meer organisaties zelfstandig beslissingen, maar veel bedrijven blijken juridisch nauwelijks voorbereid op de gevolgen als het misgaat. Een kwart (24%) van de bedrijven heeft helemaal niets vastgelegd over waar de verantwoordelijkheid ligt wanneer het misgaat. Ruim driekwart (77%) van de organisaties heeft überhaupt geen idee wie verantwoordelijk is wanneer autonome AI, zoals een ERP-systeem, schade veroorzaakt. Dit blijkt uit onderzoek van Dynamic People onder 317 IT- en businessbeslissers binnen middelgrote en grote organisaties in Nederland.

Schijnzekerheid op papier

Hoewel de juridische onduidelijkheid groot is, denkt een meerderheid van de organisaties toch goed voorbereid te zijn. Bijna zes op de tien respondenten (59%) zegt dat de eigen organisatie juridisch klaar is voor de inzet van autonome AI-systemen. Toch blijkt dat in de praktijk minder te zijn. Naast de 24 procent die niets heeft vastgelegd over aansprakelijkheid, geeft slechts een derde (36%) aan dit gedeeltelijk te hebben vastgelegd.

• Lees ook: AI-toepassingen in de dagelijkse praktijk van HR

Interne verdeling van financiële verantwoordelijkheid 

Bij financiële schade veroorzaakt door een autonoom AI-systeem verwachten organisaties vooral dat de verantwoordelijkheid intern wordt gedragen. Bijna een derde (29%) wijst de IT-afdeling aan als primair verantwoordelijke partij, gevolgd door de organisatie zelf (22%) en de manager die eindverantwoordelijk is voor het proces (21%). De softwareleverancier wordt als laatste genoemd met 19 procent.

Jan-Douwe Jilderda, CEO bij Dynamic People: “Veel organisaties hebben het gevoel dat ze klaar zijn voor autonome AI, maar zodra je vraagt naar wie verantwoordelijk is als het systeem schade veroorzaakt, blijft het opvallend stil. Autonome AI verschuift besluitvorming steeds verder richting software, terwijl governance, aansprakelijkheid en toezicht vaak nog niet zijn ingericht.”