Aan de ene kant maakt het gebruik van kunstmatige intelligentie (AI) het dagelijkse werk gemakkelijker, verhoogt het de efficiëntie en leidt het tot een betere klantenbinding. Voor bedrijven ontstaan echter ook nieuwe schade- en aansprakelijkheidsscenario’s.
Het gebruik van nieuwe technologieën in bedrijven heeft altijd twee kanten. Naast de talrijke voordelen kunnen zich ook nieuwe scenario’s voordoen waarvoor nog geen noodplan bestaat. Bij het gebruik van AI zullen bedrijven in de toekomst dus met nieuwe soorten aansprakelijkheidsproblemen worden geconfronteerd, aangezien de verantwoordelijkheid voor handelingen zal verschuiven van mensen naar machines. Tegelijkertijd verhoogt de toenemende onderlinge verbondenheid de kwetsbaarheid voor cyberaanvallen of technische storingen, wat kan leiden tot grootschalige storingen en financiële verliezen.
In de studie “The Rise of Artificial Intelligence: Future Outlook and Emerging Risks” van Allianz Global Corporate & Specialty (AGCS) werden enerzijds de voordelen van de toenemende toepassing van AI in het bedrijfsleven en de samenleving, waaronder de verzekeringssector, onderzocht, maar ook de mogelijke risico’s die de nieuwe technologie met zich meebrengt. “Of het nu gaat om het bedrijfsleven, de politiek, mobiliteit, gezondheid, defensie of het milieu, AI brengt voordelen maar ook potentiële risico’s met zich mee. We hebben dringend preventieve risicobeperkende maatregelen nodig om de nettovoordelen van massale invoering te maximaliseren en onbedoelde neveneffecten te beperken,” verklaart Michael Bruch, hoofd Emerging Trends bij AGCS.
Ethische overwegingen
Zelfstandige software zou enerzijds het cyberrisico voor bedrijven kunnen verminderen door een betere detectie van aanvallen, maar anderzijds juist dergelijke aanvallen kunnen vergemakkelijken door de planning en uitvoering ervan te vergemakkelijken. Een en dezelfde hackersaanval – of zelfs een programmeringsfout – zou volgens de AGCS op talrijke computers kunnen worden gerepliceerd. Dit zou wereldwijde cyberincidenten waarschijnlijker maken.
Op het gebied van mobiliteit worden hoge verwachtingen gesteld aan AI-toepassingen. Zelfrijdende auto’s moeten een einde maken aan menselijke fouten als belangrijkste oorzaak van ongevallen, en AI in verkeerscontrolesystemen moet de verkeersstroom beter regelen. Het is echter nog algemeen onduidelijk wie aansprakelijk is bij ongevallen en welke ethische principes autonome voertuigen moeten volgen wanneer de gezondheid en het leven van andere weggebruikers op het spel staan.
Risicofactoren
Volgens de AGCS kunnen AI-risico’s zich voornamelijk op vijf gebieden voordoen: Beschikbaarheid van software, veiligheid, aansprakelijkheid en ethiek. Wat bijvoorbeeld de beveiliging betreft, zou volgens het bedrijf de race om AI-systemen snel op de markt te brengen kunnen leiden tot ontoereikende beoordelingen, waardoor veilige en functionele AI-toepassingen niet gewaarborgd zijn. Dit zou op zijn beurt kunnen leiden tot meer defecten en terugroepacties.
Wat de aansprakelijkheid betreft: AI-agenten zouden in de toekomst veel beslissingen van mensen kunnen overnemen, maar er niet wettelijk verantwoordelijk voor kunnen worden gehouden. In de regel is de fabrikant of de softwareprogrammeur van AI-agentia aansprakelijk voor fouten die schade toebrengen aan gebruikers. Volgens het huidige recht kan echter niemand expliciet aansprakelijk worden gesteld voor op AI gebaseerde beslissingen die niet rechtstreeks aan het ontwerp of de vervaardiging kunnen worden toegeschreven, maar die door een AI-agent worden genomen. “Als het aantal door AI veroorzaakte schades toeneemt, kan het snel duur en langdurig worden om de besluitvorming aan de rechter over te laten,” aldus Bruch. “We hebben deskundigenpanels nodig om de wettelijke aansprakelijkheid voor voorvallen te verduidelijken en een aansprakelijkheidskader te ontwerpen dat ontwerpers, fabrikanten of verkopers van AI-producten blootstelt aan beperkte aansprakelijkheid uit onrechtmatige daad.”
Wettelijke basis nodig
Daartoe moeten traditionele dekkingen worden aangepast om zowel particulieren als bedrijven dienovereenkomstig te beschermen. Verzekeraars moeten bedrijven passende oplossingen kunnen bieden voor gevaren zoals cyberaanvallen, bedrijfsonderbreking, het terugroepen van producten en reputatieschade. Bovendien zullen nieuwe aansprakelijkheidsverzekeringsmodellen waarschijnlijk de overhand krijgen, waardoor fabrikanten en softwareleveranciers meer verantwoording moeten afleggen en de risicoaansprakelijkheid van consumenten wordt beperkt, aldus AGCS.
Het is ook de verzekeringssector die al steeds meer gebruikmaakt van AI-oplossingen, zoals bots die inkomende post, e-mails of zelfs telefoontjes automatisch classificeren en verwerken. “AI heeft een enorm potentieel voor verzekeraars. In eerste instantie zal het de automatisering van processen ondersteunen om de uitgifte van polissen of de afhandeling van claims voor klanten te versnellen en te verbeteren,” legt Bruch uit.
Volgens AGCS zullen AI-ondersteunde gegevensanalyses verzekeraars en hun klanten ook een beter inzicht geven in risico’s, zodat deze kunnen worden beperkt of gedekt via nieuwe verzekeringsoplossingen. Tot slot zal AI ook de relatie met de klant veranderen, omdat bijvoorbeeld zelfbedieningsaanbiedingen of 24-uursadvies mogelijk worden.