Artificiell intelligens (AI) fortsätter att påverka alla branscher, och försäkringssektorn är inget undantag. Användningen av AI-system ökar i hela försäkringsvärdekedjan.
EIOPA (Europeiska försäkrings- och tjänstepensionsmyndigheten) har publicerat ett samrådsdokument avseende sitt yttrande om styrning och riskhantering av AI inom försäkringsbranschen. Syftet med yttrandet är att förtydliga hur lagstiftningen inom försäkringssektorn ska tolkas i samband med användning av AI-system som inte enligt AI-förordningen utgör förbjudna AI-system eller AI-system med hög risk.
I yttrandet tas bland annat upp att försäkringsbolag ska utveckla proportionerliga styrnings- och riskhanteringssystem, som beaktar en rad aspekter. Listan är inte uttömmande utan endast exemplifierande vad gäller riskhanteringsmekanismer som bör fastställas.
- Rättvisa och etik. Det ska säkerställas att kunder får en rättvis behandling som är fri från bias.
- Datastyrning (governance). Det bör finnas en policy om datastyrning som beaktar potentiella konsekvenser av AI-användning för konsumenter. De data som används för att träna och testa AI-systemet ska vara kompletta (representativa för populationen och med tillräcklig historisk information), korrekta (inga materiella fel och fria från bias) och lämpliga (överensstämmande med de syften som de ska användas för).
- Dokumentation och förande av register. Det bör föras lämpliga register över tränings- och testdata samt modelleringsmetodologier för att säkerställa reproducerbarhet och spårbarhet. Exempel på detta ges i Bilaga I till yttrandet.
- Transparens. AI-systemet ska vara förklarligt, det vill säga att exempelvis överväganden och beslut ska kunna förklaras. Detta kan exempelvis uppnås genom användande av AI-algoritmer som är enklare att förklara än t.ex. ”black box”-algoritmer.
- Mänsklig tillsyn. Det bör etableras effektiva interna kontrollsystem med definierade ansvarsområden.
- Riktighet, robusthet och cybersäkerhet. AI-systemet måste vara motståndskraftigt mot cybersäkerhetsrisker.
Intressenter välkomnas att lämna sina synpunkter på yttrandet senast 12 maj 2025.
