Meget risikabel forretning:Fordele og ulemper ved forsikringsselskaber, der omfavner kunstig intelligens

Det er en ny dag ikke langt ude i fremtiden. Du vågnede; dit armbåndsur har registreret, hvor længe du har sovet, og overvågede dit hjerteslag og vejrtrækning. Du kører på arbejde; bilsensorer sporer din hastighed og bremsning. Du henter noget morgenmad på din vej, elektronisk betaling; transaktionen og kalorieindholdet i dit måltid registreres.

Så kommer du ud for en bilulykke. Du ringer til dit forsikringsselskab. Dit opkald besvares med det samme. Stemmen i den anden ende kender dit navn og chatter venligt med dig om din kat, og hvordan dit yndlingsfodboldhold klarede sig i weekenden.

Du taler med en chat-bot. Grunden til at det "ved" så meget om dig, er fordi forsikringsselskabet bruger kunstig intelligens til at skrabe oplysninger om dig fra sociale medier. Den ved meget mere, fordi du har accepteret at lade den overvåge dine personlige enheder til gengæld for billigere forsikringspræmier.

Dette er ikke science fiction. Mere end tre fjerdedele af forsikringscheferne mener, at kunstig intelligens vil revolutionere branchen inden for få år. Inden 2030, ifølge McKinsey-futurister, kunstig intelligens vil betyde, at dine bil- og livsforsikringspræmier kan ændre sig afhængigt af, om du beslutter dig for at tage den ene eller anden rute.

Det vil blive solgt til dig på løfte om mere personlig service, hurtigere sagsbehandling og lavere præmier – og det vil leve op til disse løfter, for det meste.

Men der er også etiske risici – databeskyttelse og diskrimination blandt dem. Et forsikringsselskab kan bruge dine data til at finde ud af, hvor meget du ville være villig til at betale for dækning. Det kan sælge oplysningerne til en tredjepart. AI kan beslutte, at du udgør en større risiko på grund af din alder, køn, indkomst eller etnicitet.

Tingenes internet

Selvom forsikringsbranchen generelt har et misundelsesværdigt ry for at tage folks penge og derefter nægte at betale, det er en meget konkurrencepræget sektor. De mindre agile vil sandsynligvis ikke overleve mod konkurrenter, der bruger AI for at forblive profitable, mens de sænker deres præmier.

For at tilbyde lavere præmier, et forsikringsselskab skal vide, at en person er, faktisk, en lavere risiko. Den muliggørende teknologi er tingenes internet, det fælles navn for de milliarder af internetforbundne sensorer, der er indlejret i alle mulige objekter, vi bruger hver dag. De er i telefoner, ure, biler, fitness trackere, hjemmeassistenter og mange andre ting. Tilsammen danner de et "økosystem" af sensorer.

Data indsamlet over tid giver forsikringsselskabet mulighed for at lave en individuelt tilpasset risikoprofil baseret på en persons faktiske adfærd, en praksis kendt som adfærdspolitisk prisfastsættelse .

Bliver 'smart'

For at sænke din hus- og indboforsikring, forsikringsselskabet vil lappe ind i AI-hubben, der kører dit "intelligente hjem" gennem sit økosystem af sensorer.

Hvis der er et mønster af indbrud i nabolaget, hjemmecentret vil vide, fordi den er tilsluttet forsikringsselskabets netværk. Låse og alarmer kan primes, og politiet tilkaldes ved første tegn på problemer. For at håndtere risikoen for brand, sensorer vil overvåge varme, fugtighed og opdage røg. Hvis komfuret står tændt, hjemmehubben vil slukke for det, før det bliver et problem.

For at beregne lavere bilforsikringspræmier, dit forsikringsselskab vil måske overvåge den måde, du kører på og vedligeholder din bil.

Sygeforsikringspræmier kan kræve, at forsikringsselskabet får adgang til dine journaler og bærer en fitness-tracker.

En ny industrisektor vil opstå. Specialiserede virksomheder, der implementerer IoT-sensorer og indsamler data, vil samarbejde med forsikringsselskaber for at danne et nyt forretningsøkosystem. Hele branchen vil skifte fra ren reaktiv forsikring til proaktiv, risikominimerende dækning.

Det hele lyder ret positivt. Men der er også bredere risici i den snævre stræben efter at minimere forsikringsrisikoen.

Forskelsbehandling

En meget klar fare er problemet med profilering – at blive bedømt til en højere eller lavere forsikringsrisiko, fordi du tilhører en bestemt demografisk gruppe.

AI kan nu differentiere risiko i hundredvis af faktorer. Algoritmer scanner disse faktorer for at identificere klynger af tidligere uerkendte risici. De kan også udlede klynger på egen hånd.

Men disse konklusioner kan utilsigtet diskriminere. Der er allerede mange eksempler, hvor AI-algoritmer utilsigtet har forstærket stereotyper.

Sagen om prædiktiv politiarbejde i Durham, England, illustrerer problemet. Politiet udviklede dér en algoritme til bedre at forudsige risikoen for personer, der er sigtet for en lovovertrædelse, hvis de skulle få kaution. Det, den gjorde, var at diskriminere fattigere på grundlag af, hvor de boede.

Opportunistisk prissætning

Der er også udsigt til mere individualiseret diskrimination.

Allerede ganske velkendt er problemet med genetisk diskrimination – risikoen for, at et sundheds- eller livsforsikringsselskab forhøjer præmierne eller endda nægter dækning for visse tilstande baseret på, hvad dit DNA afslører om din genetiske disposition for visse forhold.

AI åbner et helt nyt område af personlig diskrimination, baseret på, hvad den kan få ud af din adfærd og præferencer.

For én ting, den overflod af data, der potentielt er tilgængelige for AI, kan fortælle et forsikringsselskab meget om dine forbrugsvaner. Hvor handler du? Hvad køber du? Hvornår bruger du? Søger du gode tilbud eller betaler du fuld pris?

At vide alt dette vil hjælpe et forsikringsselskab med at vurdere, om det kan slippe af sted med at opkræve en toppris.

Nogle i branchen hævder, at det netop er sådan, markeder fungerer, men når det lettes af hidtil uset adgang til personlige oplysninger, det bliver en yderst tvivlsom praksis.

Tab af privatliv

Et forsikringsselskab kan også blive fristet til at bruge dataene til andre formål end risikovurdering. I betragtning af dens værdi, dataene kan blive solgt til tredjeparter til forskellige formål for at kompensere for omkostningerne ved at indsamle dem. Annoncører, marketingfolk, lobbyister og politiske partier er alle umætteligt sultne efter detaljerede demografiske data.

I modsætning til hvad folk måske tror, disse data er ikke ejendom tilhørende den person, den vedrører. Det ejes af den, der har betalt for det. Forbrugere skal være juridisk beskyttet mod, at deres data bliver brugt til andre formål uden deres informerede samtykke.

Håndtering af risiko

Med enhver kraftfuld ny teknologi er der fordele og risici. The benefits should be made clear and the risks managed down to an acceptable level. There is of course irony in having to manage the risk of managing risk.

Insurance companies have a job to do to ensure customers can trust there is far more upside than downside in AI. They will need to adopt transparently fair, if not benevolent, practices that contribute to the greater good. It has to be about more than profit.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.