Efterhånden som menneskehedens forhold til AI vokser, eksperter kræver beskyttende rammer

Forskere har foreslået en ny international ramme for at holde etik og menneskelig velvære på forkant med vores forhold til teknologi.

Fra genterapi og AI-forudsagt sygdom til selvkørende biler og 3-D-print, teknologiske fremskridt kan forbedre sundheden, frigøre tid, og øge effektiviteten.

Men på trods af skabernes bedste hensigter, teknologi kan føre til utilsigtede konsekvenser for den enkeltes privatliv og autonomi.

Der er i øjeblikket ingen internationalt aftalt regulering om hvem, for eksempel, har adgang til data registreret af sorte bokse i biler, smart-tv'er og stemmeaktiverede personlige assistenter - og de seneste resultater har vist, at teknologi kan bruges til at påvirke stemmeadfærd.

Nu, Forskere fra Imperial College London har foreslået en ny lovgivningsramme, hvormed regeringer kan minimere utilsigtede konsekvenser af vores forhold til teknologi. Kommentarindlægget er offentliggjort i Nature Machine Intelligence .

Gruppen af ​​forskere, ledet af Imperials professor Rafael Calvo, sige, at deres forslag kunne hjælpe med at sikre menneskelige interesser som etik, privatliv, og velvære prioriteres i takt med, at vores forhold til teknologi vokser.

De foreslår at bruge miljøkonsekvensvurderingen, som vurderer de sandsynlige miljøpåvirkninger af et foreslået projekt eller udvikling, som en plan. I vurderingen tages der hensyn til de indbyrdes relaterede socioøkonomiske, kulturelle og menneskelige sundhedsvirkninger af en kunstig intelligens og teknologi.

Den foreslåede ramme, kendt som Human Impact Assessment for Technology (HIAT), ville være designet til at forudsige og evaluere den indvirkning, som nye digitale teknologier har på samfundet og den enkeltes velfærd. Det her, de argumenterer, bør fokusere på etiske overvejelser såsom individuel privatliv, velvære og selvstændighed.

Vurderingen bør også overveje, hvilke parter der er ansvarlige for at håndtere data og opretholde etiske standarder, samt hvem der har ansvaret, når det går galt, siger forskerne.

Professor Calvo, fra Imperials Dyson School of Design Engineering, sagde:"Vi står over for en fjerde industriel revolution gennem den hurtige udvikling af kunstig intelligens og teknologi - men efterhånden som vores forhold til kunstig intelligens vokser, det samme gør dets potentiale til at forstyrre vores liv. Tage, for eksempel, bevis på, at AI bruges af mennesker til at manipulere følelser, opmærksomhed, og stemmeadfærd, såvel som juridiske, pædagogisk, og ansættelsesbeslutninger.

"Nu er det tid til at sammensætte en ramme for at sikre, at vores forhold til AI fortsætter med at være positivt."

Etiske gåder

En HIAT-ramme vil hjælpe nye industrier med at navigere i de etiske gåder, der går hånd i hånd med brug af kunstig intelligens og lagring af store mængder data.

Ifølge kommentaren Spørgsmål, som internationalt aftalt vejledning kan hjælpe med at besvare omfatter:

• Nogle AI-assistenter kan ringe til restauranter på en persons vegne og bruge realistisk menneskelig tale til at foretage reservationer. I disse tilfælde, hvilke forpligtelser skal der være for at gøre det menneske, der tager telefonen, opmærksom på, at den, der ringer, er en maskine frem for et menneske? Hvilket samtykke skal indhentes for at gemme de indsamlede data fra disse samtaler?
• Nogle chauffører sætter sorte bokse til deres biler, der sender information til forsikringsselskaber om den måde, de kører på. Disse oplysninger bruges til at beregne forsikringspræmier. I disse tilfælde, hvordan kan vi forhindre, at de personlige data indsamlet og behandlet af AI (hvor du går hen og hvornår) bliver solgt til tredjeparter?
• Nogle polititjenester bruger Body Worn Video (BWV), mens de er på vagt til at optage video og lyd, som senere kan bruges under efterforskning. Der har også været nyere forsøg med ansigtsgenkendelsessoftware - men hvem har adgang til de indsamlede data i disse tilfælde, og er reglerne robuste nok til at beskytte offentlighedens privatliv?

Professor Calvo tilføjede:"Selvom vi ofte nyder godt af teknologiske fremskridt, vi kan også lide etisk, psykologiske og sociale omkostninger.

"Konsekvensvurderinger er et vigtigt værktøj til at indlejre visse værdier og er blevet brugt med succes i mange industrier, herunder minedrift, landbrug, civilingeniør, og industriteknik.

"Også andre sektorer såsom lægemidler, er vant til at innovere inden for stærke regulatoriske miljøer, og der ville være ringe tillid til deres produkter uden denne ramme.

"Når AI modnes, vi har brug for rammer som HIAT for at give borgerne tillid til, at denne kraftfulde nye teknologi vil være til gavn for alle."