Opbygning af tillid til kunstig intelligens

Fra telekommunikation til vejtrafik, fra sundhedspleje til arbejdspladsen - digital teknologi er nu en iboende del af næsten alle områder af livet. Men hvordan kan vi sikre, at udviklingen på dette område, især dem, der er afhængige af kunstig intelligens (AI), opfylde alle vores etiske, juridiske og teknologiske bekymringer? I et projekt ledet af Fraunhofer Institute for Intelligent Analysis and Information Systems IAIS, og med deltagelse af Tysklands forbundskontor for informationssikkerhed (BSI), et tværfagligt team af forskere fra universiteterne i Bonn og Köln udarbejder et inspektionskatalog for certificering af AI -applikationer. De har nu udgivet en hvidbog, der præsenterer den filosofiske, etisk, juridiske og teknologiske spørgsmål.

Kunstig intelligens ændrer vores samfund, vores økonomi og vores hverdag på grundlæggende måder. Og ved at gøre det, det skaber nogle spændende muligheder i, hvordan vi lever og arbejder sammen. For eksempel, det hjælper allerede læger til bedre at vurdere røntgenstråler, hvilket ofte fører til en mere præcis diagnose. Det er grundlaget for chatbots, der giver nyttige svar til folk, der søger råd om, for eksempel, forsikring. Og, inden for længe, det vil gøre det muligt for biler at blive mere og mere autonome. Nuværende prognoser indikerer, at antallet af AI -applikationer forventes at stige eksponentielt i de kommende år. McKinsey, for eksempel, projekterer yderligere global vækst fra kunstig intelligens på op til 13 milliarder amerikanske dollars inden 2030.

På samme tid, det er klart, at vi skal sikre, at vores brug af AI og de muligheder, den giver, forbliver i harmoni med vores samfunds synspunkter og værdier. Agerer under ledelse af Kompetenzplattform KI.NRW, en AI-kompetenceplatform i staten Nordrhein-Westfalen, et tværfagligt team er gået sammen om at udvikle en certificeringsproces for AI -applikationer, der skal udføres af akkrediterede eksaminatorer. Dette bekræfter overholdelse af en certificeret kvalitetsstandard, der, på tur, vil gøre det muligt for teknologivirksomheder at verificere design af AI -applikationer, der er teknisk pålidelige og etisk acceptable.

"Formålet med certificeringen er at hjælpe med at etablere kvalitetsstandarder for AI lavet i Europa, at sikre en ansvarlig tilgang til denne teknologi og fremme fair konkurrence mellem de forskellige aktører, "siger prof. dr. Stefan Wrobel, direktør for Fraunhofer IAIS og professor i datalogi ved universitetet i Bonn.

Fokus på det menneskelige aspekt

Kunstig intelligens har potentiale til at udvide vores evner og give os ny viden. Imidlertid, når vi begynder at basere vores beslutninger på maskinlæring, der enten er helt eller delvist automatiseret, vi står over for en række nye udfordringer. Den tekniske gennemførlighed af sådanne applikationer er en overvejelse. Først og fremmest, imidlertid, vi skal løse det grundlæggende filosofiske, etiske og juridiske spørgsmål. For at sikre, at menneskers behov er fast forankret i centrum for udviklingen af ​​denne teknologi, tæt dialog mellem områderne informationsteknologi, filosofi og jura er nødvendig.

Ekspertteamet har nu offentliggjort en hvidbog, hvori de beskriver deres tværfaglige tilgang til certificeringsprocessen. For eksempel, de forklarer de involverede etiske principper. "Enhver, der bruger AI, bør kunne handle korrekt i overensstemmelse med deres moralske overbevisning, og ingen bør begrænses i deres rettigheder, frihed eller autonomi, "siger professor Dr. Markus Gabriel, professor i filosofi ved universitetet i Bonn. Juridiske spørgsmål er også blevet behandlet. "For eksempel, vi er nødt til at bestemme, hvordan AI-applikationer kan foretages for at være i overensstemmelse med de grundlæggende værdier og principper i en retsstat og underlagt principperne om frihed, "forklarer prof. Frauke Rostalski, professor i jura ved universitetet i Köln.

Prioriteter for at opbygge tillid til brugen af ​​kunstig intelligens

Denne tværfaglige tilgang har identificeret en række etiske, juridiske og teknologiske spørgsmål af relevans for brugen af ​​AI. Disse er alle gennemgået i hvidbogen. Kriterierne, der anvendes i en certificeringsproces, bør omfatte retfærdighed, gennemsigtighed, autonomi, styring, data beskyttelse, sikkerhed, sikkerhed og pålidelighed. Anbefalinger fra EU fungerer således også som orientering for KI.NRW certificeringsprojektet.

Certificeringsprocessen vil dreje sig om spørgsmål som:Respekterer AI -applikationen samfundets love og værdier? Bevarer brugeren fuld og effektiv autonomi over applikationen? Behandler ansøgningen alle deltagere på en fair måde? Fungerer applikationen og træffer beslutninger på en måde, der er gennemsigtig og forståelig? Er applikationen pålidelig og robust? Er det sikkert mod angreb, ulykker og fejl? Beskytter applikationen det private område og andre følsomme oplysninger?

Indbygning i kontroller og kontroller på designfasen

Ifølge hvidbogen, det skal afgøres under den indledende designproces, om ansøgningen er etisk og juridisk tilladt - og i så fald hvilke kontroller og kontroller, der skal formuleres for at styre denne proces. Et nødvendigt kriterium er at sikre, at brugen af ​​applikationen ikke kompromitterer nogen, der bruger det i deres evne til at træffe en moralsk beslutning - som om muligheden eksisterede for at afvise brugen af ​​AI - og at deres rettigheder og friheder ikke indskrænkes på nogen måde .

Gennemsigtighed er et andet vigtigt kriterium:eksperterne understreger, at oplysninger om korrekt brug af applikationen skal være let tilgængelige, og resultaterne bestemt ved brug af AI i applikationen skal være fuldt fortolkelige, sporbar og reproducerbar af brugeren. modstridende interesser, såsom gennemsigtighed og ikke -afsløring af forretningshemmeligheder, skal afbalanceres i forhold til hinanden.

Planen er at offentliggøre en første version af inspektionskataloget i begyndelsen af ​​2020 og derefter begynde med certificering af AI -applikationer. Dette projekt involverer også deltagelse af Tysklands forbundskontor for informationssikkerhed (BSI), som har stor erfaring med udvikling af sikre IT-standarder. Denne knowhow vil indgå i certificeringsprocessen. Endelig, i betragtning af at AI konstant udvikler sig, selve inspektionskataloget vil være et "levende dokument" med behov for løbende opdatering.