Vejledning i den intelligente vækst af kunstig intelligens

Et nyt papir udgivet i AI kommunikation giver et omfattende kig på udviklingen af ​​etiske rammer, adfærdskodeks, og værdibaserede designmetoder til AI-forskere og applikationsudviklere i Europa. "Barcelona-erklæringen for korrekt udvikling og brug af kunstig intelligens i Europa" blev lanceret i foråret 2017 ved B-Debat-arrangementet i Barcelona, at stimulere yderligere diskussion blandt beslutningstagere, brancheledere, forskere og applikationsudviklere om AI's muligheder og risici i det nuværende "gold rush" -miljø.

Ud over at dokumentere den komplette Barcelona -erklæring, papiret undersøger begrundelsen bag det, fokuserer på sikkerhed, pålidelighed, og etiske spørgsmål og evaluerer fremskridt med sine vigtigste anbefalinger. Sponsoreret af Biocat og l'Obra Social la Caixa, med støtte fra ICREA, Institut de Biologia Evolutiva, og Institut d'Investigacio en Intelligencia Artificial, B-Debate samlede topeksperter i Europa for at diskutere strategier til håndtering af AI-risici og fordele. Arrangementet var unikt på grund af deltagelse af europæiske udviklere og forskere i en diskurs, der tidligere var domineret af amerikanske og britiske samfundsforskere, juridiske eksperter, og virksomhedskonsulentfirmaer. Barcelona -erklæringen blev underskrevet af de fleste af deltagerne og er tilgængelig for underskrift og diskussion på nettet.

"I betragtning af den udbredte interesse for AI og iveren efter at udvikle applikationer, der påvirker mennesker i deres daglige liv, det er vigtigt, at forsknings- og applikationsudviklingssamfundet deltager i åbne diskussioner for at undgå urealistiske forventninger, utilsigtede konsekvenser, og brug, der forårsager negative bivirkninger eller menneskelig lidelse, "sagde Luc Steels, Ph.d., ICREA Research Professor, Catalansk institution for forskning og avancerede studier (ICREA) - IBE (UPF/CSIC), Barcelona, hvem sammen med sin medforsker Ramon Lopez de Mantaras, Ph.d., Forskningsprofessor ved det spanske nationale forskningsråd (CSIC) og direktør for Instituto de Investigación en Inteligencia Artificial (IIIA) - CSIC, Bellaterra, Barcelona, arrangerede Barcelona -arrangementet.

Mens de fleste AI -aktiviteter er i USA og Kina, de seneste tiltag fra Europa -Kommissionen og de nationale regeringer tyder på, at forskning og udvikling stiger i Europa, vækst, som diskursen omkring erklæringen er med til at forme. En lovende udvikling var den nylige tildeling inden for det europæiske H2020 -rammeprogram til oprettelse af et økosystem og en platform til stimulering af europæisk AI -forskning, som krævet i erklæringen. Papiret fornyer sin appel til europæiske finansieringsbureauer og virksomheder om at investere i udviklingen af ​​AI i en skala, der er tilstrækkelig til udfordringen, og på en sådan måde, at alle europæiske regioner og borgere kan tjene penge.

B-debatten, Barcelona -erklæringen, og en hurtigt voksende litteratur rejser presserende spørgsmål, der fortsat giver genlyd:Er AI klar til stor indsats? AI bruges nu primært til kommercielle formål, men kan vi også bruge AI til fælles bedste? Hvilke applikationer skal vi opmuntre? Hvordan kan de negative virkninger ved implementering af AI afhjælpes? Hvad er de seneste tekniske gennembrud inden for AI, og hvordan påvirker de applikationer? Hvilken rolle skal AI spille i sociale medier? Hvad er den bedste praksis til udvikling og implementering af AI?

"Mens hurtige AI -fremskridt forventes bredt med spænding, en vis angst for fremskridt er nødvendig og berettiget, "kommenterede Steels og Lopez de Mantaras." Den almindelige frygt for, at AI-implementering kommer ud af hånden, kan virke langt ude, men der er allerede utilsigtede konsekvenser, der kræver akut afhjælpning. For eksempel, algoritmer indlejret i internettet og sociale medier har indflydelse på, hvem der taler til hvem, hvordan oplysninger vælges og præsenteres, og hvordan fakta/usandheder spreder sig og konkurrerer i det offentlige rum. AI bør (og kunne) hjælpe med at understøtte dannelse af konsensus frem for at ødelægge den. AI -systemer bør gøre det meget klart, at de er kunstige frem for mennesker. At narre mennesker bør aldrig være et mål for AI. "

Spørgsmål undersøges også om pålidelighed og ansvarlighed for AI-systemer baseret på dyb læring, der involverer regelstyret adfærd (f.eks. Økonomisk beslutningstagning, Human Resource Management, eller retshåndhævelse). Indlejrede fordomme kan forhindre kvalificerede jobsøgende i at bestå screening eller resultere i uretfærdige parole -beslutninger. Autonome AI -systemer giver forskellige bekymringer. Skal vi sætte grænser for autonome våben? Hvem er ansvarlig, når noget går galt med en selvkørende bil?

"Barcelona -erklæringen har fastlagt en styringsramme for proaktivt at integrere bedste praksis, som en del af designprocessen. Vi tror på, at AI kan være en kraft til gavn for samfundet, men at der er en tilstrækkelig fare for upassende, for tidlig eller ondsindet brug for at berettige behovet for at øge bevidstheden om begrænsningerne ved AI og for kollektive handlinger for at sikre, at AI rent faktisk bruges til fælles bedste i sikkerhed, pålidelig, og ansvarlige måder, "forklarede Steels og Lopez de Mantaras.

Selvom AI -landskabet i Europa hurtigt ændrer sig gennem alle disse diskussioner og aktiviteter, efterforskerne konkluderer, at spørgsmål, der rejses i erklæringen, stadig er yderst relevante, og forny anbefalinger på flere prioriterede områder:

• Der er et endnu større behov i dag for at præcisere, hvad vi mener med AI, når vi diskuterer juridiske og etiske spørgsmål. Der mangler forskel mellem videnbaseret AI, som modellerer menneskelig viden i beregningsmæssige termer, eller dataorienteret læring, almindeligvis kendt som maskinlæring. De juridiske og etiske spørgsmål og anvendelser for begge fremgangsmåder er forskellige, men AI's fulde potentiale vil kun blive realiseret med en kombination af dem.
• Spørgsmålet, hvor meget autonomi der skal gives til et AI -system, er for mange applikationer, såsom våbenteknologi eller autonome biler, af primær betydning. En tilgang er at skabe styringsregler og en juridisk ramme, der både er en retningslinje for udviklere og en mekanisme, hvormed dem, der påvirkes negativt af teknologien, kan søge oprejsning.
• Fokus skal flytte fra maskiner, der erstatter menneskelige arbejdere til at supplere og udnytte mennesker til at udføre opgaver og træffe bedre beslutninger. Diskussionen om automatisering bør fokusere på arbejdets ændrede karakter, ikke kun antallet af job.
• Der er en lang vej at gå til tilstrækkelig støtte til udvikling og implementering af AI i Europa. Erklæringen har bidraget til at øge bevidstheden og har givet regeringen yderligere initiativer, men konkrete tiltag og stabile finansieringsallokeringer, der direkte påvirker AI -implementering, forskning, og uddannelse i Europa er stadig sjælden.