Norman, når kunstig intelligens bliver psykopat

Ingen, det er ikke en ny gyserfilm. Det er Norman:også kendt som den første psykopatiske kunstige intelligens, netop afsløret af amerikanske forskere.

Målet er at forklare i lægmandssprog, hvordan algoritmer er lavet, og at gøre folk opmærksomme på AI's potentielle farer.

Norman "repræsenterer et casestudie om farerne ved kunstig intelligens, der er gået galt, når forudindtaget data bruges i maskinlæringsalgoritmer, " ifølge det prestigefyldte Massachusetts Institute of Technology (MIT).

Pinar Yanardag, Manuel Cebrian og Iyad Rahwan, del af et MIT-team, tilføjet:"der er en central idé inden for maskinlæring:de data, du bruger til at lære en maskinlæringsalgoritme, kan påvirke dens adfærd betydeligt."

"Så når vi taler om, at AI-algoritmer er partiske eller uretfærdige, synderen er ofte ikke selve algoritmen, men de partiske data, der blev tilført den, " sagde de via e-mail.

Derfor ideen om at skabe Norman, som blev opkaldt efter den psykopatiske morder Norman Bates i Alfred Hitchcock-filmen "Psycho" fra 1960.

Norman blev kun "fodret" med korte legender, der beskrev billeder af "døende mennesker" fundet på Reddit-internetplatformen.

Forskerne indsendte derefter billeder af blækklatter, som i Rorschach psykologiske test, for at bestemme, hvad Norman så og sammenligne hans svar med traditionelt trænet kunstig intelligens.

Resultaterne er skræmmende, mildt sagt:hvor traditionel kunstig intelligens ser "to mennesker stå tæt på hinanden, " Norman ser på samme sted med blæk "en mand, der springer ud af et vindue."

Og når Norman skelner mellem "en mand skudt ihjel af sin skrigende kone, " den anden AI registrerer "en person, der holder en paraply."

En dedikeret hjemmeside, norman-ai.mit.edu, viser 10 eksempler på blækklatter ledsaget af svar fra begge systemer, altid med et makabert svar fra Norman.

Siden lader internetbrugere også teste Norman med blækklatter og sende deres svar "for at hjælpe Norman med at reparere sig selv."

© 2018 AFP