Algoritmer har allerede overtaget menneskelig beslutningstagning

Jeg kan stadig huske min overraskelse, da en bog af evolutionsbiolog Peter Lawrence hed Fremstilling af en flue kom til at blive prissat på Amazon til $23, 698, 655,93 (plus $ 3,99 forsendelse). Mens mine kolleger rundt om i verden må være blevet temmelig deprimerede over, at en akademisk bog kunne opnå sådan en bedrift, den høje pris var faktisk resultatet af algoritmer, der nærede sig hinanden og kom ud af kontrol. Det viser sig, det var ikke kun salgspersonale, der var kreative:algoritmer kaldte skud.

Dette iøjnefaldende eksempel blev opdaget og rettet. Men hvad nu hvis en sådan algoritmisk interferens sker hele tiden, herunder på måder, vi ikke engang lægger mærke til? Hvis vores virkelighed bliver mere og mere konstrueret af algoritmer, hvor efterlader dette os mennesker?

Inspireret af sådanne eksempler, min kollega Prof Allen Lee og jeg har for nylig sat os for at udforske de dybere virkninger af algoritmisk teknologi i en artikel i Journal of the Association for Information Systems. Vores udforskning førte os til den konklusion, at over tid, informationsteknologiens og menneskets roller er blevet vendt. I fortiden, vi mennesker brugte teknologi som et værktøj. Nu, teknologien er avanceret til det punkt, hvor den bruger og endda kontrollerer os.

Vi mennesker er ikke kun afskåret fra de beslutninger, maskiner træffer for os, men er dybt påvirket af dem på uforudsigelige måder. I stedet for at være central i det system af beslutninger, der påvirker os, vi bliver kastet ud i dets omgivelser. Vi har gradvist begrænset vores egen beslutningskapacitet og tilladt algoritmer at overtage. Vi er blevet kunstige mennesker, eller menneskelige artefakter, der er skabt, formet og brugt af teknologien.

Der er masser af eksempler. Sviger, juridiske analytikere bliver gradvist erstattet af kunstig intelligens, hvilket betyder, at forsvaret eller retsforfølgningen af ​​en sag til dels kan stole på algoritmer. Software har endda fået lov til at forudsige fremtidige kriminelle, i sidste ende kontrollere den menneskelige frihed ved at forme hvordan parole nægtes eller gives fanger. På denne måde dommernes sind bliver formet af beslutningsmekanismer, de ikke kan forstå på grund af, hvor kompleks processen er, og hvor meget data den involverer.

På arbejdsmarkedet, overdreven afhængighed af teknologi har fået nogle af verdens største virksomheder til at filtrere CV’er gennem software, hvilket betyder, at menneskelige rekrutterere aldrig vil kigge på nogle potentielle kandidaters detaljer. Dette sætter ikke kun folks levebrød på maskinernes nåde, det kan også bygge på ansættelsesfordele, som virksomheden ikke havde noget ønske om at implementere, som det skete med Amazon.

I nyheder, den såkaldte automatiserede følelsesanalyse analyserer positive og negative meninger om virksomheder baseret på forskellige webkilder. På tur, disse bliver brugt af handelsalgoritmer, der træffer automatiserede økonomiske beslutninger, uden at mennesker reelt behøver at læse nyhederne.

Utilsigtede konsekvenser

Faktisk, Algoritmer, der fungerer uden menneskelig indgriben, spiller nu en væsentlig rolle på de finansielle markeder. For eksempel, 85 % af al handel på valutamarkederne udføres af algoritmer alene. Det voksende algoritmiske våbenkapløb om at udvikle stadig mere komplekse systemer til at konkurrere på disse markeder betyder, at enorme summer bliver tildelt i henhold til maskinens beslutninger.

I lille skala, de mennesker og virksomheder, der skaber disse algoritmer, er i stand til at påvirke, hvad de gør, og hvordan de gør det. Men fordi meget af kunstig intelligens involverer programmering af software til at finde ud af, hvordan man udfører en opgave af sig selv, vi ved ofte ikke præcist, hvad der ligger bag beslutningstagningen. Som med al teknologi, dette kan føre til utilsigtede konsekvenser, der kan gå langt ud over alt, hvad designerne nogensinde havde forestillet sig.

Tag 2010 "Flash Crash" af Dow Jones Industrial Average Index. Algoritmernes handling var med til at skabe indeksets største enkeltfald i dets historie, tørrer næsten 9% af sin værdi på få minutter (selvom den genvandt det meste af dette ved slutningen af ​​dagen). En fem måneder lang undersøgelse kunne kun antyde, hvad der udløste nedturen (og forskellige andre teorier er blevet foreslået).

Men algoritmerne, der forstærkede de indledende problemer, lavede ikke en fejl. Der var ikke en fejl i programmeringen. Adfærden opstod fra samspillet mellem millioner af algoritmiske beslutninger, der spillede ud af hinanden på uforudsigelige måder, efter deres egen logik på en måde, der skabte en nedadgående spiral for markedet.

Betingelserne, der gjorde dette muligt, opstod fordi, i årenes løb, de mennesker, der driver handelssystemet, var kommet til at se menneskelige beslutninger som en hindring for markedseffektivitet. Tilbage i 1987, da det amerikanske aktiemarked faldt med 22,61 %, nogle Wall Street -mæglere stoppede simpelthen med at tage deres telefoner for at undgå at modtage deres kunders ordrer om at sælge aktier. Dette startede en proces, som forfatter Michael Lewis udtrykte det i sin bog Flash Boys, "er endt med, at computere helt erstatter folk".

Finansverdenen har investeret millioner i superhurtige kabler og mikrobølgekommunikation for at barbere blot millisekunder fra den hastighed, hvormed algoritmer kan sende deres instruktioner. Når hastighed er så vigtig, et menneske, der kræver massive 215 millisekunder for at klikke på en knap, er næsten helt overflødig. Vores eneste tilbageværende formål er at omkonfigurere algoritmerne, hver gang systemet med teknologiske beslutninger fejler.

Efterhånden som nye grænser bliver skåret mellem mennesker og teknologi, vi skal tænke grundigt over, hvor vores ekstreme afhængighed af software fører os hen. As human decisions are substituted by algorithmic ones, and we become tools whose lives are shaped by machines and their unintended consequences, we are setting ourselves up for technological domination. We need to decide, while we still can, what this means for us both as individuals and as a society.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.