Science fiction kunne redde os fra dårlig teknologi

Kortfilmen Slaughterbots skildrer en nær fremtid, hvor sværme af mikrodroner myrder tusindvis af mennesker for deres politiske overbevisning. Udgivet i november 2017 af akademikere og aktivister, der advarer om farerne ved avanceret kunstig intelligens (AI), det gik hurtigt viralt, tiltrækker over 3 millioner visninger til dato. Det var med til at sætte gang i en offentlig debat om fremtiden for autonome våben og lægge pres på diplomater, der mødtes ved De Forenede Nationers konvention om konventionelle våben.

Men denne form for spekulativ science fiction-historiefortælling er ikke kun nyttig til at tiltrække opmærksomhed. De mennesker, der designer og bygger avanceret teknologi, kan bruge historier til at overveje konsekvenserne af deres arbejde og sikre, at det bliver brugt til gode. Og vi tror, ​​at denne form for "science fiction prototyping" eller "design fiction" kunne hjælpe med at forhindre menneskelige skævheder i at arbejde sig ind i ny teknologi, yderligere forankring af samfundets fordomme og uretfærdigheder.

En bias kan føre til vilkårlig præference for nogle kategorier (af resultater, mennesker, eller ideer) frem for andre. For eksempel, nogle mennesker kan være forudindtaget imod at ansætte kvinder til ledende job, om de er bevidste om det eller ej.

Teknologi bygget op omkring data, der registrerer sådanne bias, kan ende med at replikere problemet. For eksempel, rekrutteringssoftware designet til at udvælge de bedste CV'er til et bestemt job kan være programmeret til at lede efter egenskaber, der afspejler en ubevidst bias over for mænd. I så fald algoritmen vil ende med at favorisere mænds CV'er. Og dette er ikke teoretisk - det skete faktisk for Amazon.

At designe algoritmer uden at overveje mulige negative implikationer er blevet sammenlignet med læger, der "skriver om fordelene ved en given behandling og fuldstændig ignorerer bivirkningerne, uanset hvor alvorlige de er."

Nogle teknologivirksomheder og forskere forsøger at tackle problemet. For eksempel, Google udarbejdede et sæt etiske principper til at guide sin udvikling af kunstig intelligens. Og britiske akademikere har lanceret et initiativ kaldet Not-Equal, der har til formål at tilskynde til større retfærdighed og retfærdighed i design og brug af teknologi.

Problemet er, at offentligt, virksomheder har en tendens til kun at levere en positiv vision om de potentielle konsekvenser af nær fremtidsteknologier. For eksempel, førerløse biler bliver ofte fremstillet som at løse alle vores transportproblemer fra omkostninger til sikkerhed, ignorerer de øgede farer ved cyberangreb eller det faktum, at de kunne tilskynde folk til at gå eller cykle mindre.

Vanskeligheden ved at forstå, hvordan digitale teknologier fungerer, især dem, der er stærkt drevet af obskure algoritmer, gør det også sværere for folk at have et komplekst og samlet syn på problemstillingerne. Denne situation frembringer en spænding mellem en betryggende positiv fortælling og den vage mistanke om, at skævheder til en vis grad er indlejret i teknologierne omkring os. Det er her, vi tror, ​​at historiefortælling gennem designfiktion kan komme ind.

Historier er en naturlig metode til at tænke over muligheder og komplekse situationer, og vi har hørt dem hele vores liv. Science fiction kan hjælpe os med at spekulere i virkningen af ​​nær fremtidsteknologier på samfundet, som Slaughterbots gør. Dette kan endda omfatte spørgsmål om social retfærdighed, ligesom den måde, visse grupper på, flygtninge og migranter, kan udelukkes fra digitale innovationer.

Afsløre den (mulige) fremtid

Designfiktionshistorier er en ny måde for designere, ingeniører og fremtidsforskere (blandt andre) til at tænke over teknologiens indvirkning fra et menneskeligt perspektiv og koble dette til mulige fremtidige behov. Med en blanding af logik og fantasi, designfiktion kan afsløre aspekter af, hvordan teknologi kan adopteres og bruges, starte samtaler om dets fremtidige konsekvenser.

For eksempel, novellen "Crime-sourcing" udforsker, hvad der kunne ske, hvis AI skulle bruge crowdsourced information og en kriminel database til at forudsige, hvem der kunne begå et mord. Forskerne fandt ud af, at fordi databasen var fuld af mennesker i etniske minoritetsgrupper, som af sociale årsager, var statistisk mere tilbøjelige til at gentage krænkelser, "kriminalitet-sourcing"-modellen var mere tilbøjelige til at mistænkte minoriteter forkert end hvide mennesker.

Du behøver ikke at være en talentfuld forfatter eller lave en smart film for at producere designfiktion. Brainstorming-aktiviteter, der involverer kort og storyboards, er blevet brugt til at udvikle designfiktion og hjælpe med at udvikle historiefortællingsprocessen. At gøre værksteder, der brugte denne slags værktøjer mere almindelige, ville give flere ingeniører, iværksættere og politiske beslutningstagere til at bruge denne vurderingsmetode. Og at gøre det resulterende arbejde offentligt tilgængeligt ville bidrage til at afsløre potentielle skævheder i teknologier, før de påvirker samfundet.

At tilskynde designere til at skabe og dele flere historier på denne måde ville sikre, at fortællingen, der understøtter ny teknologi, ikke kun vil give et positivt billede, heller ikke en ekstrem negativ eller dystopisk. I stedet, folk vil være i stand til at værdsætte begge aspekter af, hvad der sker omkring os.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.