Hvordan mennesker passer ind i Googles maskinfremtid

I 1998, Google begyndte ydmygt, formelt indbygget i en Menlo Park garage, levere søgeresultater fra en server, der er anbragt i legoklodser. Det havde et ligetil mål:at gøre det dårligt indekserede World Wide Web tilgængeligt for mennesker. Dets succes var baseret på en algoritme, der analyserede selve internetforbindelsesstrukturen for at evaluere, hvilke websider der er mest velrenommerede og nyttige. Men grundlæggerne Sergey Brin og Larry Page havde et langt mere ambitiøst mål:De ville organisere verdens information.

Tyve år senere, de har opbygget et firma, der går langt ud over selv det høje mål, forsyne enkeltpersoner og virksomheder med e -mail, fildeling, webhosting, hjemmeautomatisering, smartphones og utallige andre tjenester. Den legende startup, der begyndte som en landmåler af nettet, er blevet en arkitekt af virkeligheden, skabe og definere, hvad dets milliarder af brugere finder, se, kender eller selv er klar over.

Google kontrollerer mere end 90 procent af det globale søgemarked, får både brugere og virksomheder til at designe hjemmesider, der appellerer til virksomhedens algoritmer. Hvis Google ikke kan finde en oplysning, den viden eksisterer simpelthen ikke for Google-brugere. Hvis det ikke er på Google, eksisterer den overhovedet overhovedet?

Intimitetsmaskinen

På trods af dets milliarder af besvarede søgeforespørgsler, Google er ikke bare en telefonsvarer. Google overvåger, hvilke svar folk klikker på, forudsat at de er mere relevante og af højere værdi, og returnere dem mere fremtrædende i fremtidige søgninger om dette emne. Virksomheden overvåger også brugeraktiviteter på sin e-mail, forretningsapplikationer, musik og mobile operativsystemer, bruge disse data som en del af en feedback-loop for at give brugerne mere af det, de kan lide.

Alle de data, den indsamler, er den egentlige kilde til Googles dominans, gør virksomhedens tjenester stadig bedre til at give brugerne det, de ønsker. Gennem autofuldførelse og personlig filtrering af søgeresultater, Google forsøger at forudse dine behov, nogle gange før du overhovedet har dem. Som Googles tidligere administrerende bestyrelsesformand Eric Schmidt engang udtrykte det, "Jeg tror faktisk, at de fleste mennesker ikke ønsker, at Google svarer på deres spørgsmål. De vil have, at Google fortæller dem, hvad de skal gøre næste gang."

Om tyve år, med yderligere to årtiers fremskridt, Google vil være endnu mere dygtig, måske nærmer sig en vision Brin udtrykte for mange år siden:"Den perfekte søgemaskine ville ligne Guds sind." Folk kommer til at stole på disse værktøjer, med deres avancerede kunstig intelligens-baserede algoritmer, ikke bare for at vide ting, men for at hjælpe dem med at tænke.

Søgelinjen er allerede blevet et sted, hvor folk stiller personlige spørgsmål, en slags skriftemål eller strøm af bevidsthed, der er dybt afslørende om, hvem brugerne er, hvad de tror på og hvad de vil. I fremtiden, Google vil kende dig endnu bedre, kombinere søgeresultater, browsinghistorik og lokationssporing med biofysiske sundhedsdata fra wearables og andre kilder, der kan give kraftfuld indsigt i din sindstilstand.

En ny form for sårbarhed

Det er ikke langt ude at forestille sig, at i fremtiden, Google ved måske, hvis en person er deprimeret, eller har kræft, før brugeren selv indser det. Men selv derudover, Google kan have den afgørende rolle i en stadigt strammere tilpasning mellem det, du tror, ​​dine behov er, og hvad Google fortæller dig, at de er.

Ud over dets virkninger på individuelle mennesker, Google samler magt til at påvirke samfundet – måske usynligt. Fiktion har en advarsel om, hvordan det kunne se ud:I filmen "Ex Machina, "et iværksættergeni afslører, hvordan han samlede råmaterialet fra milliarder af søgeforespørgsler til et kunstigt sind, der er yderst effektivt til at manipulere mennesker baseret på, hvad det lærer om folks adfærd og skævheder.

Men denne situation er ikke rigtig fiktion. Så længe siden som 2014, forskere på Facebook har berygtet demonstreret, hvor nemt det er at manipulere brugere med positive eller negative indlæg i deres nyhedsfeeds. Når folk giver algoritmer mere magt over deres daglige liv, vil de bemærke, hvordan maskinerne styrer dem?

At overleve den glorværdige fremtid

Hvorvidt Google i sidste ende udøver denne magt afhænger af dets menneskelige ledere – og af det digitale samfund, som Google er så centralt i at opbygge. Virksomheden investerer stort i maskineintelligens, forpligter sig til en stærkt automatiseret fremtid, hvor mekanikerne og, måske, den sande indsigt i jagten på viden bliver vanskelig eller umulig for mennesker at forstå.

Google er gradvist ved at blive en forlængelse af individuel og kollektiv tankegang. Det bliver sværere at genkende, hvor folk slutter, og Google begynder. Folk vil både blive bemyndiget af og afhængige af teknologien – som vil være let for alle at få adgang til, men svær at kontrollere for folk.

Mennesker bliver nødt til at finde måder at samarbejde med – og styre aktiviteterne i – stadig mere sofistikeret maskinintelligens, snarere end blot at blive brugere, der blindt følger sporene af sorte bokse, de ikke længere forstår eller kontrollerer.

Baseret på vores undersøgelser af de komplekse forhold mellem mennesker og teknologier, en kritisk nøgle til denne nye forståelse af algoritmer vil være historiefortælling. Den menneskelige hjerne er dårlig til at forstå og behandle data – dvs. selvfølgelig, en maskines kernestyrke. At arbejde sammen, et nyt menneske-maskine forhold vil skulle afhænge af en unik menneskelig styrke – historiefortælling. Folk vil arbejde bedst med systemer, der kan arbejde igennem historier og forklare deres handlinger på måder, mennesker kan forstå og ændre.

Jo mere folk overlader computerbaserede systemer til at organisere kultur og samfund, jo mere burde de kræve, at disse systemer fungerer efter regler, som mennesker kan forstå. Den dag, vi holder op med at være de primære forfattere af historien om menneskeheden, er den dag, den holder op med at være en historie om os.

Denne artikel er genudgivet fra The Conversation under en Creative Commons -licens. Læs den originale artikel.