Regulering af Facebook, Google og Amazon er svære i betragtning af deres forvirrende kompleksitet

Tilbage i 1990'erne - for en levetid siden internetmæssigt - udgav den spanske sociolog Manuel Castells flere bøger, der viser fremkomsten af ​​informationsnetværk. Han forudsagde, at i netværksalderen, mere værdi ville opnå ved at kontrollere informationsstrømme end ved at kontrollere selve indholdet.

Med andre ord, dem, der positionerede sig selv som netværkshubs – routere og switchere af information – ville blive magtens gatekeepere i den digitale tidsalder.

Med fremkomsten af ​​internetjuggernauts Google, Facebook, Amazon og andre, denne indsigt virker indlysende nu. Men i løbet af de sidste to årtier har en fundamentalt ny forretningsmodel dukkede op, som selv Castells ikke havde forudset – en, hvor det at tiltrække brugere til digitale platforme har forrang over alt andet, herunder hvad brugeren måtte sige, gør, eller køb på den platform.

Indsamling af information blev det dominerende imperativ for teknologigiganter - frivilligt hjulpet af brugere, der først blev charmeret af nyheder, derefter ved hjælp af bekvemmeligheden og selvudfoldelsen, det giver ved at være online. Resultatet var en eksplosion af information, som online giganter kan samle og bruge til profit.

Alene omfanget af denne virksomhed betyder, at meget af det er usynligt for den daglige bruger. De store platforme er nu så komplekse, at deres indre funktioner er blevet uigennemsigtige selv for deres ingeniører og administratorer. Hvis systemet nu er så stort, at ikke engang dem, der arbejder i det, kan se hele billedet, hvilket håb har tilsynsmyndighederne eller offentligheden?

Selvfølgelig, regeringer forsøger at slå tilbage. GDPR -lovene i Europa, ACCC Digital Platforms-rapporten i Australien, og DETOUR Act introduceret til den amerikanske kongres i april – alle er væsentlige forsøg på at tilbagekalde et eller andet agentur. På samme tid, det går op for samfund overalt, at disse bestræbelser, mens det er afgørende, er ikke nok.

Portvagter regerer

Hvis du tænker på internettet som en gigantisk maskine til deling og kopiering af information, så bliver det klart, at systemerne til sortering af disse oplysninger er afgørende. Tænk ikke kun på Googles søgeværktøj, men også af den måde, Google og Amazon dominerer cloud computing på – de stort set usynlige systemer, der gør internettet brugbart.

Over tid, disse platforme har opnået større og større kontrol over, hvordan information strømmer igennem dem. Men det er en ukendt form for kontrol, involverer i stigende grad autonome, selvlærende systemer, der i stigende grad er uudgrundelige for mennesker.

Information gatekeeping er altafgørende, hvorfor platforme som Google, Amazon og Facebook er nået til overherredømmet. Men det betyder ikke, at disse platforme nødvendigvis skal konkurrere eller samarbejde med hinanden. Internettet er virkelig enormt, et faktum, der har gjort det muligt for hver platform at blive kejser af en voksende niche:Google til søgning, Facebook til sociale, Amazon til detailhandel, og så videre. I hvert domæne, de spillede rollen som etablerede, forstyrrende, og innovator, alt på samme tid.

Nu er der ingen, der konkurrerer med dem. Uanset om du er et individ, forretning, eller regeringen, hvis du har brug for internettet, du har brug for deres tjenester. Den netværksforbundne tidsalder er strukturelle.

Algoritmer kører showet

For at disse platforme skal forblive på toppen, innovation er et konstant krav. Efterhånden som opgaven med sortering bliver større og mere kompleks, vi ser udviklingen af ​​algoritmer så avanceret, at deres menneskelige skabere har mistet evnen til at forstå deres indre virke. Og hvis outputtet opfylder opgaven, systemets indre funktion anses for at være af mindre betydning.

I mellemtiden, litanien af ​​negative virkninger er ubestridelige. Denne modige nye maskinledede verden eroderer vores evne til at identificere, lokalisere, og stole på autoritative oplysninger, til fordel for hastighed.

Det er rigtigt, at patienten allerede var utilpas; samfund er blevet udhulet af tre årtiers markedsfundamentalisme. Men som den amerikanske teknologihistoriker George Dyson for nylig advarede, selvreplikerende kode er nu derude i cyberøkosystemet. Hvad der begyndte som en måde for mennesker at lokke andre til ønsket adfærd, truer nu med at forvandles til intet mindre end manipulation af mennesker af maskiner.

Den digitale tidsalder har ansporet enorm vækst inden for forskningsdiscipliner som socialpsykologi, adfærdsøkonomi, og neurovidenskab. De har givet forbløffende indsigt i menneskelig erkendelse og adfærd, med potentielle anvendelser, der er langt fra godartede.

Selvom denne indsats var blevet grundlagt med de bedste hensigter, ulykker florerer, når fejlbare mennesker griber ind i komplekse systemer med spæde etiske og juridiske underlag. Kast ondsindede hensigter ind i blandingen - valgindblanding, informationskrigsførelse, online ekstremisme - og udfordringerne stiger kun.

Hvis du stadig tænker på digitale teknologier som værktøjer – hvilket betyder, at du, brugeren, har fuld kontrol - du skal tænke igen. Sandheden er, at ingen virkelig ved, hvor selvreplikerende digital kode vil føre os hen. Du er feedbacken, ikke instruktionen.

Regulatorer ved ikke, hvor de skal starte

Der vokser enighed om, at reguleringsindgreb er tvingende nødvendigt for at afværge yderligere social forstyrrelse, og at bringe demokratisk og juridisk tilsyn med praksis i verdens største monopoler. Men, hvis Dyson har ret, ånden er allerede ude af flasken.

Betaget af nyheden og bekvemmeligheden i livet online, vi har uforvarende tilladt Silicon Valley at udføre et "kup fra oven". Det er længe siden, at ideologien, der informerede dette kup, og styrer nu så meget dagligdags menneskelig aktivitet, er udsat for kontrol.

Udfordringerne i den digitale informationsalder rækker ud over monopoler og privatliv. Dette regime af teknologier blev bygget ved design uden bekymringer om udnyttelse. Disse sårbarheder er omfattende og vil fortsat blive misbrugt, og nu hvor denne teknologi er så intimt en del af dagligdagen, dets afhjælpning bør forfølges uden frygt eller gunst.

Alligevel kan lovgivnings- og reguleringsindgreb kun være effektive, hvis industrien, regeringer og civilsamfundet kombinerer for at bygge, af design, en digital informationsalder, der er værd at navngive, hvilket ikke lader os alle åbne for udnyttelse.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.