Er der sådan noget som en sikker algoritme? Talen om regulering tager fart

Siden Frances Haugen, en tidligere Facebook-medarbejder, kom frem med bekymrende oplysninger om de vidtrækkende skader forårsaget af virksomhedens algoritmer, er snakken om potentielle reguleringsreformer kun blevet intensiveret.

Der er nu bred enighed blandt eksperter og politikere om, at lovgivningsmæssige ændringer er nødvendige for at beskytte brugere, især små børn og piger, som er sårbare over for psykiske problemer og kropsbilleder, der er knyttet til den sociale medieplatforms algoritmer. Adskillige ændringer er blevet grebet ind, fra ændringer til paragraf 230 i den føderale lov om anstændighed i kommunikation – loven, der regulerer ansvar blandt tjenesteudbydere, herunder internettet – til gennemsigtighedsmandater, der ville give eksterne eksperter adgang til de indre funktioner i teknologivirksomheder som Facebook .

Men i betragtning af forventningen om ytringsfrihed online, bliver lovgivere nødt til at være kreative. En potentiel løsning er at oprette et nyt føderalt agentur, der har til opgave at regulere de sociale medievirksomheder, som det blev gjort med Consumer Financial Protection Bureau i kølvandet på finanskrisen i 2008, men det rejser spørgsmål om, hvordan den politiske proces og partiernes forskellige ideer om privatlivets fred og ytringsfrihed, ville komme til at virke på en sådan indsats, siger flere nordøstlige eksperter.

"Jeg spekulerer på, om parterne nogensinde ville blive enige om at oprette et særligt agentur eller at udvide [Federal Communications Commission] på måder, der giver den føderale regering mere regulatorisk magt," siger David Lazer, professor i statskundskab og datalogi ved universitetet. ved det nordøstlige.

Et nyt agentur kan hjælpe med at aflaste nogle af de regulatoriske byrder, som Federal Trade Commission står over for, men det kan også vise sig at være et farligt politisk våben, som ingen af ​​parterne ønsker, at den anden skal have, siger Lazer.

Uanset hvad, så skal der være "flere mekanismer til at gøre Facebook mere gennemsigtigt," siger han.

"Problemet er, at når først du har gennemsigtighed, ser alle noget andet," siger Lazer.

Haugen vidnede for Kongressen i sidste uge og hjalp med at kaste lys over, hvordan Facebook, som også ejer Instagram og WhatsApp, udtænkte algoritmer, der promoverede hadefuldt, skadeligt og problematisk indhold på bekostning af dets brugere. Dokumenter Haugen delte med Wall Street Journal i sidste måned viste, at teknologigiganten vidste, at dens algoritmer var skadelige fra intern forskning, men valgte at holde oplysningerne hemmelige.

I løbet af weekenden sagde en topchef på Facebook, at virksomheden støtter at give regulatorer adgang til dets algoritmer – og større gennemsigtighed mere bredt.

Det er vigtigt at "afmystificere", hvordan disse teknologier, som har været skjult bag et slør af hemmeligholdelse i årevis, faktisk fungerer, siger Woodrow Hartzog, professor i jura og datalogi med speciale i databeskyttelse og privatliv.

Det har for eksempel været kendt i årevis, at Facebooks algoritmer forstærker eller optimerer til indhold, der genererer forargelse. Afsløringer i Wall Street Journal viste, at Facebooks egen forskning har vist, at dets Instagram-algoritmer nærer usikkerhed og bidrager til mentale helbredsproblemer og promoverer indhold, der forherliger spiseforstyrrelser, for eksempel til unge kvindelige brugere.

I stedet for at forbyde algoritmisk forstærkning, siger Hartzog, at der bør være obligatoriske sikkerhedsforanstaltninger, der overvåger de skadelige virkninger af de saftige algoritmer, og tilføjer "der er sådanne ting som sikre algoritmer." Det egentlige spørgsmål, siger han, er, kan vi have sikker algoritmisk forstærkning?

"De bør være forpligtet til at handle på måder, der ikke er i konflikt med vores sikkerhed og velvære," siger Hartzog. "Det er en måde, vi kan gribe dette problem an på, som ikke direkte vil forbyde algoritmisk forstærkning."

Hartzog foreslog også, at tilsynsmyndigheder kunne trække på begrebet fiduciært ansvar og pålægge teknologivirksomhederne "omsorgspligt, fortrolighed og loyalitet", svarende til de pligter, læger, advokater og revisorer er bundet af i forhold til deres klienter og patienter – kun her ville det være i forhold til slutbrugere.

Problemet ligger i de økonomiske incitamenter, hævder Hartzog, hvorfor ideen om at gøre tech-virksomhederne til "informations-fiduciaries" har vundet indpas. Statslige og føderale lovgivere undersøger informationstillidsmodellen i lovgivning, der er under revision.

"Det, jeg gerne vil se komme ud af dette... er en dybere og bredere samtale om, hvordan man fundamentalt ændrer de incitamenter, der driver alle former for skadelig adfærd relateret til indsamling og brug af private oplysninger," siger Hartzog.