YouTubes pædofile problem er kun en lille del af internettets problem med seksuelt misbrug af børn

YouTube har, endnu engang, undlod at beskytte børn online. Nylige undersøgelser foretaget af Wired og videobloggeren Matt Watson har påstået, at pædofile brugte webstedets kommentarsektion til at efterlade rovbudskaber på videoer, der indeholdt og uploadede af børn, og at dele links til materiale om seksuelt misbrug af børn.

Som svar på undersøgelserne - og truslen om en annoncørboykot - har YouTube nu sagt, at det vil deaktivere kommentarer på videoer, der indeholder små børn. Men desværre, dette er ikke en isoleret hændelse. I januar 2019 blev det påstået, at Microsofts Bing-søgemaskine viste og antydede materiale om seksuelt misbrug af børn. Og denne slags hændelser er gentagelser af lignende problemer, der er opstået i løbet af de sidste fem år.

Virkeligheden er, at internettet har et systemisk problem med materiale om seksuelt misbrug af børn, der ikke er begrænset til nichesider eller det mørke web, men som gemmer sig i almindeligt syn blandt indhold, der hostes og kontrolleres af teknologigiganterne. Vi skal gøre mere for at beskytte børn online, og denne handling skal gå ud over justeringer af algoritmer eller deaktivering af kommentarer.

I 2016 mere end 57, 000 websider, der indeholder billeder af seksuelt misbrug af børn, blev sporet af Internet Watch Foundation – et UK-baseret organ, der identificerer og fjerner sådant ulovligt indhold. Det var en stigning på 21 % i forhold til året før. Det USA-baserede National Center for Missing and Exploited Children modtog mere end 10 millioner rapporter om indhold af seksuelt misbrug af børn i 2017, en stigning på 22 % i forhold til de foregående 12 måneder. Det er sandsynligt, at disse initiativer, mens der er meget brug for, identificerer og fjerner kun en lille del af det indhold, der distribueres online hver dag.

Billeder, der afbilder børnemishandling, som er lagt ud på nettet, har en alvorlig indvirkning på disse misbrugte børn i årevis eller årtier efter, at det primære fysiske misbrug er afsluttet. Misbrugte børn er allerede blevet ofre, men forskning viser, at tilgængeligheden af ​​deres billeder online holder mareridtet i live for barnet, deres familie og venner. Det kan også påvirke et offers interaktion med internettet betydeligt resten af ​​livet.

Teknologivirksomheder er unikt positioneret til at fungere som vogtere af tærsklen ved at fjerne og rapportere seksuelt eksplicit indhold, der er uploadet til deres tjenester. Så hvorfor gør de ikke mere for aggressivt at beskytte millioner af børn rundt om i verden?

Selv i de tidlige dage af nettet, det var tydeligt, at tjenester leveret af teknologivirksomheder blev brugt til at sprede indhold af seksuelt misbrug af børn. Allerede i 1995 chatrooms i AOL – en tidlig inkarnation af sociale medier – blev angiveligt brugt til at dele materiale om børnemisbrug. Som svar, AOL-ledere på det tidspunkt hævdede, at de gjorde deres bedste for at tøjle misbrug på deres system, men at deres system var for stort til at administrere. Dette er præcis den samme undskyldning, som vi hører mere end to årtier senere fra teknologiens titaner.

Mellem 2003 og 2008, trods gentagne løfter om at handle, store teknologivirksomheder undlod at udvikle eller bruge teknologi, der kunne finde og fjerne ulovligt eller skadeligt indhold, selvom det overtrådte deres servicevilkår. Så i 2009, Microsoft arbejdede sammen med National Center for Missing and Exploited Children og et team på Dartmouth College, der omfattede en af ​​os (Hany Farid) for at udvikle teknologien photoDNA. Denne software finder og fjerner hurtigt kendte forekomster af børns seksuelt indhold, når det uploades, og er leveret uden omkostninger til teknologivirksomheder, der deltager i initiativet.

Efter år med pres, photoDNA bruges nu af mange webtjenester og netværk. Men teknologivirksomheder har siden undladt at innovere yderligere for at reagere på en stadig mere sofistikeret kriminel underverden. For eksempel, på trods af at de forudser stigningen i videoer om overgreb mod børn, Teknologifirmaer har endnu ikke implementeret systemer, der kan identificere stødende optagelser, som photoDNA kan gøre for billeder.

Disse virksomheder skal handle hurtigere for at blokere og fjerne ulovlige billeder, samt at reagere på andre aktiviteter, der muliggør og tilskynder til udnyttelse af børn. Det betyder løbende udvikling af nye teknologier, men også grundlæggende genoverveje det perverse incitament til at tjene penge på brugerindhold, uanset hvad indholdet rent faktisk er.

Står i vejen for kontrol

Imidlertid, en kombination af økonomisk, juridiske og filosofiske spørgsmål står i vejen for, at tech-virksomheder tøjler ulovlige aktiviteter på deres tjenester. I første omgang at fjerne indhold er i mange tilfælde simpelthen dårligt for forretningen, fordi det reducerer mulighederne for annonceindtægter og indsamling af brugerdata (som også kan sælges).

I mellemtiden loven fritager ofte tech-virksomheder for ansvar for det indhold, de hoster. I USA, Paragraf 230 i Communications Decency Act giver tech-virksomheder bred immunitet mod retsforfølgelse for deres brugeres ulovlige aktiviteter. Denne immunitet er afhængig af at kategorisere folk som YouTube eller Facebook som godartede "platforme" i modsætning til aktive "udgivere". Situationen i EU er den samme. Hvad mere er, nogle teknologivirksomheder mener, at ulovlig aktivitet er et statsligt ansvar, snarere end en virksomhed.

I betragtning af størrelsen, teknologigiganternes rigdom og rækkevidde, disse undskyldninger retfærdiggør ikke passivitet. De skal proaktivt moderere indhold og fjerne ulovlige billeder, der er blevet uploadet til deres websteder. De kunne og burde hjælpe med at informere forskning inden for dette vitale område af børns sikkerhed, samarbejder med retshåndhævelse og forskere om at efterforske og afsløre svøbe af online børnemishandling.

Annoncører kan lægge økonomisk pres for at tilskynde websteder til at moderere og blokere ulovligt og misbrugende tredjepartsindhold (som flere virksomheder har gjort efter de seneste fejl på YouTube). Men den slags boykot varer sjældent. Så hvis offentligt pres ikke er nok, kan det være nødvendigt med regeringsregulering, der tvinger virksomheder til at overholde deres egne servicevilkår og lokale love.

Det kan være svært at politiet. Det kan have utilsigtede konsekvenser, som at gøre det sværere for små virksomheder at konkurrere med de nuværende teknologigiganter. Eller det kan tilskynde virksomheder til at overreagere og blive alt for restriktive med hensyn til tilladt indhold. I så fald vi foretrækker, at teknologivirksomheder udnytter deres enorme rigdom og ressourcer og blot gør det rigtige.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.