YouTubes Notre Dame-9/11 flub fremhæver AIs blinde vinkler

YouTube har muligvis brug for nogle flere mennesker. Maskinerne, hvis opgave er at nedkæmpe konspirationsteorier, skærer det ikke ned endnu.

Mens folk over hele verden mandag henvendte sig til YouTube for at se Notre Dame-katedralen brænde i Paris, et automatiseret system vedhæftede baggrundsoplysninger om terrorangrebene den 11. september i New York til livestream videoer af branden.

Årsagen til branden er ikke fastlagt, men myndighederne sagde, at det så ud til at være tilfældigt, ikke brandstiftelse eller terrorisme.

Baggrundsnotatet blev udgivet af et system, YouTube for nylig oprettede for at bekæmpe velkendte konspirationer om sådanne begivenheder som månelandingen eller 9/11. I dette tilfælde, Algoritmen kunne have haft den modsatte effekt, giver anledning til spekulationer om årsagen til branden, og hvem der kan stå bag den.

Det er det seneste eksempel på fejltænding af kunstig intelligens – og et tegn på, at vi har lang vej igen, før AI bliver smart nok til at forstå nuancer og kontekst.

I en erklæring, YouTube forklarede, at baggrundsinformationen - en post fra Encyclopedia Britannica - ved en fejl blev placeret der af algoritmer, der skulle beskytte brugere mod falsk materiale, der spredes i kølvandet på nogle nyhedsbegivenheder.

YouTubes algoritmer har en historie med fejltænding og mærkning af videoer upassende. Joshua Benton, direktør for Nieman Journalism Lab ved Harvard University, bemærkede flere i et blogindlæg mandag.

Sidste efterår, for eksempel, YouTube mærkede en video af en professors pensionering fra Michigan State University med Encyclopedia Britannica-indslaget for "Jøde, " sammen med en Davidsstjerne placeret under billedet. Professoren, Ken Waltzer, havde været leder af universitetets jødiske uddannelsesprogram, men Benton bemærkede, at intet i videoens titel eller beskrivelse nævnte noget jødisk.

YouTubes algoritme, som formentlig er klar til at nedkæmpe antisemitiske konspirationer, gjorde det på en eller anden måde af sig selv.

Da YouTube annoncerede sin indsats mod konspiration sidste sommer, den sagde, at det ville imødegå falske oplysninger med kilder, folk generelt stolede på, såsom Wikipedia og Encyclopedia Britannica. Den sagde, at den ville tilføje baggrund fra disse kilder til videoer, der indeholder almindelige konspirationsemner (f.eks. vaccinationer, skoleskyderier eller bombningen i Oklahoma City i 1995), uanset om videoerne understøttede en konspirationsteori.

Videoer af Notre Dame-branden blev vist i stort omfang, betroede nyhedsorganisationer. YouTubes kunstige intelligens, imidlertid, gjorde ingen undtagelser.

På mandag, selskabet rettede hurtigt Notre Dame-fejlen og sagde, at dets systemer "nogle gange foretager det forkerte opkald." Den slukkede informationspanelerne for videoerne af branden, men sagde ikke, om den så på praksis mere bredt.

"Jeg tror, ​​de er lidt frem og tilbage om, hvor meget godt det her gør, " sagde Benton. "Det kommer til det centrale spørgsmål, som vi ser med Facebook og YouTube og enhver anden teknologisk platform, der stræber efter global skala. Der er bare for meget indhold at overvåge, og du kan ikke få mennesker til at overvåge hver video."

I stedet, vi har maskiner, der tydeligvis stadig lærer på jobbet.

"Det er én ting at tage fejl, når indsatsen er lav, " sagde Benton. "Når det er den største nyhed i verden, det ser ud til, at de kunne have flere mennesker til at se på det."

© 2019 The Associated Press. Alle rettigheder forbeholdes.