Forskere holder omslag på automatisk tekstgenerator for at forhindre misbrug
Forskere, der udviklede et kunstig intelligens-program, der er i stand til at generere realistisk tekst, holder det hemmeligt indtil videre på grund af frygt for, at det kan blive brugt til uhyggelige formål
Forskere meddelte i denne uge, at de havde udviklet en automatisk tekstgenerator ved hjælp af kunstig intelligens, hvilket er meget godt - så godt, den holder detaljerne private indtil videre.
Denne software udviklet af OpenAI kunne bruges til at generere nyhedshistorier, produktanmeldelser og andre former for skrivning, som kan være mere realistisk end noget, der tidligere er udviklet af computer.
OpenAI, et forskningscenter støttet af Teslas Elon Musk, Amazon og Microsoft, sagde den nye software "opnår state-of-the-art ydeevne på mange sprogmodelleringsbenchmarks, " inklusive opsummering og oversættelse.
Men det vil ikke frigive programmet til offentligheden.
"På grund af vores bekymringer om ondsindede anvendelser af teknologien, vi frigiver ikke den trænede model, " sagde OpenAI-forskerne i et blogindlæg torsdag.
Nyheden antydede et potentielt gennembrud i bestræbelserne på at udvikle computergenereret tekst, som kan være troværdig, men også potentielt farlige.
Forskerne sagde, at der var adskillige måder, programmet kunne bruges til uhyggelige formål, herunder at generere falske nyhedsartikler, efterligne andre online, og automatisering af falsk indhold på sociale medier.
I et eksempel programmet blev fodret med et afsnit om "en flok enhjørninger, der bor i en fjerntliggende, tidligere uudforsket dal, i Andesbjergene" og skrev en nyhed på 300 ord om det.
"Den brede offentlighed bliver nødt til at blive mere skeptisk over for tekst, de finder online, ligesom 'deepfakes'-fænomenet kalder på mere skepsis over for billeder, " skrev forskerne, henviser til AI-manipulerede videoer, som har været stigende.
Forskerne sagde, at deres model kaldet GPT-2 "udkonkurrerer andre sprogmodeller", trænet på opgaver som Wikipedia-indlæg, nyheder, eller bøger uden behov for nogen specifik træning.
OpenAI-nyhederne er de seneste, der viser, hvordan computere har opnået sprogkundskaber, og følger en stærk præstation fra IBM's Project Debater i en offentlig konkurrence med en professionel debatmester.
© 2019 AFP
Varme artikler
-
Zuckerberg forsvarer Facebooks forretningsmodelFacebooks administrerende direktør og grundlægger Mark Zuckerberg forsvarer sit firmas forretningsmodel over for US House Committee on Energy and Commerce Mark Zuckerberg forsvarede onsdag Faceboo -
Ny elektrolyt standser hurtig nedgang i ydeevnen af næste generations lithiumbatteriOpladning resulterer i dobbelt- eller tredobbelt ladede metalkationer, såsom Mg2+ (orange kugler), sammen med enkeltladede lithiumioner (grønne kugler), der co-indsættes fra elektrolytten i silicium ( -
Uber-Grab-aftalen rammer fartbump i SingaporeGrab indvilligede i at købe Ubers mad- og kørselsvirksomhed i Sydøstasien, giver det amerikanske firma en ejerandel på 27,5 procent til gengæld Singapore indførte fredag restriktioner for turfir -
Hemmeligheden bag lab-on-a-chip gennembrud:Matsort neglelakKredit:Brigham Young University BYU elektroingeniørstuderende er faldet over en meget ukonventionel metode, der kunne fremskynde lab-on-a-chip sygdomsdiagnose. Når nogen tager på hospitalet for e
- Beskyttelse af jordbund for at afbøde klimaændringer
- Hvis vi vil have beboelige byer i 2060, skal vi godt samarbejde om at transformere bysystemer
- Metode til at belyse egenskaber ved biologiske væv i billeder med lav eksponering
- Forskning forlænger længden af gletscher- og snelinjeanalyse
- Frysetørret mad og 1 badeværelse:6 simulerer Mars i kuppel
- Forværring af etiopisk tørke truer med at afslutte den nomadiske livsstil