Forskere udvikler vaccine mod angreb på maskinlæring

Forskere fra CSIRO's Data61, den data- og digitale specialistafdeling af Australiens nationale videnskabsagentur, har udviklet et verdensførste sæt af teknikker til effektivt at 'vaccinere' algoritmer mod modstridende angreb, et betydeligt fremskridt inden for maskinlæringsforskning.

Algoritmer 'lærer' af de data, de er trænet i, for at skabe en maskinlæringsmodel, der kan udføre en given opgave effektivt uden behov for specifikke instruktioner, såsom at lave forudsigelser eller præcist klassificere billeder og e-mails. Disse teknikker er allerede brugt meget, for eksempel for at identificere spam-e-mails, diagnosticere sygdomme fra røntgenstråler, forudsige høstudbyttet og vil snart køre vores biler.

Mens teknologien rummer et enormt potentiale til positivt at transformere vores verden, kunstig intelligens og maskinlæring er sårbare over for modstridende angreb, en teknik, der bruges til at narre maskinlæringsmodeller gennem input af ondsindede data, der får dem til at fungere forkert.

Dr. Richard Nock, maskinlæringsgruppeleder hos CSIRO's Data61 sagde, at ved at tilføje et lag af støj (dvs. en modstander) over et billede, angribere kan bedrage maskinlæringsmodeller til at misklassificere billedet.

"Modstridige angreb har vist sig at være i stand til at narre en maskinlæringsmodel til forkert at mærke et trafikstopskilt som et hastighedsskilt, som kan have katastrofale følger i den virkelige verden.

"Vores nye teknikker forhindrer modstridende angreb ved hjælp af en proces, der ligner vaccination, " sagde Dr. Nock.

"Vi implementerer en svag version af en modstander, såsom små ændringer eller forvrængning af en samling billeder, at skabe et mere 'vanskeligt' træningsdatasæt. Når algoritmen trænes på data udsat for en lille dosis forvrængning, den resulterende model er mere robust og immun over for modstridende angreb, "

I et forskningspapir accepteret på 2019 International Conference on Machine Learning (ICML), forskerne demonstrerer også, at 'vaccinationsteknikkerne' er bygget ud fra de værst tænkelige modstridende eksempler, og kan derfor modstå meget kraftige angreb.

Adrian Turner, CEO hos CSIRO's Data61 sagde, at denne forskning er et væsentligt bidrag til det voksende felt af kontradiktorisk maskinlæring.

"Kunstig intelligens og maskinlæring kan hjælpe med at løse nogle af verdens største sociale, økonomiske og miljømæssige udfordringer, men det kan ikke ske uden fokuseret forskning i disse teknologier.

"De nye teknikker mod modstridende angreb udviklet på Data61 vil sætte gang i en ny linje inden for maskinlæringsforskning og sikre positiv brug af transformative AI-teknologier, " sagde hr. Turner.

Forskningspapiret, "Monge gør Bayes sløv:Hårdhedsresultater for modstridende træning, " blev præsenteret på ICML den 13. juni i Los Angeles.