AI-forsker giver indsigt i løfter, faldgruber ved maskinlæring

Disse dage, den seneste udvikling inden for kunstig intelligens (AI) forskning får altid masser af opmærksomhed, men en AI-forsker ved U.S. Naval Research Laboratory mener, at en AI-teknik måske bliver lidt for meget.

Ranjeev Mittu leder NRL's Information Management and Decision Architectures Branch og har arbejdet inden for kunstig intelligens i mere end to årtier.

"Jeg tror, ​​at folk har fokuseret på et område inden for maskinlæring - deep learning (også kendt som dybe netværk) - og i mindre grad på mangfoldigheden af ​​andre kunstig intelligens-teknikker, " sagde Mittu. "Den største begrænsning ved dybe netværk er, at en fuldstændig forståelse af, hvordan disse netværk når frem til en løsning, stadig er langt fra virkeligheden."

Deep learning er en maskinlæringsteknik, der kan bruges til at genkende mønstre, såsom at identificere en samling af pixels som et billede af en hund. Teknikken involverer at lægge neuroner sammen, med hvert lag dedikeret til at lære et andet abstraktionsniveau.

I eksemplet med hundebillede, de nederste lag af det neurale netværk lærer primitive detaljer som pixelværdier. Det næste sæt lag forsøger at lære kanter; højere lag lærer en kombination af kanter som en næse. Med nok lag, disse netværk er i stand til at genkende billeder med næsten menneskelignende ydeevne.

Men systemerne kan let narre ved blot at ændre et lille antal pixels, ifølge Mittu.

"Du kan have modstridende 'angreb', hvor når du først har skabt en model til at genkende hunde ved at vise den millioner af billeder af hunde, " sagde han. "...foretag ændringer af et lille antal pixels, netværket kan fejlklassificere det som en kanin, for eksempel."

Den største fejl i denne maskinlæringsteknik, ifølge Mittu, er, at der er en stor grad af kunst at bygge den slags netværk, hvilket betyder, at der er meget få videnskabelige metoder til at hjælpe med at forstå, hvornår de vil fejle.

Løsningen?

"Der er adskillige AI-teknikker, hvoraf maskinlæring er en delmængde, " sagde han. "Mens dyb læring har været meget vellykket, den er også i øjeblikket begrænset, fordi der er ringe synlighed i beslutningsrationalet. Indtil vi virkelig når et punkt, hvor denne teknik bliver fuldt "forklarlig, "den kan ikke informere mennesker eller anden automatisering om, hvordan den nåede frem til en løsning, eller hvorfor det mislykkedes. Vi er nødt til at indse, at dybe netværk kun er ét værktøj i AI-værktøjskassen."

Og, mennesker skal holde sig i løkken.

"Forestil dig, at du har et automatisk trusselsdetektionssystem på broen af ​​dit skib, og den opfanger en lille genstand i horisonten, " sagde han. "Den dybe netværksklassifikation kan indikere, at det er et hurtigt angrebsfartøj, der kommer mod dig, men du ved, at et meget lille sæt usikre pixels kan vildlede algoritmen. Tror du på det?

"Et menneske bliver nødt til at undersøge det nærmere. Der kan altid være nødvendigt at være et menneske i løkken for højrisikosituationer. Der kan være en høj grad af usikkerhed, og udfordringen er at øge klassificeringsnøjagtigheden og samtidig holde antallet af falske alarmer lavt. - Det er nogle gange meget svært at finde den perfekte balance."

Problemet med maskinlæring

Når det kommer til maskinlæring, nøglefaktoren, kort fortalt, er data.

Overvej et af Mittus tidligere projekter:en analyse af kommercielle skibsbevægelser rundt om i verden. Projektets mål var at bruge maskinlæring til at skelne mønstre i skibstrafik til at identificere skibe involveret i ulovlige aktiviteter. Det viste sig at være et vanskeligt problem at modellere og forstå ved hjælp af maskinlæring, sagde Mittu.

"Vi kan ikke have en global model, fordi adfærden vil variere for fartøjsklasser, ejere, osv." forklarede han. "Det er endda anderledes sæsonmæssigt, på grund af havtilstand og vejrmønstre."

Men det større problem, Mittu fundet, var muligheden for fejlagtigt at bruge data af dårlig kvalitet.

"Skibe sender deres placering og andre oplysninger, ligesom fly. Men det, de transmitterer, kan forfalskes, " sagde Mittu. "Du ved ikke, om det er god eller dårlig information. Det er som at ændre de små antal pixels på hundebilledet, der får systemet til at svigte."

Manglende data er et andet problem. Forestil dig et tilfælde, hvor du skal flytte et stort antal mennesker og materialer på regelmæssig basis for at opretholde militære operationer, og du er afhængig af ufuldstændige data til at forudsige, hvordan du kan handle mere effektivt.

"Vanskeligheden kommer, når du begynder at træne maskinlæringsalgoritmer på data, der er af dårlig kvalitet, " sagde Mittu. "Maskinlæring bliver upålidelig på et tidspunkt, og operatører vil ikke stole på resultaterne af algoritmerne."

Nuværende arbejde i AI

I dag fortsætter Mittus team med at forfølge AI-innovationer på flere områder af feltet. De går ind for en tværfaglig tilgang til at anvende AI-systemer til at løse komplekse problemer.

"Der er mange måder at forbedre forudsigelige evner på, men sandsynligvis vil de bedste i racen tage en holistisk tilgang og anvende flere AI-teknikker og strategisk integrere den menneskelige beslutningstager, " han sagde.

"Aggregering af forskellige teknikker (svarende til 'boosting'), som kan "vægte" algoritmer anderledes, kunne give et bedre svar eller læring kombineret med ræsonnement, osv. Ved at anvende kombinationer af kunstig intelligens, det resulterende system kan være mere robust over for dårlig datakvalitet."

Et område, Mittu er begejstret for, er anbefalingssystemer. Ifølge ham, de fleste mennesker er allerede bekendt med disse systemer, som bruges i søgemaskiner og underholdningsapplikationer som Netflix. Han er begejstret for de potentielle militære applikationer.

"Tænk på et militært kommando- og kontrolsystem, hvor brugerne har brug for god information for at træffe gode beslutninger, " sagde han. "Ved at se på, hvad brugeren laver i systemet i en eller anden sammenhæng, kan vi forudse, hvad brugeren kan gøre næste gang og udlede de data, de måtte have brug for."

Mens AI-området byder på næsten ubegrænset potentiale for innovative løsninger på nutidens problemer, Mittu sagde, forskere har åbenbart mange års arbejde foran sig.

"Vi er nødt til at finde de rigtige teknikker, deres begrænsninger, og de data, der er nødvendige for at få pålidelige svar, for at brugerne kan stole på det resulterende system, " sagde han. "Den kunstige intelligens har en lang vej at gå med at tage en holistisk tilgang ved strategisk at integrere beslutningstageren for at forbedre ydeevnen af ​​menneske- og maskinsystemet."