Undersøgelse afslører sikkerhedsrisici i EEG-baserede hjerne-computer-grænseflader

Brain-computer interfaces (BCI'er) er værktøjer, der kan forbinde den menneskelige hjerne med en elektronisk enhed, typisk ved hjælp af elektroencefalografi (EEG). I de seneste år, fremskridt inden for machine learning (ML) har muliggjort udviklingen af ​​mere avancerede BCI -stavemaskiner, enheder, der giver folk mulighed for at kommunikere med computere ved hjælp af deres tanker.

Indtil nu, de fleste undersøgelser på dette område har fokuseret på at udvikle BCI -klassifikatorer, der er hurtigere og mere pålidelige, frem for at undersøge deres mulige sikkerhedsrisici. Nylig forskning, imidlertid, antyder, at maskinlæringsalgoritmer nogle gange kan narres af angribere, om de bruges til computersyn, tale genkendelse, eller andre domæner. Dette gøres ofte ved hjælp af modstridende eksempler, som er små forstyrrelser i data, der ikke kan skelnes af mennesker.

Forskere ved Huazhong University of Science and Technology har for nylig udført en undersøgelse, der undersøger sikkerheden ved EEG-baserede BCI-stavemaskiner, og mere specifikt, hvordan de påvirkes af modsætningsforstyrrelser. Deres papir, forududgivet på arXiv, tyder på, at BCI -stavemænd bliver narret af disse forstyrrelser og dermed er yderst sårbare over for modgangsangreb.

"Denne artikel har til formål at afsløre et kritisk sikkerhedsproblem i EEG-baserede BCI-stavemaskiner og mere bredt, EEG-baserede BCI'er, som har fået lidt opmærksomhed før, "Dongrui Wu, en af ​​forskerne, der gennemførte undersøgelsen, fortalte TechXplore. "Det viser, at man kan generere bittesmå modstridende EEG-forstyrrelsesskabeloner til målangreb for både P300 og steady-state visual evoked potential (SSVEP) stavemaskiner, dvs. vildlede klassificeringen til enhver karakter, angriberen ønsker, uanset hvad brugeren har til hensigt. "

P300 BCI stavemaskiner bruges allerede i flere indstillinger, herunder på klinikker, at evaluere eller opdage bevidsthedsforstyrrelser. Modsætningsangreb på BCI -stavemaskiner kan således have mange konsekvenser, lige fra simple brugervenlighedsproblemer til alvorlige patientfejl.

"Vi mener, at en ny og mere detaljeret forståelse af, hvordan modstridende EEG -forstyrrelser påvirker BCI -klassificering, kan informere udformningen af ​​BCI'er til forsvar mod sådanne angreb, "Forklarede Wu.

Wu og hans kolleger fandt ud af, at for at udføre et vellykket kontradiktorisk angreb på en BCI -stave, angriberen behøver kun at få adgang til nogle af de data, der bruges til at træne enheden. Han/hun kan bruge disse data til at træne forstyrrelsesskabelonen, efterfølgende tilføjelse af skabelonen til godartede EEG -forsøg for at udføre angrebet.

Nuværende tilgange til at udføre modstridende angreb har to hovedbegrænsninger. Først, de kræver nogle fagspecifikke EEG-prøver for at oprette den modsatte forstyrrelsesskabelon. Sekund, at udføre angrebet mere effektivt, angriberen skal kende den nøjagtige timing af EEG -stimulus. Hvis angriberen med succes overvinder disse begrænsninger, virkningen af ​​hans/hendes angreb kan være langt større.

"At forsvare modstridende angreb er et almindeligt forskningsproblem i mange anvendelser af maskinlæring, f.eks., computersyn, tale genkendelse, og BCI'er, "Sagde Wu." Hvis vi kender den tilgang, angriberen tager, så kan vi udvikle strategier til at forsvare sig mod det, ligesom hvordan vi forsvarer os mod computervirus:en virus bryder først ud, og derefter finder vi måder at dræbe den på. "

Angribere forsøger altid at finde på nye måder at omgå sikkerhedsforanstaltninger, så det er vigtigt for forskere at fortsætte med at undersøge systemets sårbarheder og komme med nye sikkerhedsforanstaltninger. Selvom det ikke kan undgås, at der udvikles målrettede sikkerhedsløsninger, efter at en specifik sårbarhed er blevet identificeret, det kan være meget nyttigt at afdække generelle problemer med et system og tage forholdsregler.

Undersøgelsen foretaget af Wu og hans kolleger har været med til at afdække generelle sikkerhedsrisici forbundet med EEG-baserede BCI'er. Deres fund kan hjælpe med at identificere foreløbige løsninger, der kan reducere virkningen af ​​modstridende angreb på disse enheder.

Wu og hans kolleger håber, at deres forskning vil tilskynde andre til at undersøge begrænsninger og sårbarheder for EEG-baserede stavemaskiner eller andre BCI-enheder. Deres fund kan i sidste ende bane vejen for udvikling af teknikker til at styrke sikkerheden ved BCI'er, forebyggelse af fejldiagnoser og andre uønskede virkninger af modstridende angreb.

"Vi vil understrege, at målet med denne undersøgelse ikke er at skade EEG-baserede BCI'er, men for at demonstrere, at alvorlige modstridende angreb på EEG-baserede BCI'er er mulige og dermed afsløre en kritisk sikkerhedsproblem, der ikke har været særlig opmærksom før, "Sagde Wu." I vores fremtidige forskning, Vi planlægger at udvikle strategier til at forsvare sig mod sådanne angreb. I mellemtiden, vi håber, at vores undersøgelse kan tiltrække flere forskeres opmærksomhed på sikkerheden ved EEG-baserede BCI'er. "

© 2020 Science X Network