Tillid til automatiserede systemer

Når det kommer til biler, der kører selv, de fleste mennesker tøver stadig. Der er lignende forbehold med hensyn til indbyggede sensorer, der indsamler data om en chaufførs aktuelle helbredstilstand. Som en del af SECREDAS -projektet et forskningskonsortium inklusive Fraunhofer Institute for Experimental Software Engineering IESE undersøger sikkerheden, sikkerhed og fortrolighed for disse systemer. Målet er at øge tilliden til sådan teknologi.

Der er stadig et stykke vej, før folk kan overtales til at omfavne en ny teknologi som selvkørende biler. Når det kommer til at tage beslutninger i vejtrafik, vi har en tendens til at have større tillid til menneskelige chauffører end til software. At øge tilliden til sådanne forbundne, automatiserede systemer og deres evne til at imødekomme bekymringer vedrørende sikkerhed og databeskyttelse - hvad enten det drejer sig om mobilitet eller medicin:det er formålet med konsortiet bag SECREDAS -projektet. SECREDAS - som står for "Produktsikkerhed til pålidelige pålidelige automatiske systemer på tværs af domæner" - samler 69 partnere fra 16 europæiske lande, herunder Fraunhofer Institute for Experimental Software Engineering IESE. Dette projekt søger at sikre, at europæiske OEM'er forbliver konkurrencedygtige på dette område. Det har en samlet finansiering på 51,6 millioner euro, med EU, der bidrager med omkring 15 millioner euro til dette beløb.

Øge sikkerheden for selvkørende biler

Kontrol af autonome køretøjer ligger i stadig større omfang i hænderne på neurale netværk. Disse bruges til at vurdere dagligdags vejtrafiksituationer:Er trafiklyset rødt? Er et andet køretøj ved at krydse vejen foran? Problemet med neurale netværk, imidlertid, er, at det stadig er uklart, hvordan de kommer til sådanne beslutninger. "Vi udvikler derfor en sikkerhedstilsynsførende. Dette vil overvåge beslutninger truffet af det neurale netværk i realtid. Hvis det er nødvendigt, det kan gribe ind på grundlag af denne vurdering, "siger Mohammed Naveed Akram fra Fraunhofer IESE." Sikkerhedsvejlederen bruger klassiske algoritmer, som fokuserer på centrale parametre frem for at vurdere den overordnede situation - det er, hvad neurale netværk gør. Vores arbejde for SECREDAS -projektet handler hovedsageligt om at identificere egnede metrics til dette formål, men vi ser også på, hvordan vi bedst tager passende modforanstaltninger for at afværge fare. "

Følgende eksempel illustrerer, hvad dette betyder i praksis. Da køretøjet nærmer sig et kryds, et neuralt netværk vurderer den overordnede situation:Hvem har forkøbsret? Er trafiklyset rødt eller grønt? Er der fodgængere i farezonen? Er køretøjer ved at krydse vejen foran? I mellemtiden, sikkerhedstilsynsmyndighedens algoritmer koncentrerer sig om specifikke metrics. Disse kan omfatte den generelle tid til kollision (GTTC), som er baseret på banerne for ethvert køretøj på en kollisionskurs, eller i værste fald slaghastighed, som bestemmer graden af ​​skade baseret på den sandsynlige kollisionshastighed. Hvis bilen er på vej mod en anden trafikant, som det neurale netværk ikke har kunnet registrere, sikkerhedstilsynsmyndighedens algoritmer vil erkende, at afstanden til denne eller andre trafikanter indsnævres i farlig grad. Og hvis de autonome systemer mislykkes, sikkerhedstilsynsføreren overtager derefter kontrollen over køretøjet og aktiverer bremserne. "Vi har undersøgt forskellige metrics for at se, hvor godt vi kan vurdere en farlig situation som denne, "Akram forklarer. Forskere har brugt computersimulering til at modellere effektiviteten af ​​disse metrics i en række kritiske situationer - med imponerende resultater." I kombination med dynamisk risikostyring, brugen af ​​konventionelle metoder til overvågning af neurale netværk i realtid kan give en betydelig stigning i sikkerheden, «siger Akram.

Bedre service eller stærkere databeskyttelse?

At dele en bil kan være et træk:hver gang du bruger den, du skal justere sædet og bakspejlet, genindstil radioen til din foretrukne kanal, og genindfør dine foretrukne placeringer i navigationssystemet. Det er, selvfølgelig, helt muligt at gemme sådanne personlige indstillinger, så de automatisk kan vælges for hver driver. For nogle mennesker, dette repræsenterer en yderst praktisk funktion. Andre, imidlertid, betragter det som en uønsket indtrængen i databeskyttelse. Dette problem bliver endnu mere kompliceret, hvis vi forestiller os, at køretøjssystemer også kan overvåge en førers blodsukkerniveau eller puls - for at kunne advare føreren eller tilkalde assistance i tilfælde af kritiske aflæsninger. En grund til forbehold mod sådan sundhedsovervågning er, at chauffører aldrig rigtig er sikre på, om dataene forbliver ombord eller behandles i en sky. "Du kan ikke have en løsning, der passer til alle her, "siger Arghavan Hosseinzadeh da Silva, Sikkerhedsingeniør hos Fraunhofer IESE. "Generelt sagt, jo flere data du indsender, jo bedre service du modtager. Men hvor meget data nogen ønsker at afsløre, og under hvilke omstændigheder, kan variere meget fra person til person. "

Forskere på IND²UCE -programmet udvikler nu en ramme, der gør det muligt at begrænse brugen af ​​personoplysninger i henhold til den præcise situation og individuelle præferencer. Dette har allerede resulteret i software under produktnavnet MYDATA Control Technologies. Sige, for eksempel, du vil have, at WhatsApp -meddelelser vises på bilens display - men ikke når du har selskab. Eller, når du lejer en bil, du vil have de samme kontakter og afspilningslister vist som dem i dit eget køretøj - og sædet, rat og spejl skal automatisk flytte til de relevante indstillinger. Og du vil have, at alle sundhedsrelaterede data, såsom puls, forbliver ombord i stedet for at blive sendt til skyen-medmindre der er en reel nødsituation som f.eks. En ulykke, og bistand skal indkaldes med det samme. I fremtiden, brugere vil kunne indstille sådanne præferencer i en smartphone -app, der derefter kommunikerer disse indstillinger til det køretøj, de tilfældigvis kører, om et selskab, leje eller personlig bil.

De rammekomponenter, der kræves for at muliggøre dette, installeres i køretøjet. For eksempel, en forespørgsel om, hvorvidt data om chaufførens puls skal sendes til skyen, vil blive sendt til et såkaldt policy decision point (PDP), som derefter kontrollerer, om dette er tilladt. Hvis svaret er bekræftende, PDP sender enten autorisation til politihåndhævelsesstedet (PEP) eller angiver, hvilke data der skal slettes eller anonymiseres, før de sendes. Som en del af SECREDAS -projektet forskere fra Fraunhofer IESE udvikler nu en demonstrator til dette scenario. Dette arbejde skal være afsluttet inden udgangen af ​​2020. Ser man længere frem, SECREDAS -konsortiet søger at etablere en standard for kontrol af dataforbrug ombord på køretøjer. Hvis det er muligt, dette bør vedtages af alle bilproducenter, hvilket gør det muligt for bilbrugere at bestemme, hvordan deres personlige oplysninger bruges.