Fear of Big Brother vejleder EU's regler om AI

Midt i frygten for et samfund i Big Brother-stil styret af maskiner, EU vil opfordre myndigheder og virksomheder til at tænke sig godt om, før de udruller teknologi til ansigtsgenkendelse.

Men blokken, som vil afgive en længe ventet meddelelse i denne uge om rollen som kunstig intelligens (AI), vil stoppe med at indføre et direkte forbud, sagde en topembedsmand.

På onsdag, Europa-Kommissionen vil bane vejen for europæiske regler om emnet med innovation i den voksende sektor, der hidtil er domineret af USA og Kina.

Kommissionen, EU's magtfulde regulator, er ivrig efter at besvare de europæiske borgeres bekymringer om den stigende betydning af kunstig intelligens i deres liv, midt i rapporter fra Kina om ansigtsgenkendelsesteknologi, der bruges til at slå ned på dissens.

"Jeg synes, det er virkelig skræmmende, hvad jeg så i Hong Kong, " sagde EU-Kommissionens vicepræsident for digital politik, Margrethe Vestager, hvem skal stå i spidsen for politikken.

Under en bølge af anti-Beijing-protester, hun sagde, "Folk kunne få en besked på telefonen:'Vi ved, du er der, måske du skulle tage hjem'. Støtter ikke rigtig forsamlingsfriheden, eller at udtrykke dig selv."

Men i stedet for et direkte forbud eller moratorium, hvilket ville kræve medlemslandenes opbakning, Vestager sagde til journalister i Bruxelles, at hun ville anbefale, at myndigheder og virksomheder udviser forsigtighed.

"Det, vi vil sige i avisen på et meget advokatfuldt sprog er, lad os holde pause og finde ud af, om der er nogen... omstændigheder, hvor ansigtsgenkendelse via fjernadgang bør godkendes, " fortalte hun journalister.

"For hvis vi ikke holder pause, så vil det bare være overalt, " advarede hun ved at sammenligne det med den pludselige stigning i CCTV-sikkerhed i bycentre.

Beskriver spredningen af ​​kameraer, hun sagde:"Først sætter du en op, men så har den en blind vinkel, og så sætter du den anden op... Lige pludselig har du kameraer overalt."

Forsigtighed er også nødvendig, fordi brugen af ​​ansigtsgenkendelse er vidtspændende – fra oplåsning af smartphones til at fange kriminelle – og ofte unøjagtig og har behov for udvikling.

'For rigtig'

Den tidligere danske finansminister, som også er ansvarlig for håndhævelsen af ​​EU's konkurrenceregler, understregede, at kunstig intelligens var et stort emne, og at enhver regulering bør være opmærksom på ikke at straffe mindre innovatører, hvilket kun ville gavne store aktører.

Store tech-virksomheder, som almindelige brugere kender - såsom Facebook eller Tencent - er hovedsageligt fra USA eller Kina. Europa ses i mellemtiden som førende inden for regulering, især med regler om databeskyttelse, der er blevet bredt gentaget andre steder.

Men med AI, Vestager sagde, at Europa ville være en spiller og ikke kun en sherif.

Og hvis Europa skal udvikle teknologigiganter, det vil sandsynligvis være i forretningsservice og netværksinfrastruktur, og ikke massemarkedssider eller sociale medier.

"Hvis du vil have en mening om ting, som vi anser for risikable, så bør du være i stand til at gøre det selv, " hun sagde.

Europa ønsker at være "suveræn" på AI og beskytte "integriteten af ​​vores net, af vores infrastruktur for vores forskning, " hun sagde.

Men dette var ikke imod nogen, hun insisterede, midt i snak om en højteknologisk kold krig mellem USA og Kina med Europa fanget i midten.

"Det handler om os, hvad vi gerne vil kunne."

Andre forslag på onsdag vil omfatte et fremstød for at gøre datacentre mere energieffektive og være CO2-neutrale i 2030.

EU vil også tilbyde en frivillig mærkningsordning for virksomheder, der overholder EU's regler og værdier om AI.

"Vi ønsker ikke at regulere noget, der starter med A og slutter med et I. Det giver ingen mening, " sagde Vestager. "Men hvor der er risiko, det vil være rigtigt."

© 2020 AFP