Skaber tillid i en AI-verden

Kan du forestille dig en verden uden personlige Spotify-afspilningslister, kuraterede sociale medier feeds, eller anbefalede kattevideoer på sidebarerne på YouTube? Disse moderne bekvemmeligheder, som blev muliggjort af kunstig intelligens (AI), præsenterer også et skræmmende forslag - at maskinerne kunne ende med at vide mere om os, end vi selv gør.

Ifølge Gartners 2019 CIO Agenda-undersøgelse, 37 procent af Chief Information Officers (CIO'er) globalt har allerede implementeret AI-teknologi i deres organisationer. Den hurtige indførelse af AI-løsninger bringer fokus på den måde, data – som kunne bestå af følsomme, fortrolige og personlige oplysninger – administreres og bruges af organisationer.

Taler ved konferencepanelet om 'AI og databeskyttelse:nye reguleringsmetoder', Singapore Management University (SMU) lektor Warren Chik gav sit perspektiv på, hvordan man konceptualiserer tillid i en digital tidsalder. "Når det kommer til forhold som persondata, vi behandler ikke AI som gud. Derfor, vi kan ikke stole på tro, hvilket er hvad religion kræver. Vi har brug for noget mere væsentligt end det, " han sagde.

I hans foredrag med titlen 'Artificial Intelligence and Data Protection in Singapore:Consumers' Trust, Organisatorisk sikkerhed og regeringsregulering', Professor Chik forklarede, at for at skabe tillid til en digital løsning, det er afgørende, at brugerne bliver engageret i de involverede problemstillinger. "Folk har en tendens til at frygte det ukendte, og det er svært at have tillid til noget, man ikke ved."

Modereret af professor David Llewelyn, vicedekan for SMU School of Law, rundbordsbordet bød på talerne professor Ian Walden, Center for Erhvervsretlige studier, Queen Mary University of London; Lektor Yip Man (hvis papir blev præsenteret af lektor Alvin See på hendes vegne); samt kommentatorer hr. KK Lim, chef for cybersikkerhed, Privatliv og databeskyttelse, Eversheds Harry Elias; og hr. Lanx Goh, Senior juridisk rådgiver (privatliv og cybersikkerhed) og global databeskyttelsesansvarlig, Klook Travel Technology.

AI som influencer

Et AI-systems evne til at udføre personlig profilering kan fundamentalt ændre en brugers digitale personlighed, sagde professor Chik, fremhæver en årsag til bekymring for mange.

"Mens en AI har specifikke oplysninger såsom dit navn og adresse, det danner også sin egen viden om din identitet, og hvem du er som person, " Professor Chik sagde, citerer algoritmer, der bruges af sociale mediers feeds til at indsamle data om ens identitet, interesser og surfevaner. Ud fra disse data, systemet opretter derefter en profil af, hvem de tror, ​​du er.

"Disse algoritmer - som kan være rigtige eller forkerte - giver dig information, artikler og links, og som et resultat medfører en effekt på din tænkning. Med andre ord, AI kan forme menneskelig adfærd, og dette er en risiko, der gør mange mennesker utilpas, " sagde professor Chik. Truslen er meget reel, understregede han, bemærker, at tilsynsmyndigheder klart har identificeret et behov for at regulere brugen af ​​data i AI.

I Singapore, for eksempel, loven om beskyttelse mod onlinefalskheder og manipulation (POFMA) indeholder strafferetlige bestemmelser om oprettelsen, brug og ændring af bots for at sprede falsk information.

Databeskyttelseslovgivning:en balancegang

I forsøget på at regulere data, der er altid to konkurrerende mål, når man regulerer brugen, indsamling og behandling af personoplysninger. "Det første mål er at beskytte den registrerede, og den anden er at fremme innovation, sagde Professor See, som fremlagde professor Yips papir på hendes vegne.

Af de forskellige former for beskyttelse af registrerede, der findes i dag, den mest almindeligt tilgængelige mulighed er brugen af ​​kontrakter. Professor Yips papir påpeger, at "[problemet] med at forsøge at regulere databrug gennem vilkår og betingelser er, at i de fleste tilfælde, folk læser ikke [det juridiske med småt]". Det afgivne samtykke er derfor ikke ægte.

Professor Llewelyn, der modererede rundbordssamtalen, tilføjet, at betydningen af ​​samtykke er et spørgsmål, der skal udforskes mere i dybden. "Hvis en forbruger skulle acceptere en onlinekontrakt i sin helhed uden at læse den, kan det realistisk siges, at han eller hun har accepteret alle vilkår og betingelser, og givet fuldt samtykke?" spurgte han. "Måske burde der gives en juridisk anerkendelse af den automatiske karakter af forpligtelsen i sådanne kontrakter."

En mere kritisk begrænsning af kontrakten som beskyttelse for den registrerede, er, at kontrakten kun regulerer de oplysninger, der deles mellem de to kontraktbundne parter. For eksempel, hvis Facebook skulle overføre en brugers personlige data til en tredjepart, der ikke er bundet af kontrakten, tredjepartsfirmaet vil ikke være forpligtet til at beskytte brugerens oplysninger.

Databeskyttelse ved design

Singapores lov om beskyttelse af personoplysninger (PDPA), som regulerer personoplysninger gennem brug af lovgivning, beskrives som et let berøringsregime, der tager en stærkt balanceret tilgang mellem behovet for beskyttelse af privatlivets fred og interessen for forretningsinnovation.

Professor Yips papir anerkender, at der er en vis grad af spænding mellem de to ovenfor nævnte mål. Det aktuelle problem, derfor, er, hvordan man finder en balance mellem individuelle rettigheder og privatliv, og den konkurrerende interesse for økonomisk vækst og innovation, bemærkede hun.

I sidste ende, fokus er på at forebygge, i stedet for at forsøge at afhjælpe et brud på databeskyttelse. "Det handler om at anerkende individets rettigheder og privatlivets fred for deres data, og på samme tid, organisationers behov for at indsamle, bruge og videregive personoplysninger til legitime og rimelige formål, " tilføjede professor Yips papir.

En anden løsning, som professor Yip udforskede i sit papir, var brugen af ​​teknologi i stedet for lov til at beskytte de registrerede. I nogle tilfælde, privatliv kan indbygges direkte i design og drift af driftssystemer, arbejdsprocesser, netværksinfrastruktur og endda fysiske rum. Hun fremhæver ikke desto mindre, at denne løsning ikke er perfekt, fordi den er imod interessen hos virksomheder, som udnytter data til at tjene penge til at indbygge robuste beskyttelsesforanstaltninger for privatlivets fred i deres systemer og forretningsmodeller.