Sådan forhindrer du byer i at blive forvandlet til AI-jungler

Efterhånden som kunstig intelligens bliver mere allestedsnærværende, kommer dens potentiale og de udfordringer, den giver, mere og mere i fokus. Hvordan vi balancerer risici og muligheder er ved at forme sig som et af vores tids afgørende spørgsmål. På nogenlunde samme måde som byer er opstået som omdrejningspunkter for innovation inden for kultur, politik og handel, så de definerer grænserne for AI-styring.

Nogle eksempler på, hvordan byer har taget føringen, omfatter Cities Coalition for Digital Rights, Montreal Declaration for Responsible AI og Open Dialogue on AI Ethics. Andre kan findes i San Franciscos forbud mod ansigtsgenkendelsesteknologi og New York Citys indsats for at regulere salget af automatiserede ansættelsessystemer og oprettelsen af ​​en algoritmestyrings- og politikansvarlig. Byinstitutter, universiteter og andre uddannelsescentre er også gået videre med en række AI-etiske initiativer.

Disse bestræbelser peger på et spirende paradigme, der er blevet omtalt som AI-lokalisme. Det er en del af et større fænomen, der ofte kaldes New Localism, som involverer byer, der tager føringen i regulering og politikudformning for at udvikle kontekstspecifikke tilgange til en række problemer og udfordringer. Vi har også set en øget udbredelse af bycentrerede tilgange inden for international lovrammer.

Ved at gøre det udfylder kommunale myndigheder huller efterladt af utilstrækkelige statslige, nationale eller globale styringsrammer relateret til kunstig intelligens og andre komplekse spørgsmål. I de senere år har man for eksempel set fremkomsten af ​​"bredbåndslokalisme", hvor lokale regeringer adresserer den digitale kløft; og "privatlivslokalisme", begge som svar på udfordringer som følge af den øgede brug af data til retshåndhævelse eller rekruttering.

AI-lokalisme omfatter en lang række spørgsmål, interessenter og kontekster. Ud over forbud mod AI-drevet ansigtsgenkendelse ser lokale myndigheder og institutioner på indkøbsregler vedrørende AI-brug af offentlige enheder, offentlige registre over lokale myndigheders AI-systemer og offentlige uddannelsesprogrammer om AI. Men selvom initiativer og casestudier bliver flere, mangler vi stadig en systematisk metode til at vurdere deres effektivitet – eller endda selve behovet for dem. Dette begrænser politiske beslutningstageres evne til at udvikle passende regulering og hæmmer mere generelt væksten på området.

Opbygning af en AI Localism-ramme

Nedenfor er ti principper til at hjælpe med at systematisere vores tilgang til AI-lokalisme. Samlet set udgør de en begyndende ramme for implementering og vurdering af initiativer rundt om i verden:

• Principper giver en nordstjerne til styring: Etablering og artikulering af et klart sæt af vejledende principper er et væsentligt udgangspunkt. For eksempel er Emerging Technology Charter for London, der blev lanceret af borgmesterkontoret i 2021 for at skitsere "praktiske og etiske retningslinjer" for forskning omkring nye teknologi- og smart-city-teknologipiloter, et eksempel. Lignende projekter findes i Nantes, Frankrig, som udrullede et datacharter for at understrege den lokale regerings forpligtelse til datasuverænitet, beskyttelse, gennemsigtighed og innovation. Sådanne bestræbelser hjælper interesserede parter med at udstikke en kurs, der effektivt balancerer potentialet og udfordringerne fra kunstig intelligens og samtidig bekræfter en forpligtelse til åbenhed og gennemsigtighed om databrug for offentligheden.
• Offentligt engagement giver en social licens: Etablering af tillid er afgørende for at fremme ansvarlig brug af teknologi samt bredere accept og optagelse af offentligheden. Former for offentligt engagement – ​​crowdsourcing, oplysningskampagner, miniforsamlinger og mere – kan bidrage til at opbygge tillid og bør være en del af en deliberativ proces, der gennemføres af politiske beslutningstagere. For eksempel holdt California Department of Fair Employment and Housing deres første virtuelle offentlige høring med borgere og arbejdstagergrupper om den voksende brug af kunstig intelligens til ansættelser og menneskelige ressourcer og potentialet for teknologisk skævhed i indkøb.
• AI-færdigheder muliggør meningsfuldt engagement: Målet med AI-færdigheder er at fremme fortrolighed med selve teknologien samt med tilhørende etiske, politiske, økonomiske og kulturelle spørgsmål. For eksempel giver Montreal AI Ethics Institute, en non-profit med fokus på at fremme AI-færdigheder, gratis, rettidige og fordøjelige oplysninger om AI og AI-relaterede hændelser fra hele verden.
• Udnyt lokal ekspertise: Politikere bør udnytte byernes AI-ekspertise ved at etablere eller støtte forskningscentre. To eksempler er Confederation of Laboratories for Artificial Intelligence Research in Europe (CLAIRE), et paneuropæisk projekt, der tager et europæisk fokus på kunstig intelligens i byer og "How Busy Is Toon", et websted udviklet af Newcastle City Council og Newcastle University for at give transitoplysninger i realtid om byens centrum.
• Innovation i, hvordan gennemsigtighed leveres: For at opbygge tillid og fremme engagement bør AI Localism omfatte gennemprøvede gennemsigtighedsprincipper og -praksis. For eksempel afslører Amsterdam og Helsinki brugen af ​​kunstig intelligens og forklarer, hvordan algoritmer bruges til specifikke formål. Derudover kan AI Localism innovere i, hvordan gennemsigtighed tilvejebringes, ved at skabe opmærksomhed og systemer til at identificere og overvinde "AI blinde vinkler" og andre former for ubevidst bias.
• Etabler midler til ansvarlighed og tilsyn: Et af signalegenskaberne ved AI Localism er en erkendelse af behovet for ansvarlighed og tilsyn for at sikre, at principperne for responsiv styring bliver overholdt. Eksempler omfatter New York Citys Algorithms Management and Policy Officer, Singapores Advisory Council on the Ethical Use of AI and Data og Seattles Surveillance Advisory Working Group.
• Signal grænser gennem bindende love og politikker: Principper er kun så gode, som de er implementeret eller håndhævet. Ratificering af lovgivning, såsom New York Citys Biometrics Privacy Law, som kræver klare meddelelser om, at biometriske data indsamles af virksomheder, begrænser, hvordan virksomheder kan bruge sådanne data. Det forbyder også at sælge og drage fordel af dataene sender et klart budskab til forbrugerne om, at deres datarettigheder og -beskyttelse opretholdes og holder virksomheder ansvarlige for at respektere privatlivsprivilegier.
• Brug indkøb til at forme ansvarlige AI-markeder: Som kommunale og andre regeringer har gjort på andre områder af det offentlige liv, bør byer bruge indkøbspolitikker til at fremme ansvarlige AI-initiativer. For eksempel vedtog Berkeley, California Council en bekendtgørelse, der kræver, at offentlige afdelinger retfærdiggør brugen af ​​nye overvågningsteknologier, og at fordelene ved disse værktøjer opvejer skaderne før indkøb.
• Etabler datasamarbejde for at tackle asymmetrier: Datasamarbejde er en spirende form for tværsektorielt partnerskab, hvor private data genbruges og anvendes til det offentlige gode. Ud over at give ny indsigt og innovationer kan sådanne partnerskaber også være effektive værktøjer til at nedbryde de dataasymmetrier, der både ligger til grund for og driver så mange bredere socioøkonomiske uligheder. At tilskynde til datasamarbejde ved at identificere mulige partnerskaber og matche udbud og efterspørgsel er således en vigtig komponent i AI-lokalisme. Indledende indsats omfatter Amsterdam Data Exchange, som gør det muligt at dele data sikkert for at løse lokale problemer.
• Gør god forvaltning til strategisk: For mange AI-strategier inkluderer ikke styring, og for mange styringstilgange er ikke strategiske. Det er derfor bydende nødvendigt, at byer har en klar vision om, hvordan de ser data og AI blive brugt til at forbedre lokalt velvære. At kortlægge en AI-strategi, som blev iværksat af Barcelonas byråd i 2021, kan skabe veje til at integrere smart AI-brug på tværs af bureauer og åbne AI-bevidsthed for beboerne for at gøre ansvarlig databrug og -overvejelser til en rød tråd snarere end en siled øvelse i lokale regering.

AI-lokalisme er et voksende område, og både dets praksis og forskning er stadig i forandring. Selve teknologien fortsætter med at ændre sig hurtigt og tilbyder noget af et bevægende mål for styring og regulering. Dens tilstand af flux fremhæver behovet for den type rammer, der er skitseret ovenfor. I stedet for at tage fat, reagere reaktivt på successive bølger af teknologisk innovation, kan politikere reagere mere konsekvent og ansvarligt fra et principielt grundlag, der tager højde for de ofte konkurrerende behov hos forskellige interessenter. + Udforsk yderligere

For at bygge bæredygtige byer skal du involvere dem, der bor i dem

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.