Kunstig intelligens i Australien skal blive etisk, så vi har en plan

Spørgsmålet om, hvorvidt teknologi er god eller dårlig, afhænger af, hvordan den er udviklet og brugt. Intetsteds er det mere aktuelt end i teknologier, der bruger kunstig intelligens.

Når det er udviklet og brugt korrekt, kunstig intelligens (AI) har potentialet til at transformere den måde, vi lever på, arbejde, kommunikere og rejse.

Nye AI-aktiverede medicinske teknologier udvikles for at forbedre patientbehandlingen. Der er overbevisende indikationer på, at autonome køretøjer vil forbedre sikkerheden og reducere vejafgiften. Maskinlæring og automatisering strømliner arbejdsgange og giver os mulighed for at arbejde smartere.

Jorden rundt, AI-aktiveret teknologi bliver i stigende grad adopteret af enkeltpersoner, regeringer, organisationer og institutioner. Men sammen med det store potentiale for at forbedre vores livskvalitet, udgør en risiko for vores grundlæggende menneskerettigheder og frihedsrettigheder.

passende tilsyn, vejledning og forståelse af måden AI bruges og udvikles på i Australien skal prioriteres.

AI gone wild kan fremtrylle billeder af The Terminator og Ex Machina film, men det er meget enklere, grundlæggende spørgsmål, der skal behandles i øjeblikket, såsom:

• hvordan data bruges til at udvikle AI
• om et AI-system bliver brugt retfærdigt
• i hvilke situationer skal vi fortsat stole på menneskelig beslutningstagning?

Vi har en AI-etisk plan

Derfor, i samarbejde med regering og industri, vi har udviklet en etisk ramme for kunstig intelligens i Australien. Målet er at katalysere diskussionen om, hvordan AI skal bruges og udvikles i Australien.

Den etiske ramme ser på forskellige casestudier fra hele verden for at diskutere, hvordan AI er blevet brugt tidligere, og de virkninger, det har haft. Casestudierne hjælper os med at forstå, hvor tingene gik galt, og hvordan vi undgår at gentage tidligere fejl.

Vi så også på, hvad der blev gjort rundt om i verden for at imødegå etiske bekymringer omkring AI-udvikling og -brug.

Baseret på kerneproblemerne og virkningerne af AI, otte principper blev identificeret for at understøtte den etiske brug og udvikling af kunstig intelligens i Australien.

1. Genererer nettofordele: AI-systemet skal generere fordele for mennesker, der er større end omkostningerne.
2. Gør ingen skade: Civile AI-systemer må ikke være designet til at skade eller bedrage mennesker og bør implementeres på måder, der minimerer eventuelle negative resultater.
3. Lovgivningsmæssig og juridisk overholdelse: AI-systemet skal overholde alle relevante internationale, australske lokal, stats/territorier og føderale regeringsforpligtelser, regler og love.
4. Beskyttelse af privatlivets fred: Ethvert system, inklusive AI-systemer, skal sikre folks private data beskyttes og holdes fortrolige og forhindre databrud, der kan forårsage omdømme, psykologisk, finansiel, erhvervsmæssig eller andre former for skade.
5. Retfærdighed: Udviklingen eller brugen af ​​AI -systemet må ikke resultere i urimelig forskelsbehandling af enkeltpersoner, fællesskaber eller grupper. Dette kræver særlig opmærksomhed for at sikre, at "træningsdataene" er fri for skævheder eller karakteristika, som kan få algoritmen til at opføre sig uretfærdigt.
6. Gennemsigtighed og forklaring: Folk skal informeres, når en algoritme bliver brugt, som påvirker dem, og de skal have information om, hvilken information algoritmen bruger til at træffe beslutninger.
7. Konkurrencelighed: Når en algoritme påvirker en person, skal der være en effektiv proces for at give denne person mulighed for at udfordre brugen eller outputtet af algoritmen.
8. Ansvarlighed: Mennesker og organisationer, der er ansvarlige for oprettelsen og implementeringen af ​​AI-algoritmer, bør være identificerbare og ansvarlige for virkningerne af denne algoritme, også selvom påvirkningerne er utilsigtede.

Ud over kerneprincipperne er der identificeret forskellige værktøjssæt i rammen, som kunne bruges til at understøtte disse principper. Disse omfatter konsekvensanalyser, løbende overvågning og offentlig høring.

En plan, hvad med handling?

Men principper og etiske mål kan kun gå så vidt. På et tidspunkt bliver vi nødt til at komme i gang med at beslutte, hvordan vi skal implementere og opnå dem.

Der er forskellige kompleksiteter at overveje, når man diskuterer den etiske brug og udvikling af AI. Teknologiens store rækkevidde har potentiale til at påvirke alle facetter af vores liv.

AI-applikationer er allerede i brug på tværs af husstande, virksomheder og regeringer, de fleste australiere er allerede påvirket af dem.

Der er et presserende behov for at undersøge, hvilke effekter kunstig intelligens har på de udsatte og på minoritetsgrupper, at sikre, at vi beskytter disse individer og samfund mod partiskhed, diskrimination og udnyttelse. (Husk Tay, den racistiske chatbot?)

Der er også det faktum, at AI brugt i Australien ofte vil blive udviklet i andre lande, så hvordan sikrer vi, at den overholder australske standarder og forventninger?

Din mening

Rammen udforsker disse spørgsmål og udgør nogle af Australiens første skridt på rejsen mod den positive udvikling og brug af kunstig intelligens. Men sande fremskridt kræver input fra interessenter på tværs af regeringen, forretning, den akademiske verden og det bredere samfund.

Læs mere:Pas på, hvordan du behandler nutidens AI:den kan tage hævn i fremtiden

Derfor er diskussionsoplæg om etiske rammer nu åbent for offentlig kommentar. Du har indtil 31. maj, 2019, at sige din mening om Australiens digitale fremtid.

Med en proaktiv tilgang til den etiske udvikling af kunstig intelligens, Australien kan gøre mere end blot at afbøde enhver risiko. Hvis vi kan bygge kunstig intelligens til en mere retfærdig måde, vi kan sikre en konkurrencefordel samt sikre australiernes rettigheder.

Emma Schleiger, Forsker, CSIRO og Stefan Hajkowicz, Senior Principal Scientist, Strategi og fremsyn, Data61

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs den originale artikel.