Spørgsmål og svar:Forskere advarer om fare, opfordrer til pause i at bringe AI til skolerne

I K-12-skoler over hele landet er en ny guldfeber af slagsen på vej:Klasseværelser i hele landet kæmper for at bringe de nyeste kunstige intelligens-værktøjer, såsom platforme drevet af chatboten ChatGPT, ind i klasseværelset.

Alex Molnar, en direktør for National Education Policy Center (NEPC) ved CU Boulder, ser en fare i dette travlt med at introducere kunstig intelligens til skolerne. Disse platforme, sagde han, bruger uigennemsigtige og normalt proprietære algoritmer – hvilket gør deres indre funktioner mystiske for både undervisere, forældre og elever.

"Det, du har, er en lommefuld løfter, som AI vil levere som lovet," sagde Molnar, en forskningsprofessor ved School of Education. "Problemet er, at der i øjeblikket ikke er nogen måde at uafhængigt evaluere de påstande, der fremsættes."

I en ny rapport fremhæver Molnar og hans kolleger de potentielle faldgruber ved AI i uddannelse og opfordrer til en ubestemt "pause" med at integrere AI i K-12-læring. Medforfattere omfattede Ben Williamson fra University of Edinburgh i Det Forenede Kongerige og Faith Boninger, assisterende forskningsprofessor i uddannelse ved CU Boulder.

Molnar giver sit bud på, hvorfor kunstig intelligens er et risikabelt spil for uddannelse – og hvad bekymrede forældre og andre kan gøre for at blive involveret.

Indebærer ny teknologi risici for grundskoleuddannelse?

Der har været alle mulige problemer forbundet med brugen af ​​digitale platforme i skolerne, selv før den udbredte indførelse af kunstig intelligens.

Elevdata er ofte ikke ordentligt beskyttet. For eksempel har der været alle slags lækager fra tredjepartsleverandører, og der er ingen lov eller effektiv politik, der holder dem ansvarlige. Du har også en frygtelig masse beta-test i gang i skolerne. Marketingpåstande lyder godt, men digitale platforme giver ofte ikke de lovede resultater og er fyldt med tekniske problemer.

Digitale teknologier har gjort det svært eller umuligt at besvare grundlæggende spørgsmål, såsom:Hvem bestemmer indholdet i pensum, der bliver indbygget i disse platforme? Hvem anmelder deres arbejde?

Kunne kunstig intelligens gøre disse problemer værre?

Alle problemer relateret til digitale teknologier har en tendens til at blive forstærket af kunstig intelligens.

Såkaldt AI bruger algoritmer og enorme mængder computerkraft til at producere resultater baseret på utallige beregninger af sandsynligheder. For eksempel, hvad er sandsynligheden for, at det næste ord i en rækkefølge bliver 'juice'? Disse beregninger producerer ikke 'sandhed' eller endog, nødvendigvis, nøjagtighed. De producerer probabilistisk output.

I øjeblikket er konstruktionen og driften af ​​AI-algoritmer stort set uden for offentligheden og uden offentlig ansvarlighed. Ikke desto mindre bliver skolefolk presset på, både af marketingfolk og statslige enheder, for at blive set som værende i spidsen for denne påståede digitale revolution – ved at overdrage flere og flere skoleprocesser til teknologer med ringe eller ingen viden om pædagogik eller skolepensum.

Mange mennesker kalder AI-værktøjer for en "sort boks." Hvad betyder det?

For at bruge en gammeldags forklaring, forestil dig, hvis du sagde:"Jeg vil gerne se mit barns geografilærebog." Du kan sige:"Jeg har nogle problemer her." Du kunne tale med nogen om det, nogen, der muligvis kunne forklare disse problemer. Men med kunstig intelligens kan du ikke gøre det.

Man kan ikke gå ind og sige for eksempel "Hvordan fungerede scoringen på det her?" Svaret ville være:"Jamen, vi ved det ikke." "Hvordan ved vi, at dette indhold er korrekt?" "Jamen, det ved vi heller ikke."

Er bekymringen så, at AI kan træffe beslutninger i stedet for undervisere eller forældre?

Du kan bruge kunstig intelligens til at hjælpe dig med at afgøre, om et barn var utro. Du bruger det til at bestemme, om et barn skal være med i dette program eller det pågældende program. Du kan bruge kunstig intelligens til at bestemme alle slags ting om et barn, og barnet er låst inde med ringe eller ingen klagemuligheder.

Forældre kan klage alt, hvad de vil. De kan stadig ikke få oplysningerne om grundlaget for en beslutning truffet af AI, fordi rektor ikke har det. Læreren har det ikke. Forstanderen har det ikke. Det er skjult bag et proprietært gardin af en privat leverandør.

Du går ind for en 'pause' i brugen af ​​kunstig intelligens i skolerne. Hvordan ville det se ud?

Løsningen ville være, at statens lovgivere ved lov i det væsentlige siger:Offentlige skoler i denne stat må ikke vedtage kunstig intelligens-programmer, medmindre og indtil disse programmer er certificeret af denne statslige enhed – de er nødt til at oprette enheden. Den har gennemgået disse programmer. Det har sagt, at de er sikre at bruge, og det definerer, hvad de passende anvendelser af programmet er, og for hvem.

Med andre ord går der ikke noget i skolerne, før vi har de lovmæssige og lovgivningsmæssige rammer og institutionelle kapacitet på plads til selvstændigt at vurdere AI-platforme, der er foreslået til skolebrug.

Hvad kan forældre eller andre, der er bekymrede over dette problem, gøre?

Kræv, at dine repræsentanter tager disse spørgsmål alvorligt – først og fremmest for at lovgive en pause i indførelse af kunstig intelligens i skolerne. Periode. Derefter kan de bede deres repræsentanter om at oprette en statslig enhed, der er designet til at regulere brugen af ​​kunstig intelligens i skolerne.

Dette er et politisk problem. Dette er ikke et teknisk problem.

Vi har en lang historie med teknologivirksomheder, der ikke har fulgt deres egne regler, som i sig selv er latterligt utilstrækkelige. For enhver, der seriøst forsøger at finde ud af, hvordan man ansvarligt bruger AI i uddannelse, taler de ikke rigtig, hvis de ikke taler om politisk handling. Teknologerne vil ikke redde os.

Flere oplysninger: Williamson, B., Molnar, A., &Boninger, F. (2024). Tid til en pause:Uden effektivt offentligt tilsyn vil kunstig intelligens i skolerne gøre mere skade end gavn. Boulder, CO:National Education Policy Center. nepc.colorado.edu/publication/ai

Leveret af University of Colorado at Boulder