Unge mennesker finder trøst i AI-genererede svar

Unge bruger ofte internettet til at søge støtte fra deres venner, men får ikke altid hjælpsomme svar. Nylige fremskridt inden for AI-teknologi kan muligvis hjælpe.

Unge mennesker finder støtte fra AI-genererede svar om emner lige fra forhold til fysisk sundhed. Når det kommer til følsomme emner, såsom selvmordstanker, foretrækker de menneskelige reaktioner, ifølge en undersøgelse fra University of Michigan og Drexel University præsenteret for nylig på konferencen om menneskelige faktorer i computersystemer på Hawaii.

Værket er offentliggjort i tidsskriftet Proceedings of the CHI Conference on Human Factors in Computing Systems .

I årtier er sociale medier i stigende grad blevet unge menneskers vigtigste metode til udveksling af kollegastøtte. Forskere søgte at forstå, hvornår og hvordan kunstig intelligens kan lette og hjælpe med sådanne udvekslinger.

Forskere fra U-M og Drexel University analyserede undersøgelsessvar fra 622 personer i alderen 18 til 24 med erfaring med at søge og give support online. I undersøgelsen evaluerede deltagerne blindede menneske- og AI-genererede svar på hjælp-søgende beskeder (hvilket betyder, at de ikke vidste, hvem der skrev svarene). De menneskelige reaktioner afspejlede forskellige former for menneskelig støtte, unge mennesker kan møde, herunder jævnaldrende, voksne mentorer og terapeuter.

Resultaterne viste, at deltagerne reagerede positivt på de AI-genererede svar om forhold, selvudfoldelse og fysisk sundhed, idet de bemærkede, at de virkede omsorgsfulde og tilbød handlingsrettede forslag.

De foretrak dog stærkt den menneskeskabte reaktion på hjælp-søgende beskeder om et følsomt emne som selvmordstanker.

"Denne type forskning er vigtig for at forstå, hvordan AI kan hjælpe unge mennesker på en sikker og effektiv måde," sagde Jordyn Young, doktorand ved UM School of Information og undersøgelsens hovedforfatter. "Det er ikke kun, hvad modellen siger, men også hvordan. Det er godt at være ærlig omkring begrænsningerne af AI's hjælpefunktioner, men vi er nødt til at formulere det omhyggeligt - især som reaktion på følsomme afsløringer."

Da unge mennesker dagligt får adgang til internettet, kan det ifølge forskerne være gavnligt på lang sigt at have forskellige måder at dele deres tanker på – især med AI-genererede svar.

"Vores forskning tyder på, at AI-drevne værktøjer kan hjælpe unge jævnaldrende med at støtte hinanden i udfordrende tider ved at hjælpe dem med at finde ud af, hvad de skal sige," sagde Young.

Undersøgelsens forfattere på Drexel omfattede Laala Jawara, Diep Nguyen, Brian Daly, Jina Huh-Yoo og Afsaneh Razi.

Flere oplysninger: Jordyn Young et al., The Role of AI in Peer Support for Young People:A Study of Preferences for Human- and AI-Generated Responses, Proceedings of the CHI Conference on Human Factors in Computing Systems (2024). DOI:10.1145/3613904.3642574

Leveret af University of Michigan