Hvordan chatbots kunne træne vores mentale tilstand

Teknologi vil spille en stadig mere social og endda følelsesmæssig rolle i vores liv. Minha Lee – digital designer, informationsforsker, filosof og verdensborger – er fascineret af dette faktum. Adjunkten udvikler chatbots, der kan hjælpe folk med at skabe et mere positivt selvbillede.

Minha Lee skriver i sit speciale om en japansk mand, der giftede sig med den populære (animerede) popstjerne Hatsune Miku, der som hologram gav udsolgte koncerter, blandt andet i USA. Dette virtuelle forhold gav den følelsesmæssigt skadede mand, efter mange års selvisolation, modet til at åbne sig for samfundet. Dette er et nyligt – og ret ekstremt – eksempel på den følelsesmæssige indvirkning, som teknologi kan have, men enhver, der var ung i 1990'erne, har måske selv engang passet en Tamagotchi - og vil derfor forstå, at folk nemt kan blive knyttet til alt, der appellerer på en eller anden måde til vores sociale natur.

Spejl

Vores forhold til teknologi afslører meget om, hvem vi er som moralske væsener, siger Lee. "I denne henseende kan teknologi tjene som en slags moralsk spejl." I sit speciale angriber hun dette emne fra forskellige vinkler, som det sømmer sig for en med hendes varierede baggrund. "Jeg er koreaner, men jeg tilbragte noget af min barndom i Østeuropa, og som teenager boede jeg i USA, hvor jeg senere studerede både filosofi og digital animation."

Efter at have brugt et stykke tid på at arbejde i Korea besluttede hun at vende tilbage til Europa. Hun valgte Holland, hvor hun tog en master i informationsvidenskab ved universitetet i Amsterdam. Efter at have arbejdet som dataanalytiker og marketingmedarbejder fik hun mulighed for at tage en ph.d. stilling på TU/e, i forskningsgruppen Human-Technology Interaction "Så snart jeg indså, at jeg ville blive vejledt af eksperter inden for forskellige områder - psykologi og filosofi og kunstig intelligens - vidste jeg, at det var noget for mig."

Problem

Hendes arbejde er dels ganske filosofisk i sin tilgang, men rummer også en række konkrete eksperimenter. Som den med den 'moralske' chatbot Vincent (opkaldt efter den urolige sjæl Vincent van Gogh). I en periode på to uger chattede 67 testpersoner dagligt i et antal minutter med denne kunstige samtalepartner via Facebook Messenger. De rapporterede deres fund via et spørgeskema om deres velbefindende, som de udfyldte både før og bagefter. Deltagerne havde ingen specifikke psykiske problemer; gruppen var et bredt udsnit af befolkningen.

Lee og hendes kolleger konstruerede to versioner af Vincent:en, der for det meste spurgte om sin samtalepartners humør og sindstilstand, og en anden, der gjorde det modsatte og delte sine egne problemer. "Det viste sig, at den Vincent, der havde brug for en hjælpende hånd, i modsætning til den omsorgsgivende chatbot, havde en positiv effekt på den måde, som testpersonerne så sig selv på. At være bekymret for en chatbot opmuntrede dem til at behandle sig selv mere medfølende, og de var mindre hårde ved sig selv. De indså, at de ikke var de eneste med problemer. Så det ser ud til, at denne psykologiske mekanisme virker, selv når du skriver svar til en chatbot."

Taknemmelighed

Disse resultater efterlod smag for mere. Derfor udviklede Lee, der nu arbejder som lektor i Fremtidens Hverdag-gruppen (TU/e-afdelingen Industriel Design), en ny moralsk chatbot. Hermed undersøger hun, om chatbots kan give folk en stærkere følelse af taknemmelighed. Lee fortsatte på samme måde som i sin tidligere forskning med det forbehold, at eksperimentet nu varede tre dage.

Lee fortæller, at "undersøgelsen er nu ved at blive gennemgået, men vi har konstateret, at en 'taknemmelighedschatbot' også er med til at øge deltagernes trivsel. Det sjove er, at deltagerne har angivet, at de talte med en chatbot, men det hjalp dem til at føle taknemmelighed. Så det er ikke chatbots, der erstatter menneskelig interaktion, men snarere formidler kontakten mellem mennesker ved at stille spørgsmål som:hvem vil du gerne takke og hvorfor? Faktisk har vi nogle gange bare brug for en påmindelse."

For at chatbotten fungerer korrekt, er det vigtigt, at den virtuelle partner stiller de rigtige opfølgende spørgsmål. Samtalerne er derfor 'mærket', så det bliver mere og mere tydeligt, om en persons sindstilstand under chatten er positiv, negativ eller neutral. Der skal trods alt en masse data til for at træne algoritmen til fejlfrit at føle og reagere på chatbrugerens følelser.

Data

Lee siger, at "de store teknologivirksomheder investerer en hel del i deres intelligente bots, som den velkendte Siri produceret af Apple og Amazons Alexa. De opnår denne intelligens ved at programmere bots med enorme mængder data, så de kan tale om ethvert emne. Men for kvaliteten af ​​oplevelsen som vurderet af det menneske, der er involveret i samtalen, er det vigtigere, at chatbotten har sin egen identitet, og samtalen har en logisk start og slut. Det handler om storytelling, da min uddannelse som digital animator lærte mig."

Desværre er det ikke alle, der har nogen i nærheden at tage sig af. Måske kan digital teknologi tjene som en slags alternativ, tænker Lee. "En chatbot på din telefon er under alle omstændigheder billig, brugervenlig og altid tilgængelig. Jeg er opsat på at undersøge, om interaktion med en stemme, en animation eller endda en rigtig robot fungerer endnu bedre. Det ville være rart, hvis vi kunne ikke kun hjælpe mennesker med psykiske problemer, men også forhindre, at folk får psykiske problemer. Det er mærkeligt, at vi træner vores fysiske kondition, for eksempel ved at dyrke sport, men ikke vores mentale tilstand, vel?"