Forskere får transformationel AI til at virke umærkeligt

Læger, der træffer beslutninger på liv og død om organtransplantationer, Kræftbehandlinger eller hjerteoperationer tænker typisk ikke meget over, hvordan kunstig intelligens kan hjælpe dem. Og det er sådan, forskere ved Carnegie Mellon University siger, at kliniske kunstig intelligens-værktøjer bør designes - så læger ikke behøver at tænke på dem.

En kirurg føler måske aldrig behov for at spørge en AI til råds, meget mindre tillade det at træffe en klinisk beslutning for dem, sagde John Zimmerman, Tang-familiens professor i kunstig intelligens og menneske-computer-interaktion i CMU's Human-Computer Interaction Institute (HCII). Men en AI kan vejlede beslutninger, hvis den var indlejret i de beslutningsrutiner, der allerede bruges af det kliniske team, at levere AI-genererede forudsigelser og evalueringer som en del af den overordnede blanding af information.

Zimmerman og hans kolleger kalder denne tilgang "Ubemærkelig AI."

"Idéen er, at AI skal være umærkeligt i den forstand, at du ikke behøver at tænke på det, og det kommer ikke i vejen, " sagde Zimmerman. "Elektricitet er fuldstændig umærkeligt, indtil du ikke har det."

Qian Yang, en ph.d. studerende i HCII, vil tage fat på, hvordan Unremarkable AI-tilgangen styrede designet af et klinisk beslutningsstøtteværktøj (DST) ved CHI 2019, Association for Computing Machinerys konference om menneskelige faktorer i computersystemer, 4-9 maj i Glasgow, Skotland.

Yang, sammen med Zimmerman og Aaron Steinfeld, lektor i HCII og Robotics Institute, arbejder sammen med biomedicinske forskere ved Cornell University og CMU's Language Technologies Institute på en sommertid for at hjælpe læger med at vurdere hjertepatienter til behandling med en ventrikulær hjælpeanordning (VAD). Denne implanterbare pumpe hjælper syge hjerter hos patienter, der ikke kan modtage hjertetransplantationer, men mange modtagere dør kort efter implantationen. DST under udvikling bruger maskinlæringsmetoder til at analysere tusindvis af sager og beregne en sandsynlighed for, om en person kan få gavn af det.

DST'er er blevet udviklet til at hjælpe med at diagnosticere eller planlægge behandling for en række medicinske tilstande og kirurgiske procedurer, men de fleste formår ikke at lave overgangen fra laboratorium til klinisk praksis og falder i ubrug.

"De antager alle, at du ved, du har brug for hjælp, " sagde Zimmerman. De møder ofte modstand fra læger, Mange af dem tror ikke, de har brug for hjælp, eller se sommertid som teknologi designet til at erstatte dem.

Yang brugte Unremarkable AI-principperne til at designe, hvordan det kliniske team ville interagere med DST for VAD'er. Disse teams omfatter klinikere på mellemniveau, såsom sygeplejersker, socialrådgivere og VAD-koordinatorer, der rutinemæssigt bruger computere; og kirurger og kardiologer, som værdsætter deres kollegers råd frem for beregningsstøtte.

Det naturlige tidspunkt at indarbejde DST's prognoser er under tværfaglige patientevalueringsmøder, sagde Yang. Selvom læger træffer den ultimative beslutning om, hvornår eller om de skal implantere en VAD, hele teamet er ofte til stede ved disse møder, og computere bliver brugt.

Hendes design inkorporerer automatisk sommertidsprognoserne i de dias, der er forberedt til hver patient. I de fleste tilfælde, DST-oplysningerne vil ikke være væsentlige, Steinfeld foreslog, men for visse patienter, eller på visse kritiske punkter for hver patient, DST kan give oplysninger, der kræver opmærksomhed.

Selvom selve DST stadig er under udvikling, forskerne testede dette interaktionsdesign på tre hospitaler, der udfører VAD-kirurgi, med DST-forstærkede dias præsenteret for simulerede patienter.

"Mellemniveauerne - supportpersonalet - elskede dette, " sagde Yang, fordi det forbedrede deres input og hjalp dem med at være mere aktive i diskussionen. Lægens reaktion var mindre entusiastisk, afspejler skepsis over for sommertid og overbevisningen om, at det var umuligt totalt at evaluere interaktionen uden et fuldt fungerende system og rigtige patienter.

Men Yang sagde, at læger ikke udviste den samme defensivitet og følelser omkring at blive erstattet af teknologi, der typisk er forbundet med sommertid. De anerkendte også, at DST kunne informere deres beslutninger.

"Tidligere systemer handlede om at fortælle dig, hvad du skulle gøre, " sagde Zimmerman. "Vi erstatter ikke menneskelig dømmekraft. Vi forsøger at give mennesker umenneskelige evner."

"Og for at gøre det er vi nødt til at opretholde den menneskelige beslutningsproces, " tilføjede Steinfeld.