Forskerne gennemførte en række eksperimenter, hvor menneskelige piloter blev bedt om at se videoer af AI-systemer, der flyver med et fly. Piloterne blev derefter bedt om at gætte, hvad AI-systemet lavede og hvorfor. Resultaterne viste, at piloterne ofte ikke var i stand til korrekt at gætte AI-systemets hensigter.
Forskerne mener, at det skyldes, at AI-systemer træffer beslutninger på en meget anderledes måde end mennesker. Mennesker har en tendens til at træffe beslutninger baseret på deres egen erfaring og viden, mens AI-systemer træffer beslutninger baseret på data og algoritmer. Denne forskel i beslutningsprocesser kan gøre det svært for mennesker at forstå, hvad AI-systemer laver.
Forskerne siger, at deres resultater har betydning for luftfartens fremtid. Efterhånden som AI-systemer bliver mere avancerede, vil de sandsynligvis spille en større rolle i at flyve fly. Det er dog vigtigt at sikre, at mennesker er i stand til at forstå de beslutninger, der træffes af AI-systemer for at undgå ulykker.
Undersøgelsens resultater tyder på, at nye træningsmetoder kan være nødvendige for piloter, der skal arbejde med AI-systemer. Disse træningsmetoder skal hjælpe piloter med at forstå, hvordan AI-systemer træffer beslutninger, og hvordan de skal fortolke den information, som AI-systemer giver.
Derudover siger forskerne, at det er vigtigt at udvikle nye måder, hvorpå AI-systemer kan kommunikere med mennesker. Dette vil bidrage til at sikre, at mennesker er i stand til at forstå de beslutninger, der træffes af AI-systemer, og til at træffe informerede beslutninger om, hvordan de skal interagere med dem.
Sidste artikelPilotløse droner viser krigens nye ansigt i Farnborough
Næste artikelSatellitter viser, at Joaquin bliver en kategori 4-orkan