GPTs unøjagtigheder i landbruget kan føre til tab af afgrøder og fødevarekriser

Dr. Asaf Tzachor, grundlægger af Aviram Sustainability and Climate Program ved Reichman University, undersøgte sammen med forskere fra USA, Storbritannien, Kenya, Nigeria og Colombia pålideligheden af ​​informationen og den professionelle rådgivning fra den populære chatbot ChatGPT (versioner). 3.5 og 4.0) til landmænd i Afrika. Forskerne identificerede unøjagtigheder, der kunne føre til landbrugsfejl og tab af afgrøder.

I deres artikel for Nature Food , advarer de mod den umiddelbare brug af generative AI-modeller i landbruget, idet de frygter, at landmændene kan implementere mangelfulde anbefalinger, der kan udløse fødevarekriser. I stedet anbefaler forskerne en mere optimal udviklingsproces for AI-modeller i landbruget, der inkluderer grundig overvågning og test, før disse modeller implementeres bredt.

Kort efter lanceringen af ​​ChatGPT i begyndelsen af ​​2023 indkaldte Dr. Tzachor et internationalt team af forskere fra landbrugsforskningscentre i Nigeria, Kenya, Colombia, Frankrig, England og USA. De observerede, at landmænd i udviklingslande var begyndt at konsultere den kunstige intelligens-model for professionel rådgivning om agronomi og botanik.

Disse landmænd, der stammer fra små til mellemstore gårde på tværs af ækvatorialafrika, Sydøstasien og Sydamerika, har adgang til internettet og OpenAI-brugergrænsefladen. Forskerholdet søgte at vurdere, om den innovative chatbot kunne erstatte eller endda erstatte landbrugsudvidelsesagenter, som træner og konsulterer landmænd.

Disse midler, kendt som "extensionister", omfatter hundredtusindvis af professionelle agronomer og botanikere, plantesygdomseksperter og rådgivere om kunstvanding, befrugtning, markedsføring af produkter og handel.

"Extensionister har været afgørende for at formidle avanceret landbrugsviden, og guider i mange tilfælde små landmænd rundt om i verden i implementering af metoder til bæredygtig intensivering af afgrøder. De afholder konferencer og seminarer om nye herbicider og pesticider, rådgiver om kunstvandings- og gødningsstrategier og planlægning. felteksperimenter og anbefale lokale markedsføringskanaler og eksportstrategier for landbrugsprodukter," forklarer Dr. Tzachor.

På verdensplan har cirka 570 millioner små og mellemstore landbrug brug for uddannelse inden for forskellige landbrugsområder. Dog står extensionister ofte over for betydelige udfordringer, især i udviklingslande. Disse udfordringer omfatter sprogbarrierer, oversættelsesproblemer, dårlig vejinfrastruktur, mangel på offentlig transport og forældede eller ikke-eksisterende kommunikationsnetværk.

Landbrugskonsulenter kæmper for at nå små og fjerntliggende gårde, mens småbønder i Afrika og Sydamerika har svært ved at deltage i professionelle seminarer hundreder af kilometer væk. Udvidelsesbureauer, ofte baseret i hovedstæder, mangler ressourcer og personale til at opdatere deres konsulentmateriale og holde sig opdateret med nye metoder.

På denne baggrund undersøgte forskerholdet, om en generativ AI-model kunne kompensere for manglen på landbrugsrådgivning. Det, der begyndte med forsigtig optimisme, endte dog med vildledning, unøjagtigheder og skarpe advarsler til brugerne.

For det første gav forskerne chatbot'en ​​til opgave at anbefale kontrol- og behandlingsforanstaltninger for efterårets armyworm, et skadeligt insekt, der neutraliserer planters forsvarsmekanismer og forårsager milliarder af dollars i skade på majsafgrøder verden over. OpenAIs ældre modeller (3.5 og 4.0) gav tvetydige råd om brugen af ​​pesticider.

I en anden række spørgsmål, denne gang stillet af maniokrodbønder i Nigeria – Afrikas vigtigste kassavaproducent – ​​vurderede forskerne anbefalede metoder til at dyrke planten, som spiller en afgørende rolle for ernæringssikkerheden for titusinder af mennesker på kontinentet. . I dette tilfælde foreslog ChatGPT brugen af ​​herbicider, men tog fejl i tidspunktet for kemisk påføring, hvilket ville føre til afgrødeskader og fødevarekriser, hvis landmændene fulgte dets råd.

"Problemet med vores resultater strækker sig ud over fejlene i selve algoritmen," ifølge Dr. Tzachor. "Mange havde advaret os om potentielle fejl og unøjagtigheder. Det grundlæggende problem er fraværet af nogen beskyttelse mod den udbredte brug af store sprogmodeller og kunstig intelligens mere bredt i et system så følsomt som landbrug.

"Der er intet tilsyn med, hvordan sådanne modeller bruges, ingen evaluering af deres kontekstspecifikke egnethed, ingen ansvarlighed for konsekvenserne af forkert brug eller for de handlinger, der er truffet baseret på deres anbefalinger, og generelt ingen ansvarspådragelse." P>

"I tilfældet med den aktuelle undersøgelse diskuterer vi ikke at bruge chatbot'en ​​til at komponere en sang, et manuskript eller et speciale. Vi beskæftiger os med fødevaresikkerhed og forvaltning af landbrug. Selvom algoritmens tillokkelse er klar , det indebærer betydelige risici."

Som svar på denne udfordring foreslog forskerne en idealiseret udviklings- og implementeringsproces for generative AI-modeller i landbruget.

Dr. Tzachor, fungerende dekan for School of Sustainability og den akademiske direktør for Aviram Sustainability and Climate Program ved Reichman University, "På den ene side ser vi gårde og extensionister, der konsulterer den frit tilgængelige AI-model. På den anden side er dette brug involverer fejl, usikkerheder og skøn, som landbruget ikke kan tolerere.

"Skeptikere og kritikere taler om unøjagtigheder, men de færreste tager fat på konsekvenserne af disse unøjagtigheder for udsatte befolkningsgrupper, såsom småbønder, i kritiske sektorer som landbruget. Desuden spørgsmålet om ansvar, spørgsmålet om, hvem der har ansvaret for at sikre sikker brug af disse modeller forbliver stort set uundersøgte."

Flere oplysninger: A. Tzachor et al., Store sprogmodeller og landbrugsudvidelsestjenester, Nature Food (2023). DOI:10.1038/s43016-023-00867-x

Journaloplysninger: Naturmad

Leveret af Reichman University