Kemikere viser, hvordan bias kan dukke op i resultater fra maskinlæringsalgoritmer

Et team af materialeforskere ved Haverford College har vist, hvordan menneskelig skævhed i data kan påvirke resultaterne af maskinlæringsalgoritmer, der bruges til at forudsige nye reagenser til brug ved fremstilling af ønskede produkter. I deres papir offentliggjort i tidsskriftet Natur , gruppen beskriver test af en maskinlæringsalgoritme med forskellige typer datasæt, og hvad de fandt.

En af de mere velkendte anvendelser af maskinlæringsalgoritmer er ansigtsgenkendelse. Men der er mulige problemer med sådanne algoritmer. Et sådant problem opstår, når en ansigtsalgoritme, der er beregnet til at lede efter en person blandt mange ansigter, er blevet trænet ved hjælp af mennesker af kun én race. I denne nye indsats, forskerne spekulerede på, om bias, utilsigtet eller på anden måde, kan dukke op i maskinlæringsalgoritmeresultater, der bruges i kemiapplikationer designet til at lede efter nye produkter.

Sådanne algoritmer bruger data, der beskriver ingredienserne i reaktioner, der resulterer i skabelsen af ​​et nyt produkt. Men de data, systemet er trænet på, kan have stor indflydelse på resultaterne. Forskerne bemærker, at pt. sådanne data er opnået fra offentliggjorte forskningsindsatser, hvilket betyder, at de typisk er genereret af mennesker. De bemærker, at dataene fra en sådan indsats kunne være blevet genereret af forskerne selv, eller af andre forskere, der arbejder med særskilte indsatser. Data kunne endda komme fra en enkelt person, der blot forholder sig fra hukommelsen, eller fra en professors forslag, eller en kandidatstuderende med en lys idé. Pointen er, dataene kan være partiske i forhold til baggrunden for ressourcen.

I denne nye indsats, forskerne ville vide, om sådanne skævheder kunne have en indvirkning på resultaterne af maskinlæringsalgoritmer, der bruges til kemiapplikationer. At finde ud af, de så på et specifikt sæt af materialer kaldet amin-templatede vanadiumborater. Når de er syntetiseret med succes, krystaller dannes - en nem måde at afgøre, om en reaktion var vellykket.

Eksperimentet bestod i at træne en maskinlæringsalgoritme på data omkring syntesen af ​​vanadiumborater, og derefter programmere systemet til at skabe sit eget. Nogle af de data indsamlet af forskerne var menneskeskabte, og noget af det blev samlet tilfældigt. De rapporterer, at algoritmen trænet på de tilfældige data gjorde det bedre til at finde måder at syntetisere vanadiumboraterne på, end når den brugte data genereret fra mennesker. De hævder, at dette viser en klar skævhed i de data, der blev skabt af mennesker.

© 2019 Science X Network