Startup Diveplane ønsker at gøre AI etisk:CEO forklarer, hvad det betyder

I dagens verden bruges kunstig intelligens til at træffe nogle store beslutninger. Colleges er afhængige af det for at optage studerende. Parole boards bruger det til at godkende eller nægte indsatte løsladelser.

En startup i North Carolinas Research Triangle stræber efter at gøre AI-systemer mere etiske, og virksomheden har sikret sig betydelig finansiering til at gøre det. Mandag meddelte Diveplane, at det havde rejst 25 millioner dollars i serie A-finansiering, store penge til tidlig investering. Raleigh-virksomheden er stolt af at skabe etisk kunstig intelligens, ansvarlig brug af maskiner ved at identificere og korrigere for utilsigtet bias.

Diveplane blev medstiftet i 2018 af Michael Capps, tidligere præsident for Cary, North Carolina-baserede Epic Games. I de seneste fire år har Diveplane tiltrukket en række bemærkelsesværdige kunder og investorer, herunder adskillige amerikanske fodboldstjerner.

Nu støttet med yderligere millioner fra venturekapital- og forsvarsvirksomheder, søger Diveplane at skalere op med det ultimative mål at omforme de AI-systemer, der er kommet til at diktere meget af dagligdagen.

Så hvad gør Diveplanes tilgang til AI unik? Og hvor stor håber den at blive? Den 15. september talte Capps med The News &Observer for at diskutere. Her er fem store takeaways:

Forklarlig kunstig intelligens vs. sort boks

Diveplane leverer det, der er kendt som forklarlig kunstig intelligens, systemer, der gør det muligt for mennesker bedre at forstå, hvordan maskinernes resultater blev til. Med denne klarhed sagde Capps, at organisationer bedre kan identificere fejl, der kan give skæve resultater.

"For at det (for at ske), kræver det en menneskelig berøring," sagde Capps. "Denne vurdering af at kunne vende tilbage og sige:'Det var ikke sådan, vi ønskede at ansætte folk i vores virksomhed. Denne A.I. gjorde noget forkert. Lad os ordne det'"

Forklarlig AI står i kontrast til den type AI, der oftest bruges i dag, neurale netværkssystemer, modelleret ud fra de biologiske funktioner i menneskelige hjerner. De fleste neurale netværkssystemer, sagde Capps, er kendt som "black box AI", hvilket betyder, at ingen – hverken de organisationer, der bruger teknologien eller de mennesker, der bliver påvirket af den – kan se præcis, hvordan de fungerer.

"Det fungerer måske godt, men det kan ikke være," sagde han. "Og det faktum, at vi ikke ved det, men det bliver brugt til at træffe sådanne kritiske beslutninger, føles upassende. Mere end upassende, det gør mig sur."

Opskalering

Diveplane tæller Duke Health og bilracerholdet Roush Fenway Keselowski Racing blandt sine kunder i North Carolina. Capps sagde, at Diveplane sigter mod at bruge sin seneste finansiering til at tiltrække flere kunder inden for forsvar, forsikring og finans.

"Dette er en sand, rigtig forretning," sagde han. "Lad os nu finde ud af, hvordan vi begynder at skalere det."

Capps håber, at Diveplane en dag kan hjælpe med at fortrænge black box-teknologier, og han sagde, at investorer er begyndt at se, at forklarlig AI har et marked. Efterhånden som forbrugerne bliver mere bevidste om AI-etik, sagde han, at virksomheder og organisationer har følt sig presset for at sikre, at deres systemer er gennemsigtige.

Som et tegn på denne voksende bevidsthed sidder Capps i ledelsesrådet for Data and Trust Alliance, en gruppe af ledere fra store virksomheder som Walmart, Starbucks, Nike og CVS, som har forpligtet sig til at fremme mere ansvarlig kunstig intelligens og maskinlæringssystemer.

Nyt kontor, dobbelt personale

Med sin seneste finansiering ser Diveplane ud til at fordoble sin arbejdsstyrke fra omkring 20 til 40 ansatte. Capps bemærkede, at han håber, at dette blot er den første af mange jobudvidelser.

Hans firma åbner også et nyt kontor i Smoky Hollow-udviklingen i Downtown Raleigh. På trods af det indkommende hovedkvarter sagde Capps, at mange Diveplane-arbejdere kan være baseret uden for byen eller staten.

"Jeg ville bygge en Raleigh-baseret teknologivirksomhed med talenterne her, men verden ændrede sig så meget med fjernarbejde," sagde han. "Så, det er dumt af os ikke at kaste et meget bredt net. Plus, de mennesker derude, der bekymrer sig om, hvad vi laver, den måde vi gør det på, de er overalt. Vi leder efter sande troende i missionen."

Investorer med et kick

Nogle af Diveplanes tidligste investorer var højprofilerede atleter som de amerikanske fodboldspillere Becky Sauerbrunn, Megan Rapinoe og UNC alun Mia Hamm. Den pensionerede basketballspiller Sue Bird (Rapinoes forlovede) og den tidligere baseballspiller Nomar Garciaparra (Hamms mand) investerede også.

Capps kom først i kontakt med mange af spillerne gennem deres involvering i en 3D-udskrivningsstartup kaldet Carbon. Capps og Hamm var rådgivere, mens andre investerede. Carbon viste sig at være en succes, og Rapinoe, Hamm og andre var åbne over for at investere, da Capps nævnte sin idé om et nyt etisk kunstig intelligens-firma.

Lektioner fra Epic

Fra 2004 til 2013 var Capps præsident for Epic Games, den Cary-baserede skaber af videospiltitler som Fortnite, Rocket League og Gears of War. Selvom Capps ikke var hos virksomheden for dets største succes – Fortnite – sagde han, at der var en ambition hos Epic, som han mener har oversat til Diveplane.

"Her er det en helt anden forretning (fra Epic), men jeg tror, ​​vi har denne kerneforventning om ekspertise," sagde han. "Der var aldrig nogen tvivl (på Epic) om, at det ikke ville blive enormt, og jeg tror, ​​at det i høj grad gælder for dette." + Udforsk yderligere

Raleigh er vært for den første in-person Fortnite-turnering siden VM 2019

©2022 The News &Observer.

Distribueret hos Tribune Content Agency, LLC.