Fordybende etisk værktøj hjælper udviklere med at undgå dystopi af Internet of Things

Googles berygtede motto "Vær ikke ond" lagde grundlæggernes grundværdier i de enkleste termer (uanset om du tror, ​​at de har holdt fast ved deres løfte, er en anden samtale). Men er det at være teknisk-etisk så simpelt som blot at angive dine værdier, eller kræver det yderligere introspektion gennem hele udviklingsprocessen?

Den forestående udrulning af 5G -netværket er blevet beskrevet som indvarsler af den fjerde industrielle revolution, bringer hidtil uset forbindelse mellem enheder, som vil transformere den måde, vi lever på. Men efterhånden som flere enheder i vores hjem bliver forbundet og slutter sig til det voksende Internet of Things (IoT), udviklere skal begynde at stille sig selv flere spørgsmål om de etiske konsekvenser af deres kreationer.

Det er blevet en velkendt historie på det seneste. En populær "smart" enhed viser sig at være pinligt usikker eller let hackbar, hvilket fører til en lækage af meget følsomme data. IoT-udviklere lærer hurtigt, at sikkerhed ikke kan overses, og privatlivsspørgsmål vedrørende beskyttelse af brugeridentitet er lige så vigtige. Når vi køber produkter som Amazons Alexa, som er tæt involveret i vores hverdag - at se og høre alt, hvad vi gør - skal vi vide, at de personlige data, de indsamler om os, ikke misbruges.

VIRTeu-projektet, koordineret af Irina Shklovski fra IT-Universitetet i København, skaber værktøjer og aktiviteter, der hjælper IoT -udviklere med at bringe etik i deres egne samtaler. Deres seneste udnyttelse, Bjørn &Co, er en fordybende oplevelse, der kaster deltagerne ind i en fiktiv IoT-opstartsverden. Inspireret af det virkelige liv CloudPets – et "smart" bamsefirma, hvis produkt berømt optog og lagrede millioner af nemt hackede samtaler mellem forældre og børn online - inviterer Bear &Co deltagere til at blive en "medarbejder" i virksomheden og se, hvordan tilsyneladende ufarlige beslutninger kan føre til etiske vanskeligheder.

Deltagerne bliver først bedt om at angive deres værdier - hvad de vil bringe til virksomheden og bekymre sig mest om. Derefter, deres værdier testes gennem forskellige scenarier og problemer. Efter de er færdige, deres beslutninger sammenlignes med deres oprindelige sæt af kerneværdier - der ofte viser en forkert justering mellem de to.

"Bear &Co er designet til at få folk til at tænke dybere over de beslutninger, der skal træffes, når de udvikler et IoT-produkt, " siger projektkoordinator Irina Shklovski. "På overfladen, det er let at betragte disse beslutninger som rent tekniske, men ofte er der disse underliggende konsekvenser, som kan være i konflikt med udviklernes værdier.

"Vi har afholdt arrangementer, hvor vi har bedt grundlæggerne af start-ups om at tænke på en verden, hvor deres produkt er i hver husstand. Langt det meste af tiden, de ender med en vildt dystopisk fremtid, fordi de aldrig har overvejet, hvad der ville ske i denne skala. Der er ingen nemme svar på disse spørgsmål, men det er vigtigt for folk at tænke ordentligt over dem, selvom det kan være ganske ubehageligt for dem. "

Bear &Co er skabt af VIRTeu-partneren CIID Research i samarbejde med Irina Shklovski fra IT-Universitetet i København og Javier Ruiz fra Open Rights Group. CIID Research-designteamet er Annelie Berner, Monika Seyfried, Calle Nordenskjöld og Peter Kuhberg (indsigt design). CIID Research er en fremtidsrettet forskergruppe, der arbejder i skæringspunkterne mellem interaktionsdesign, kunst, videnskab og teknologi, indefra Copenhagen Institute of Interaction Design.