Hvordan amerikanske videospilfirmaer bygger værktøjer til Kinas overvågningsstat

I oktober sidste år, softwareudviklere på Riot Games i Santa Monica stillede en usædvanlig anmodning. Ligesom andre videospilproducenter, Riots succes afhænger af dens evne til at lave spil, der er tvangsmæssigt spilbare, ligesom sit globale hit "League of Legends". Men Tencent, den kinesiske teknologigigant, der ejer Riot, havde brug for en måde at tvinge nogle af sine mest entusiastiske kunder til at spille mindre.

Mens det har ejet en kontrollerende aktiepost i Riot siden 2011, Tencent har generelt været hands-off når det kommer til virksomhedens produkter. Men står over for et stigende pres fra kinesiske statsmedier og regulatorer over deres rolle i en formodet epidemi af videospilsafhængighed, Tencent havde brug for en måde at spore, hvor meget tid individuelle gamere i Kina brugte på at spille "League of Legends" - og sparke mindreårige ud, der oversteg to timer om dagen. Hvis ingeniører fra Riot ikke leverede et "anti-afhængigheds-system" til "League of Legends, "De kan miste adgangen til det kinesiske marked helt.

Inden for uger, en opdatering bragte disse funktioner til den kinesiske version af "League of Legends."

I løbet af det sidste år, det ene spilfirma efter det andet har stille og roligt tilsluttet sig den kinesiske regerings krav om at begrænse den tid, unge mennesker bruger på deres spil. Kinesiske spillere af amerikanske hits som "League of Legends, " "Fortnite" og "World of Warcraft" får deres spilletid sporet i henhold til deres nationale ID-nummer. De under 18 år står over for hårde straffe i spillet eller direkte udvisninger, hvis de spiller for længe.

Selvom det er kinesisk politik, der driver restriktionerne, Fortalere for databeskyttelse siger, at for amerikanere at deltage i skabelsen af ​​disse værktøjer repræsenterer krydset af en bekymrende ny tærskel. De betragter bevægelserne som en del af en problematisk tendens med vestlige teknologivirksomheder, der redesigner deres tjenester for at skabe Kina-venlige versioner, der er tilpasset landets strammere sociale kontrol.

"For amerikanske virksomheder, det kommer virkelig ned på at beslutte, om du er villig til at deltage i denne form for overvågning, " sagde Matt Erickson, administrerende direktør for Digital Privacy Alliance. "Hvis de vælger at deltage, det gør disse virksomheder til ikke uvidende, men fuldgyldige medskyldige i den kinesiske politistat."

Adgang til verdens næststørste marked er et stærkt incitament, men for nogle virksomheder, støtte til kinesisk censur og social kontrolindsats er ikke et spørgsmål om valg. Da kinesiske giganter opkøber amerikanske tech -virksomheder, fra West Hollywood-baserede homoseksuelle dating-app Grindr til Motorolas mobiltelefonforretning, regulatorer rejser spørgsmål om virksomheders autonomi og evne til at skubbe tilbage på anmodninger, der kan krænke deres etiske principper.

Interne dokumenter fra Riot Games indhentet af The Times giver et sjældent indblik i, hvordan den kinesiske regering udøver indflydelse på virksomheder uden for sine grænser.

Tencent er verdens største spiludgiver og ejer store eller kontrollerende indsatser i en række brancheførende udviklere, herunder "Clash of Clans" -producenten Supercell og "Fortnite" -udvikleren Epic Games. Dens egenudviklede titel, "Kongernes ære, "var verdens mest mobile mobilspil i 2018. Spillets succes gjorde det til et lyn for voksende kinesiske regerings bekymringer om spilafhængighed blandt kinesiske unge, hvilket får Tencent til at bygge sit første ID-sporing af spilletidsbegrænsningssystem og love at inkorporere lignende systemer på alle sine spil i 2019.

En digital præsentation, der cirkulerede via e-mail blandt udviklere på Riot's hovedkvarter i Santa Monica, opfordrede til en "AAS (anti-afhængigheds-system) opgradering" til "League of Legends" i Kina. Præsentationen, forfattet i Kina, indrammede anmodningen sammen med beretninger om voksende kinesisk regeringskritik af spilindustrien, officielle medieangreb på Tencent, og en skarp påmindelse om, at "League of Legends" "ikke kan (være) fri for regulering."

Anmodningen angav behovet for funktioner, der mærker teenagespillere i overensstemmelse med "fremtidig AAS -regulering". Den bad også om muligheden for at sparke visse spillere fra spillet på bestemte tidspunkter og begrænse tidsbaserede belønninger i spillet. Præsentationens forfatter inkluderede mock-ups af "anti-afhængighedsadvarsel" pop-ups på "League of Legends, "Med meddelelser, der fortæller spillerne, at de havde nået deres daglige spilgrænser eller var forbudt at spille mellem bestemte timer (21:00 til 08:00).

Det tog ikke udviklere lang tid at producere de ønskede funktioner. I et indlæg fra december 2018 på det kinesiske sociale mediesite QQ, Riot China annoncerede en opdatering til "League of Legends", inklusive de fleste af ændringerne.

På spørgsmålet om det amerikansk-baserede personales engagement i udviklingen af ​​ID-sporing og begrænsninger i spilletid, Riot Games sagde i en erklæring, "Vores ledende ingeniører, med base i Californien, er opmærksomme på hver funktion, som vi opretter til 'League of Legends'. Vi udvikler markedsspecifikke funktioner i samarbejde, med repræsentanter fra vores ingeniørteam rundt om i verden. "

Tencent henviste spørgsmål til et eksternt PR-bureau, som afviste at give svar.

Mens sådanne systemer er ved at blive standard i Kina, Jay Stanley, en politikanalytiker ved American Civil Liberties Union, sagde, at de udgør en detaljeret invasion af privatlivets fred, der er i modstrid med amerikanske normer.

"Amerikanske virksomheder er en del af det amerikanske samfund og bør være institutioner, som vi kan stole på, at overholde amerikanske værdier, "Sagde Stanley." Hvis disse virksomheder kører i udlandet og deltager i autoritære regimer, så er det et reelt problem."

Stanley erkendte, at det ville være svært for virksomheder som Riot at nægte at implementere disse systemer på bekostning af at blive låst ude af det kinesiske spilmarked på 36,5 milliarder dollars, men sagde, at undladelse af at gøre det ville hjælpe med at normalisere invasiv overvågning internationalt. "Det her kommer til at sætte mange virksomheder i klemme, men vi som land er nødt til at forsvare amerikanske værdier, " sagde Stanley.

Amerikanske tech -giganter som Google og Facebook har stået over for lignende vanskelige valg om, hvorvidt de skal oprette censurerede versioner af deres platforme for at få adgang til Kina. Google forlod landet i 2010 på grund af stridigheder om censurerede søgeresultater og en større hackinghændelse. Sidste års afsløring af, at virksomheden i hemmelighed havde påbegyndt arbejdet med en censor-kompatibel kinesisk søgemaskine, kodenavnet Project Dragonfly, udløste et ramaskrig fra Google-ansatte og amerikanske politikere. (En Google-embedsmand fortalte Kongressen i sidste uge, at det har afsluttet projektet.) Facebook har angiveligt opgivet at komme ind i Kina, efter at Beijing ikke i årevis har vundet virksomheden en udsættelse fra et forbud i 2009. I mellemtiden, U.S. lawmakers have begun to call for an end to American investor money being channeled toward development of Chinese surveillance systems used in the repression of religious and ethnic minorities.

The anti-addiction regulations referenced in the Riot documents appear to refer to a Chinese Ministry of Education statement released last year. In it, the ministry said it would take steps to control the number of online games available, explore age-based restrictions and limit the amount of time adolescents spend gaming. No specifics or timeline were given, but many major game publishers in China rolled out their own solutions in anticipation of government action.

Tencent started requiring mandatory age and ID authentication on its top-grossing mobile game "Honor of Kings" in 2018, making players provide their Chinese national ID information for verification against police databases. The company has said the checks will be applied to all of its games this year and has been conducting trials of additional verification methods including mandatory facial recognition checks.

The Shenzhen-based firm, which also owns China's largest social media platform, WeChat, is under intense pressure to address Chinese government concerns around the negative effects of gaming. Tencent's market value fell by a record-breaking $271 billion last year partly because of a complete freeze on new game approvals from March through December of 2018. (The stock has since rallied as regulators began working through the backlog.) The halt came amid a flurry of official criticism blaming excessive gaming for everything from increasing rates of nearsightedness among youth to potential national security vulnerabilities from mobile gaming addiction among military personnel.

Lisa Cosmas Hanson, founder of Asia-focused gaming market intelligence firm Niko Partners, said that the freeze on game approvals and the resulting backlog have hurt many game companies in China, forcing some smaller operations to shut down. Although approvals have resumed, the process has become more difficult, hun sagde.

"Publishers in China have told me things like that it used to be a 20-page application and now it's 300, " Hanson said. According to research by her firm, only 75 imported games have been approved so far this year, down from 467 in 2017.

Although real-ID verification systems are relatively new, features designed to limit the amount of time Chinese gamers spend online have been around for more than a decade. Irvine-based Blizzard Entertainment put a three-hour playtime limit on the Chinese server for its massively multiplayer online role-playing game, "World of Warcraft, " in 2006. Gamers got around the restrictions by creating multiple accounts and switching between them, but the system has since been upgraded to require age and identity verification through a national ID.

"Fortnite, " which has held the title of the world's largest and highest-grossing free-to-play online game for most of the last year, rolled out similar ID verification and playtime tracking restrictions in China earlier this year. Neither "Fortnight" publisher Epic Games, based in Cary, N.C., nor Blizzard Entertainment responded to requests for comment.

Looming over all this is China's planned rollout of a social credit system, which will assign citizens a score incorporating both standard financial metrics, such as debt repayment, and more personal information such as shopping habits and online behavior. Once a nationwide system debuts in 2020, a citizen with a low score could reportedly face penalties such as losing the right to buy plane and high-speed rail tickets, take out loans or purchase property. Excessive time spent playing video games is one specific behavior that could lower your score with Sesame Credit—one of the system's main private pilot programs. This applies not only to minors but gamers of all ages.

While there have as yet been no indications of ID-linked tracking systems being used for anything beyond limiting minors' gaming time, some people remain concerned about the potential for future misuse, particularly because Tencent has already conducted its own short-lived pilot of a social credit system last year.

"There is no right to privacy in China, " said Erickson, of the Digital Privacy Alliance. "Any information collected to make sure kids aren't playing too many video games will definitely be used by the government and the police for whatever purpose they see fit."

Jack Poulson, founder of the advocacy group Tech Inquiry, says American tech workers—lacking visibility into executive-level decisions and other divisions of their sprawling conglomerates—aren't always aware when they are participating in projects that might go against their values. "There's no real protection in place to ensure that employees have an understanding of what they are helping build, " han sagde.

Poulson served as a senior scientist at Google's research and machine intelligence department before publicly resigning last year in the wake of the Project Dragonfly revelations. He founded Tech Inquiry to help tech workers push back on unethical requests. He said the first step to ensuring that staff aren't corralled into work they find morally objectionable is having a clear understanding of a project's end goals, but he acknowledged that in Riot's case the murky distinction between the Chinese public and private sectors makes this easier said than done.

"How do you even get a sense of what the likely uses of this data could be? It could be a government decision, it could be Tencent, " Poulson said. "With something like this, it's obviously more complicated."

©2019 Los Angeles Times
Distribueret af Tribune Content Agency, LLC.