Pokémon Go está treinando IA!

 Pokémon Go está usando os seus dados para treinar Inteligência Artificial de mapeamento global e provavelmente você não estava sabendo!

Imagem do logo de Pokémon Go, com Pokémon em amarelo contornado em azum e o Go com uma pokébola no meio do "O" mostrando um céu estrelado e azul a noite. Fonte: https://pt.wikipedia.org/wiki/Pokémon_GO

Você sabia? Não sabia? Então agora vai ficar sabendo! Vocês devem se lembrar do Pokémon Go, um jogo para celular gratuito que pode ser baixado facilmente em lojas para aplicativos de celular desde 2016, desenvolvido pela Niantic Labs junto com a Nintendo e a The Pokémon Company, você pode capturar pokémon, entrar em batalhas com líderes de ginásio na sua região e etc.

Já falamos bastante de Inteligência Artificial por aqui, de como essa ferramenta é perigosa tanto na propagação de informações falsas, como com roubo de trabalhos, e até prejudica o meio ambiente por exigir muitos recursos para o seu funcionamento, o que não sabíamos era que a Niantic Labs estava treinando IA usando os dados de navegação de seus usuários.

“A Niantic, dona do jogo, criou um “grande modelo geoespacial (LGM, na sigla em inglês, em alusão aos LLMs) com base em imagens vindas do seu “Sistema de Posicionamento Visual (VPS).”

— Manual do Usuário

A isca usada pela Niantic Labs para alimentar o Sistema de Posicionamento Visual foi o recurso Pokémon Playground, que tem como objetivo criar espaços no mundo real que são compartilhados pelos jogadores para deixar os Pokémon serem fotografados, isso induziu as pessoas a alimentarem esse sistema.

A Niantic tentou se defender falando que a varredura dos locais era opcional e que só andar por aí com o Pokémon Go aberto não ajudaria a treinar a IA, eles também falaram que o grande modelo geoespacial permitirá que os computadores percebam e entendam os espaços físicos, e também permite que os jogadores interajam com eles de maneiras novas, formando um componente crítico para óculos de realidade aumentada e áreas que incluem robótica, criação de conteúdo e sistemas autônomos.

Explicando de outra maneira, o Pokémon Go permite que os jogadores possam escanear locais existentes na vida real enquanto caçam os Pokémon de forma virtual, utilizando o aplicativo do jogo, essa função é opcional e acontece em locais públicos específicos como PokéStops e Ginásios Pokémon que, geralmente, são em pontos de referências na cidade.

O negócio é que a mecânica do jogo combina os elementos virtuais com realidade aumentada, e em cada interação que os jogadores tem com pontos específicos do mapa, isso contribui para dar dados a um banco de dados geoespacial que se torna ainda mais preciso e abrange mais lugares.

A Niantic Labs aparentemente vem criando o sistema de posicionamento visual, conhecido como VPS, há cinco anos, esse sistema usa as imagens dos celulares para determinar a posição e a orientação para um mapa 3D, ele é alimentado através dos escaneamentos que os jogadores fazem, isso faz com que o sistema entenda mais profundamente a geografia urbana e os pontos de interesse.

O modelo criado pela Niantic Labs se chama Large Geospacial Model, ele processa os dados que foram coletados para alcançar uma “inteligência espacial” prometendo revolucionar a forma como as pessoas interagem com espaços urbanos através da realidade aumentada.

“Atualmente, a Niantic possui um banco de dados com 10 milhões de locais escaneados globalmente, com aproximadamente 1 milhão de novos escaneamentos sendo adicionados semanalmente através de seus jogos e do aplicativo Scaniverse. Este volume expressivo de dados permite um mapeamento cada vez mais detalhado e preciso.”

— Adrenaline

Pokémon Go se tornou um fenômeno mundial desde o seu lançamento em 2016, esse jogo incentivou as pessoas até a saírem de casa para que elas pudessem explorar os arredores da cidade em busca de Pokémon, isso fez as pessoas se manterem imersas dentro do jogo, mas infelizmente, eles estavam ajudando a treinar uma Inteligência Artificial para navegação global sem nenhum aviso prévio, com milhões de usuários se aventurando por diferentes lugares, o jogo capturou os dados de padrões de movimentações, locais de interesse e reagiram a diferentes obstáculos nos ambientes existentes na vida real e isso funciona da seguinte forma: O jogo usa o GPS do seu telefone para funcionar, pois precisa mapear as localizações dos jogadores em tempo real, esses dados são compartilhados e coletados em larga escala, isso permite que aconteça um mapeamento mais detalhado das rotas que os jogadores escolhem, os locais que frequentam e como eles interagem no ambiente da cidade, os principais são: As rotas mais comuns que identificam quais são as rotas mais usadas formando um mapa detalhado de rotas preferidas, a identificação de pontos de interesse que o jogo incentiva os jogadores a visitarem por causa dos PokéStops e Ginásios, geralmente, colocados em pontos turísticos e históricos, e a compreensão do ambiente urbano que faz um conjunto diversos de dados serem gerados e isso acaba refletindo na topografia da cidade, além das tendências de mobilidade urbana.

Geralmente, as empresas de tecnologia usam esses dados para aprimorar os algoritmos de navegação da Inteligência Artificial com o objetivo de criar sistemas de IA para uma navegação mais eficaz de forma similar ao que os seres humanos fazem, isso pode ser aplicado para otimizar rotas onde os sistemas de IA usam os dados para otimizar os caminhos em tempo real para serviços de entrega ou trabalhos autônomos, serve também para a detecção de obstáculos onde o sistema pode se mover em torno de obstáculos de uma forma eficiente analisando como os jogadores fazem, e serve também para interação humana-IA, onde a IA melhora a interação com espaços humanos usando os dados do jogo, nisso elas aprendem os locais mais movimentados e mais evitados.

“A coleta de dados de localização é uma faca de dois gumes. De um lado, proporciona avanços tecnológicos significativos, mas por outro levanta questões sobre privacidade e consentimento. É crucial para as empresas garantir que os dados sejam anonimizados e utilizados de forma ética. Isso inclui informar claramente os usuários sobre como seus dados estão sendo usados e dar-lhes opções para optar por não compartilhar suas informações.”

— Ventila Digital

Muitas pessoas acham que isso é uma coisa boa, afinal, seria usado para deixar tudo mais fácil e mais preciso, o problema é que nós não sabemos até que ponto esses dados estão seguros na mão das empresas, sabemos que muitos dados são vazados por mês por sites que achamos que confiamos, isso causa uma confusão em relação a privacidade dos dados. Isso seria algo que não é exclusivo do Pokémon Go, a verdade é que muitos aplicativos usam localização, dados, entre outras coisas, para funcionar e não sabemos se estão usando nossos dados para treinar IA sem o nosso consentimento ou não.

A defesa da Niantic Labs em relação a isso é que essa informação estaria nos Termos de Serviço e que isso é opcional, pois o jogo daria missões que você poderia ou não fazer, como tirar foto de algum lugar, porém, muitas pessoas estão afirmando que não sabiam, porque os Termos de Serviço quase nunca são lidos por causa da quantidade de páginas, e geralmente, não fica bem claro, isso já causou problemas para plataformas de jogos que não deixaram bem claro em seu site sobre estarem vendendo a licença de uso e não o jogo em si, talvez seja a hora de cobrar que as empresas deixem claro em seus jogos e sites, fora o Termo de Serviço, que usam seus dados para treinar IA.

Acontece que o que torna tudo mais perigoso é que um executivo da Niantic chegou a afirmar que conseguia ver o governo e os militares comprando esse novo modelo de Inteligência Artificial, o vice-presidente sênior de engenharia da Niantic é o ex-criador do Google Earth, Street View e Google Maps, ele foi em um evento chamado Bellingfest e estava dando uma palestra com o nome de “Coordenadas de Amanhã: por que a computação espacial precisa de um novo mapa” onde contou sobre a sua história na indústria, seu trabalho no Google e na Niantic Labs, e alguns detalhes sobre o modelo geoespacial da Niantic que a empresa havia anunciado nos primeiros dias de Novembro.

“Um executivo da Niantic disse que “definitivamente poderia ver” governos e militares comprando o recém-anunciado modelo de IA da empresa para navegar no mundo real, que seria baseado em dados de varredura gerados por jogadores de Pokémon Go, mas que se o caso de uso for específico para os militares e “adicionar amplitude à guerra, então isso é definitivamente um problema”.”

— 404 Media

Isso inclusive se tornou pauta no BlueSky, pois Jason Koebler, jornalista do 404 Media, postou o link dessa matéria presente na citação acima, e que, infelizmente, tem um paywall, porém, o debate se estendeu ainda mais quando Nazih Fares, desenvolvedor de jogos, falou um pouquinho sobre isso na rede social.

Nazih relata que não poderia falar sobre isso quando trabalhava no Pokémon Go, mas o que foi relatado pela 404 Media não era uma novidade, a Niantic Labs, aparentemente, tem um histórico de ter trabalhado para o governo com investimento do Google e da Samsung, fazendo com que seus consumidores fossem usados como “olheiros” e que a pior parte é que eles chamavam isso de “comunidade”.

“A pior parte é que isso está muito além do Pokémon GO. O Ingress foi o começo de tudo, e até mesmo títulos extintos/retirados da lista como Harry Potter: Wizards Unite, NBA All-World e os atualmente ativos Pikmin Bloom, Campfire e Monster Hunter Now desempenharam um grande papel neste gigante da varredura de mapas.”

— Nazih Fares

Nazih também fala que não é “apenas” o ecossistema de mapeamento de escaneamento, tem também o aspecto AR dele, pois muitos dados foram escaneados com pessoas no fundo, teve até playground infantil enviado para o Wayfarer, que seria um site de envio de “hotspot” da Niantic que seria administrado pela comunidade de forma gratuita.

Nazih também acrescenta no seu fio que ele tem certeza que os termos e condições de uso ainda são sólidos e que não são contra a lei, mas que isso não significa que o que estejam fazendo seja moralmente certo, inclusive, comparou esse caso com o ocorrido com a Disney recentemente, onde uma pessoa morreu no Disney World por envenenamento por ser alérgica a algo que estava na comida do parque e o marido não conseguiu processar a Disney por causa dos termos e condições presentes no Disney+ que ele havia aceitado quando assinou.

Ele também fala que o medo agora é que a expansão de digitalização de mapa se expanda para a Europa, Ásia e Américas, já que a Niantic tem novas regiões e nações cheias de dispositivos móveis como meta de crescimento, porque, por coincidência, geralmente são as regiões que possuem uma menor quantidade de leis de privacidade, usando de exemplo, o fato de que Pokémon Go foi lançado oficialmente na Arábia Saudita em Novembro.

Nazih aproveitou a deixa e terminou seu fio indicando uma matéria de seis anos atrás onde esse medo em cima de um gigante ecossistema de mapeamento já existia e foi postado no Kotaku.

Na matéria indicada por Nazih, é apontado em 2019 que o Pokémon Go mapeava os seus usuários, na Kotaku é relatado que Potter: Wizards Unite, um jogo já excluído de Harry Potter, estava coletando muitos dados de onde os jogadores estavam indo, pois esse aplicativo tinha a mesma função dos outros jogos também lançados pela Niantic: incentivar os usuários a saírem de suas casas e apreciarem cada lugar da sua cidade.

Nessa matéria mostra que desde 2019, quando os usuários jogavam tanto Pokémon Go como Wizards Unite ou qualquer outro jogo desenvolvido pela Niantic Labs, todos os movimentos dos jogadores eram armazenados 13 vezes por minuto de acordo com a investigação da Kotaku e até os jogadores que sabem que esses dados são guardados, ainda ficam chocados quando percebem a quantidade de informações que deram para a desenvolvedora através das suas localizações.

“Durante anos, os usuários dos produtos desses tecnólogos — do Google Street View ao Pokémon Go — questionaram até onde estão indo com as informações dos usuários e se esses usuários são adequadamente educados sobre o que estão abrindo mão e com quem são compartilhados. No processo, esses tecnólogos cometeram erros, maiores e menores, em relação à privacidade do usuário. À medida que a Niantic chega ao topo do mundo da realidade aumentada, ela também está projetando o futuro desse campo de muito dinheiro. Se o que a Niantic faz com seu tesouro de dados valiosos permanecer envolto na escuridão particular dos queridinhos do Vale do Silício, essa opacidade pode se tornar tão normalizada que os usuários perdem qualquer expectativa de saber como estão sendo lucrados.”

— Kotaku

A matéria também conta que a Niantic se orgulhava em falar que era uma empresa que levava seus usuários para fora de suas casas, pois os usuários dos seus jogos eram incentivados a interagir e caminhar pelo mundo real, e que a plataforma de jogos da Niantic estava em constante evolução, se tornando parecido com o que aconteceu com o Google Maps porque a Niantic surgiu disso.

A investigação que a Kotaku fez em relação a Niantic é enorme, mas vale a pena a leitura, lá eles contam toda a história de surgimento da empresa e a ideia por trás desses jogos. A única coisa que sei é que é muito triste saber que nos tornamos reféns de empresas que usam nossos dados sem esclarecer isso, e se for verdade mesmo que pode ser usado pelo governo e por militares, talvez o buraco seja mais fundo do que pareça.