O que começou como uma plataforma de jogos adorada por crianças (e nem tanto) tornou-se uma panela de pressão para a Roblox Corporation. Acusações de que o site é um “terreno fértil para predadores”, como o chamou o procurador-geral da Louisiana, forçaram a empresa a tomar medidas mais duras.
Clique para receber notícias de Tecnologia e Ciências pelo WhatsApp
A solução? Tecnologia de estimativa de idade facial, que não parece simples nem futurista: basicamente, seu rosto dirá quantos anos você tem.
Como esse sistema funciona? Com uma selfie... e muita IA
A Roblox planeja estender seu sistema de verificação de selfies a todos os usuários que desejam usar recursos de comunicação (como chat de voz). O sistema analisará seu rosto e o classificará em uma das três categorias:
- Menores de 13 anos
- Maiores de 13 anos
- Maiores de 18 anos
Cada grupo terá diferentes níveis de acesso a recursos, conteúdo e sistemas de comunicação. Isso traz restrições adicionais: adultos não poderão conversar livremente com menores, a menos que o Roblox confirme que se encontraram pessoalmente. Um grande avanço no controle parental.
Não é novidade, mas ainda é controverso
Essa tecnologia não é exclusiva do Roblox. Em 2023, a ESRB propôs algo semelhante, mas a Comissão Federal de Comércio dos EUA (FTC) disse “meh” e rejeitou. O motivo? Não estava claro como funcionava ou quão confiável era.
E com razão: no Reino Unido, usuários burlaram um sistema semelhante exibindo uma foto de Death Stranding. Isso mesmo, Kojima 1 – AI 0.
No entanto, a indústria continua a depender disso. O Meta já o utiliza no Facebook (pergunte a qualquer mãe que já teve que enviar uma selfie sem saber como), e a Microsoft também está preparando seu sistema para o Xbox.
Roblox no Olho do Furacão
Não se trata apenas de tecnologia. O Roblox está sob fogo cerrado. Em agosto, o estado da Louisiana processou oficialmente a empresa, alegando negligência na proteção de crianças. Além disso, políticos como Ro Khanna e figuras da mídia como Chris Hansen (sim, aquele de To Catch a Predator) se juntaram à pressão pública. Hansen está até trabalhando em um documentário sobre Roblox e seu lado sombrio.
Tudo isso acontece após uma repressão aos justiceiros da comunidade, que incluiu o polêmico banimento do YouTuber Schlep, que acabou atraindo ainda mais atenção (e críticas) ao sistema de moderação do jogo.
Proteção real ou vigilância digital?
A Roblox afirma que seu novo sistema não é apenas um escudo, mas um exemplo a ser seguido por outras plataformas. Mas é claro que nem todos estão convencidos de que ser analisado por uma IA no estilo Minority Report seja o caminho certo.
LEIA TAMBÉM:
Telegram introduziu um recurso que irá lembrá-lo um pouco do MSN Messenger
O fim da energia suja! Um laboratório norte-americano atinge um marco histórico na fusão nuclear
A empresa afirma que essa medida é “uma camada adicional de proteção”, e provavelmente está certa. Mas isso também levanta questões importantes: quem gerencia esses dados? Qual a precisão desses algoritmos? E o que acontece quando uma criança é vista como adulta... ou vice-versa?