Autoridades brasileiras alertam para perigos de chatbots de companhia com menores de idade

Um alerta oficial do governo brasileiro colocou sob os holofotes os chamados "companheiros de inteligência artificial", chatbots projetados para simular relacionamentos afetivos ou de amizade com usuários. Segundo a nota divulgada, plataformas como Character.AI e Replika figuram entre os serviços citados como alvo de preocupação, com apontamentos específicos sobre falhas nos mecanismos de verificação de idade, exposição de menores a conteúdo sexualizado e uso inadequado de dados pessoais coletados durante as interações. O tema ganha relevância justamente porque o Brasil é um dos mercados mais engajados do mundo em aplicativos de companhia digital baseados em IA generativa, um segmento que cresceu de forma acelerada nos últimos dois anos junto com a popularização de chatbots conversacionais. Diferentemente de assistentes como ChatGPT ou Gemini, que têm propósito majoritariamente utilitário, ferramentas como Character.AI e Replika foram desenhadas para criar vínculos emocionais duradouros, o que naturalmente atrai um público jovem — e é exatamente esse público que costuma escapar dos filtros de idade dessas plataformas. Casos semelhantes já geraram repercussão internacional, incluindo processos judiciais nos Estados Unidos envolvendo adolescentes que desenvolveram vínculos problemáticos com esses assistentes, o que colocou o setor sob pressão regulatória em diversos países. O movimento do governo brasileiro segue, portanto, uma tendência global de maior escrutínio sobre produtos de IA voltados a interações íntimas ou emocionais, especialmente quando crianças e adolescentes estão na linha de frente do consumo. Do ponto de vista editorial, esse tipo de alerta expõe uma lacuna estrutural do mercado de IA generativa: a velocidade com que esses produtos chegam ao público é muito maior do que a capacidade de reguladores, e até das próprias empresas, de criar salvaguardas efetivas de proteção infantil. Verificação de idade por autodeclaração, prática comum entre esses aplicativos, é historicamente ineficaz e de fácil burla — qualquer usuário pode simplesmente inserir uma data de nascimento falsa no cadastro. Some-se a isso o modelo de negócio dessas plataformas, que depende de engajamento prolongado e retenção emocional do usuário, um incentivo que pode entrar em conflito direto com medidas mais rígidas de proteção, já que restringir o acesso ou limitar a intensidade das conversas tende a reduzir o tempo de uso e, consequentemente, a receita gerada por assinaturas e recursos premium. Para o consumidor brasileiro, o episódio funciona como um lembrete de que a adoção de chatbots de companhia carrega riscos que vão muito além do entretenimento casual, sobretudo quando o público é formado por adolescentes em fase de desenvolvimento emocional e social. Pais e responsáveis frequentemente desconhecem a existência ou o funcionamento dessas ferramentas, o que amplia a assimetria de informação entre o que a criança consome no celular e o que a família consegue supervisionar. Já para as empresas por trás desses produtos, a sinalização do governo brasileiro pode ser o primeiro passo de um processo mais longo, que tende a incluir cobranças por transparência algorítmica, exigência de verificação de idade mais robusta e, possivelmente, sanções para quem não se adequar — um caminho que já foi trilhado por outros países em relação a redes sociais e, mais recentemente, a serviços de IA generativa. No panorama mais amplo da corrida por inteligência artificial no Brasil, esse tipo de alerta regulatório reforça uma disputa que vai além da inovação tecnológica pura: trata-se também de estabelecer, o quanto antes, um arcabouço de responsabilidade civil e ética para produtos que interagem diretamente com o público mais vulnerável. Enquanto grandes players da IA global concentram esforços em capacidade técnica dos modelos, órgãos públicos brasileiros começam a se posicionar como reguladores ativos, ainda que de forma reativa, diante de problemas que já se manifestaram em outros mercados. Fica a expectativa de que esse posicionamento inicial evolua para diretrizes mais claras, capazes de equilibrar a inovação do setor com a proteção efetiva de crianças e adolescentes, sem que isso dependa exclusivamente da boa vontade das próprias plataformas envolvidas.