Justiça americana mira Apple e Google por hospedar apps de IA que geram nudez sem permissão

Segundo apuração do Tecnoblog, a Procuradoria de São Francisco notificou Apple e Google exigindo a retirada de 13 aplicativos das lojas Play Store e App Store. As ferramentas usam inteligência artificial para produzir imagens íntimas falsas de pessoas reais, sem qualquer autorização das vítimas retratadas. A ação das autoridades da Califórnia responsabiliza as duas empresas por, na visão do órgão, lucrarem com a disponibilização desses softwares em suas plataformas, mesmo diante do potencial de dano que representam. O episódio expõe um problema que vem se tornando recorrente à medida que ferramentas de geração de imagens por IA se popularizam: a facilidade de criar conteúdo sexual não consensual, também chamado de deepfake pornográfico, usando apenas uma foto comum de alguém. Nos últimos anos, casos assim já geraram repercussão em diversos países, incluindo situações envolvendo adolescentes em escolas nos Estados Unidos e na Europa, além de discussões regulatórias no Brasil sobre como enquadrar esse tipo de conteúdo dentro do Marco Civil da Internet e da legislação de crimes cibernéticos. Para o consumidor brasileiro, o tema é relevante porque muitos desses aplicativos circulam livremente também nas lojas locais, e o país ainda carece de uma legislação específica e robusta para responsabilizar rapidamente tanto os desenvolvedores quanto as plataformas que os distribuem. A discussão se soma a um movimento mais amplo de pressão sobre gigantes de tecnologia para que atuem de forma mais rigorosa na curadoria de apps que utilizam IA generativa, um mercado que cresceu exponencialmente após a popularização de modelos como o Stable Diffusion e outras ferramentas de criação de imagens. O caso é um sinal de que a régua de responsabilização das grandes plataformas está mudando: não basta mais alegar neutralidade como intermediárias, já que os aplicativos publicados são fonte direta de receita através de comissões e assinaturas. Isso coloca Apple e Google em uma posição desconfortável, pois qualquer medida de remoção em massa desses apps expõe as falhas nos processos de curadoria que ambas defendem como rigorosos há anos. Também é um recado para desenvolvedores que buscam monetizar recursos de IA sem considerar as implicações éticas e legais de seus produtos, algo que tende a gerar mais fiscalização e possivelmente novas regras de compliance dentro das próprias lojas de aplicativos. Para o ecossistema de inteligência artificial como um todo, a repercussão desse tipo de caso reforça a necessidade de mecanismos de verificação de consentimento e watermarking de conteúdo sintético, temas que já estão na pauta de debates regulatórios em diversos países. Fica evidente que a corrida por inovação em IA generativa segue mais rápida do que a capacidade de supervisão das próprias empresas que hospedam essas tecnologias, e episódios como esse tendem a se repetir enquanto não houver padrões claros de moderação e responsabilização compartilhada entre desenvolvedores e distribuidores.