Apple remove da App Store aplicativos que criavam nudes falsos com IA

A Apple removeu do App Store uma série de aplicativos que usavam inteligência artificial para “despir” pessoas em fotos, após uma investigação da BBC revelar práticas publicitárias preocupantes no TikTok.

Esses apps, conhecidos como ferramentas de “declothing” ou “nudify”, eram promovidos como maneiras de deixar selfies “mais picantes”. No entanto, nas campanhas de marketing veiculadas no TikTok, os desenvolvedores incentivavam o uso para gerar imagens sexualizadas de mulheres sem qualquer consentimento.

Em uma das propagandas, usuários eram convidados a baixar o aplicativo para “conseguir as fotos mais quentes do seu crush”. Outras promessas incluíam a capacidade de “despir qualquer pessoa” ou “trocar roupas por biquínis” usando apenas uma imagem comum.

Durante a apuração, a BBC identificou quatro aplicativos que pagaram para promover anúncios no TikTok. Embora a plataforma tenha removido essas propagandas após ser alertada, outras publicações similares, associadas indiretamente aos desenvolvedores, continuavam ativas.

Um dos casos mais polêmicos envolveu o uso de imagens de atrizes famosas, como Lena Headey e Maisie Williams, da série Game of Thrones, para demonstrar as funções dos aplicativos.

Questionado, um porta-voz do TikTok afirmou que o conteúdo violava as diretrizes da rede social, que proíbem a promoção de material erótico. No entanto, a empresa não explicou como os anúncios conseguiram passar pelo processo de moderação.

Ação da Apple e outras plataformas

Em resposta à denúncia, a Apple removeu três dos aplicativos de seu catálogo “até que os desenvolvedores corrijam as violações” e eliminou permanentemente outro app que criava vídeos de mulheres seminuas a partir de fotos enviadas. Além disso, a conta do desenvolvedor responsável foi bloqueada.

O Google Play também informou que abriu uma investigação sobre os aplicativos citados. Um deles, inclusive, já havia sido baixado mais de um milhão de vezes, de acordo com dados da própria loja do Google.

Apesar de não gerar imagens totalmente nuas, o aplicativo oferecia pacotes prontos que colocavam mulheres em poses sugestivas, como deitadas no chão ou em banheiras.