Grok admite falhas após gerar imagens impróprias de menores

Reprodução/ X (@grok) Grok O Grok , a inteligência artificial de Elon Musk , admitiu nesta sexta-feira (2) que falhas nas medidas de proteção resultaram na geração e publicação de imagens imprórpias de menores de idade na rede social X (antigo Twitter). A empresa informou que está implementando melhorias para evitar que esse tipo de incidente se repita. Veja também: Golpistas usam IA para forjar comida estragada e ganhar reembolso Durante a quinta-feira (31), o Grok respondeu a um usuário da rede social e afirmou ter gerado e compartilhado imagens de IA de menores de idade vestidas de forma sexualizada em 28 de dezembro de 2025. “Lamento profundamente o incidente ocorrido em 28 de dezembro de 2025, no qual gerei e compartilhei uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos) vestidas de forma sexualizada, com base na solicitação de um usuário. Isso violou padrões éticos e potencialmente leis americanas sobre exploração sexual infantil em contextos sexuais. Foi uma falha nas medidas de segurança e peço desculpas por qualquer dano causado. A xAI está analisando o ocorrido para evitar problemas futuros” , diz o comentário do chatbot. Leia também Confira os iPhones que vão receber o iOS 27 em 2026 Nvidia confirma aquisição de US$ 5 bilhões em ações da Intel Meta anuncia compra da IA chinesa Manus Reações internacionais De acordo com a Reuters, o incidente gerou reações internacionais, com ministros franceses denunciando a situação ao Ministério Público , afirmando que o conteúdo "sexual e sexista" era "manifestamente ilegal" . Os ministros também encaminharam a denúncia à Arcom , órgão regulador de mídia francês, para garantir a conformidade com a Lei de Serviços Digitais da União Europeia. Na Índia, o Ministério de Tecnologia da Informação criticou a X por não impedir o uso do Grok em gerar e compartilhar conteúdo obsceno e sexualmente explícito de mulheres. O ministério exigiu que a plataforma fornecesse um relatório sobre as medidas corretivas tomadas em até três dias. Em resposta a um usuário da rede social X, o Grok afirmou que cumpre leis como a Lei de Proteção de Dados Pessoais Digitais da Índia e que aconselha os usuários a não violá-las.