A empresa xAI, ligada ao empresário Elon Musk, passou a restringir para usuários assinantes uma ferramenta do chatbot Grok que permite a geração e edição de imagens. A decisão ocorre após repercussão negativa envolvendo o uso da tecnologia para criar deepfakes sexualizados de pessoas reais, incluindo mulheres e menores de idade.
A ferramenta estava sendo utilizada para produzir imagens manipuladas sem o consentimento das pessoas retratadas, o que gerou críticas de especialistas, autoridades e organizações de defesa dos direitos digitais em diferentes países.
Segundo informações divulgadas pela imprensa internacional, o acesso à funcionalidade passou a ser limitado a contas pagas da plataforma X (antigo Twitter), da qual o Grok faz parte. A mudança ocorreu após questionamentos sobre a responsabilidade das empresas de tecnologia na disseminação de conteúdos manipulados por inteligência artificial.
O caso reacendeu o debate global sobre regulamentação de ferramentas de IA, proteção de dados pessoais, privacidade e a necessidade de mecanismos mais eficazes para coibir abusos no uso dessas tecnologias.
Até o momento, a empresa não anunciou o encerramento definitivo da ferramenta, apenas a restrição de acesso.
