Por: Héctor Herrera
La decisión fue tomada por la Fiscalía, la Agencia Nacional de Protección de Datos (ANPD) y la Secretaría Nacional del Consumidor (Senacon), tras detectar que la herramienta permitía crear imágenes sexualizadas de menores de edad y de adultos sin su consentimiento.
Según el gobierno brasileño, aunque la empresa informó que eliminó miles de publicaciones y suspendió numerosas cuentas tras un primer llamado de atención, revisiones técnicas posteriores confirmaron que el sistema aún presenta fallas que facilitan la creación y circulación de este material. Las autoridades también señalaron falta de claridad en la información proporcionada por la compañía.
Grok, desarrollado por la firma xAI vinculada a Elon Musk, permitía modificar fotografías reales mediante instrucciones simples, como alterar la vestimenta o simular desnudos. Esta función provocó una reacción internacional y abrió procesos legales en varios países.
El Centro para Combatir el Odio Digital estimó que el chatbot generó cerca de tres millones de imágenes sexualizadas de mujeres y menores en pocos días, lo que encendió alertas sobre el uso indebido de herramientas de inteligencia artificial.
No es la primera vez que X enfrenta tensiones con el gobierno brasileño. En 2024, la plataforma fue suspendida durante 40 días por desacatar resoluciones judiciales relacionadas con la difusión de información falsa.
El caso coloca nuevamente en el centro del debate la regulación de la inteligencia artificial y la responsabilidad de las empresas tecnológicas. Para Brasil, la protección de datos personales y la integridad de las personas debe prevalecer frente al desarrollo sin controles de nuevas herramientas digitales.
.jpg)
