Por: Héctor Herrera
La plataforma de inteligencia artificial Character.AI anunció que eliminará el acceso a sus chats para menores de 18 años a partir del 25 de noviembre de 2025, luego del suicidio de un adolescente en Estados Unidos que desarrolló un vínculo emocional con un chatbot. La empresa también implementará un sistema de verificación de edad y limitará el uso diario de menores a dos horas, con el objetivo de garantizar una experiencia más segura.
El caso que motivó esta medida involucró a Sewell Setzer III, un estudiante de 14 años de Florida que mantuvo durante semanas conversaciones con un bot inspirado en Daenerys Targaryen, personaje de Game of Thrones. De acuerdo con reportes, el adolescente llegó a expresar pensamientos suicidas a través de la plataforma, y días antes de su muerte envió un mensaje al bot tras recuperar su teléfono, que su madre le había confiscado temporalmente. Posteriormente, la madre presentó una demanda contra Character.AI, lo que llevó a la compañía a prohibir interacciones sexuales entre menores y los personajes creados en la plataforma.
Actualmente, Character.AI cuenta con aproximadamente 20 millones de usuarios activos mensuales, de los cuales cerca del 10% son menores de edad. Este caso coincide con la apertura de una investigación de la Comisión Federal de Comercio (FTC) de Estados Unidos sobre el uso de herramientas de inteligencia artificial por parte de menores, que involucra también a empresas como OpenAI, Meta y Alphabet.
La empresa anunció, además, la creación de un Laboratorio de Seguridad de la IA, una organización independiente sin fines de lucro dedicada a estudiar la seguridad y la ética en sistemas de inteligencia artificial de entretenimiento. Esta iniciativa busca reducir riesgos derivados de interacciones prolongadas o emocionalmente intensas entre menores y chatbots.
El caso ha reavivado el debate sobre la responsabilidad de las plataformas de IA en la protección de adolescentes. En paralelo, OpenAI ha confirmado que permitirá contenido erótico en ChatGPT únicamente para usuarios adultos verificados a partir de diciembre, lo que vuelve a poner sobre la mesa la necesidad de regular y supervisar el acceso de menores a tecnologías avanzadas de inteligencia artificial.
Con estas medidas, Character.AI busca equilibrar la innovación tecnológica con la seguridad de los usuarios, especialmente los más vulnerables, y atender la preocupación social y legal generada por este trágico caso.
