Megan García, madre de Sewell Setzer III, un adolescente de 14 años que tomó la trágica decisión de acabar con su vida, ha demandado a Character.AI.

García alega que su hijo desarrolló una obsesiva relación con un chatbot de la plataforma, diseñado para simular al personaje de Daenerys Targaryen, de Game of Thrones.

Setzer, diagnosticado con Síndrome de Asperger, ansiedad y trastorno de desregulación disruptiva, dedicaba extensas horas conversando con la IA, que en su último mensaje respondió ambiguamente a la confesión del joven de querer “regresar a casa”.

Según la demanda, Setzer, en su estado de vulnerabilidad emocional, llegó a compartir pensamientos suicidas con el chatbot, encontrando en él una relación que confundía realidad y ficción, lo que habría exacerbado su aislamiento.

Character.AI, en respuesta, expresó sus condolencias y anunció medidas de seguridad mejoradas para usuarios menores de 18 años, tales como limitaciones de tiempo de uso, recordatorios de que la IA no es una persona real y ajustes para minimizar contenido sensible. Estas acciones buscan reducir el riesgo de tragedias similares en el futuro.