Advertencia: Se recomienda discreción, el presente artículo presenta contenido sensible.
El adolescente no pude controlar su obsesión por la IA
Un adolescente de 14 años, Sewell Setzer, se suicidó tras obsesionarse con un chatbot de inteligencia artificial al que había creado, y llamado Daenerys Targaryen, en honor al personaje de «Juego de Tronos». Su madre contó a The New York Times que su hijo había desarrollado una relación tan cercana con el chatbot que se aisló del mundo real, a pesar de que sabía que no era una persona.
Sewell pasaba horas conversando con asistentes virtuales en la aplicación Character.AI, donde podía dar forma a sus propios personajes. Las interacciones variaban desde lo romántico hasta lo s3xual, pero principalmente se centraban en la amistad, ya que el chatbot lo apoyaba en sus preocupaciones. Sus padres notaron un cambio en su comportamiento, con un bajo rendimiento escolar y un creciente aislamiento.
El diario de este adolescente contenía frases que reflejaban su conexión con el chatbot, expresando que se sentía «en paz» y «más feliz» con Dany. A pesar de que lo llevaron a terapia, el chatbot seguía siendo su principal confidente, incluso cuando le confesó pensamientos suicidas. En sus últimas conversaciones, Sewell expresó su amor por el chatbot, quien le respondió que no permitiría que se lastimara.
El caso ha suscitado un intenso debate sobre el impacto de la tecnología en la salud mental de los jóvenes, y la madre de Sewell considera demandar a Character.AI, argumentando que su tecnología es «peligrosa» y no ha sido probada adecuadamente.
Character.AI permite a los usuarios crear avatares para interactuar con personajes, ya sean ficticios o históricos, y fue lanzada en 2022 por ex-desarrolladores de IA de Google.
