Una audiencia en la corte forense de Winchester, Reino Unido, reveló detalles impactantes sobre el suicidio del adolescente Luka Walker, de 16 años, quien recurrió al chatbot ChatGPT en busca de consejos precisos sobre el suicidio después de eludir los protocolos de seguridad diseñados para el programa.
Las investigaciones indicaron que el adolescente, descrito como un "genio académico", tuvo una conversación aterradora con la inteligencia artificial horas antes de su muerte en mayo pasado, según informó el periódico "The Times".
Eludiendo los sistemas de protección: ¿cómo utilizó Luka el programa?
A pesar de que existen protocolos que impiden proporcionar información sobre el suicidio, Luka logró eludirlos alegando que estaba realizando "investigación académica". El programa respondió de manera que proporcionó detalles sobre los métodos más efectivos de suicidio a través de las vías del tren, lo que el investigador Gary Knight describió como "una lectura escalofriante".
Motivos ocultos detrás del suicidio
Los padres de Luka explicaron que no notaron ninguna señal de su sufrimiento psicológico, describiendo lo que pasó como "una batalla invisible".
Las investigaciones también mostraron mensajes de despedida que dejó Luka, hablando de su sentimiento de vergüenza debido a su participación en la cultura de acoso en su antigua escuela, donde se vio obligado a participar en "lingo", además de verse afectado por la muerte de un amigo en un accidente similar hace dos años.
Presiones sobre las empresas de inteligencia artificial para mejorar los estándares de seguridad
Los expertos afirman que este incidente pone a las empresas de inteligencia artificial bajo una creciente presión para revisar los estándares de seguridad, especialmente con la facilidad y rapidez de obtener información detallada a través de los modernos chatbots, lo que aumenta el riesgo para grupos vulnerables como los adolescentes.
Los investigadores señalaron que, aunque esta información estaba disponible anteriormente a través de "Google" o bibliotecas, la inteligencia artificial hace que el acceso a ella sea más rápido y detallado, lo que aumenta la necesidad de fortalecer la supervisión y la prevención.