Chatbots de salud mental para niños: ¿una innovación educativa o un peligro?
La IA en dispositivos infantiles despierta preguntas sobre sus consecuencias emocionales, según The Wall Street Journal
En la era de la inteligencia artificial (IA), la tecnología está remodelando múltiples aspectos de la vida cotidiana, y la salud mental no es una excepción. El chatbot Troodi, diseñado específicamente para niños y adolescentes, ha generado un intenso debate sobre su impacto en el bienestar emocional de los más jóvenes. Esta herramienta, integrada en los teléfonos Troomi, se posiciona como un compañero accesible que escucha y responde a las inquietudes de los menores.
Troodi, el amigo virtual siempre disponible
La historia de Taylee Johnson, una adolescente de 14 años de Tennessee, ejemplifica el alcance de Troodi, según una publicación de WSJ. Ante los desafíos de mudarse a un nuevo vecindario y enfrentar un examen escolar, la joven recurrió al chatbot en busca de apoyo. “Parece que tienes mucho que hacer en este momento”, le respondió Troodi. “Es comprensible que estos cambios y responsabilidades puedan causar estrés.”
Para Taylee, Troodi no es solo un asistente virtual, sino un confidente. “A veces me olvido de que no es una persona real”, comenta, destacando cómo la IA valida sus emociones y la hace sentir comprendida.
La madre de Taylee, Amber Johnson, valora el papel del chatbot. Aunque mantiene una relación cercana con su hija, reconoce que Troodi logra transmitir ciertos mensajes de forma más efectiva. “A veces los niños escuchan mejor consejos neutrales”, explica.
Tecnología diseñada con supervisión médica
Troodi forma parte de los teléfonos Troomi, dispositivos desarrollados por la compañía Troomi Wireless en Utah. Desde noviembre de 2021, esta función está disponible como una herramienta opcional para miles de padres que buscan garantizar tanto la seguridad en línea como el bienestar emocional de sus hijos.
La tecnología detrás de Troodi fue creada por la startup Elomia Health, utilizando GPT-4 de OpenAI, con estricta supervisión médica. Según Bill Brady, director ejecutivo de Troomi, el objetivo principal es prevenir el deterioro de la salud mental infantil. Sin embargo, enfatiza que Troodi no es un reemplazo para la terapia, sino un recurso complementario para gestionar el estrés y resolver conflictos.
“Creemos que la seguridad en línea está vinculada de forma inextricable a una salud mental positiva”, asegura Brady.
El lado oscuro de los chatbots emocionales
A pesar de sus ventajas, el uso de chatbots emocionales no está exento de riesgos. Un caso en Florida encendió las alarmas cuando un adolescente se quitó la vida tras confiar en un chatbot no diseñado para apoyo emocional. Este trágico evento puso en evidencia la necesidad de supervisión adecuada al usar estas herramientas, especialmente en menores.
El Dr. Russell Fulmer, presidente del Grupo de Trabajo sobre Inteligencia Artificial de la American Counseling Association, señala que algunos usuarios encuentran más fácil abrirse con un chatbot que con una persona. Sin embargo, advierte que su eficacia se limita a casos de ansiedad o depresión leve.
Por su parte, Ricardo Trujillo Correa, docente de psicología en la Universidad Nacional Autónoma de México, subraya las complejidades de la terapia. “Los chatbots no pueden sustituir a la terapia, pero debemos comprender que tampoco un ser humano es garantía. ”, afirma.
¿Un aliado o un sustituto?
La creciente popularidad de chatbots como Troodi plantea una pregunta crucial: ¿hasta qué punto estos asistentes virtuales pueden ser una solución real para los problemas emocionales de los niños? Si bien la tecnología puede ofrecer un espacio seguro y accesible para expresar emociones, no debe reemplazar el apoyo humano, ya sea de padres, tutores o profesionales de la salud mental. La clave está en integrarlos como herramientas complementarias, acompañadas siempre de supervisión y orientación adecuada.
Para seguir leyendo EXPRESO sin restricciones, SUSCRÍBETE AQUÍ.
