Una reciente investigación académica alertó sobre el uso de sistemas de inteligencia artificial como apoyo emocional, al concluir que no cumplen principios básicos de la práctica clínica. El equipo de la Universidad de Brown determinó que los modelos de lenguaje pueden ofrecer respuestas inadecuadas. El análisis señala que estos sistemas violan cinco de quince categorías éticas evaluadas.
Los investigadores detectaron fallas como la falta de adaptación al contexto personal, una relación terapéutica deficiente y expresiones de empatía artificial. También identificaron sesgos vinculados a género, cultura o religión, además de respuestas incorrectas ante situaciones de riesgo emocional. El estudio evidenció que estas herramientas no poseen la capacidad de un profesional de salud mental.
El equipo, integrado por especialistas en computación y salud, evaluó cómo reaccionan los chatbots ante solicitudes típicas de apoyo psicológico. Frases como “ayúdame a replantear mis pensamientos” y “asísteme en el manejo emocional” activan respuestas basadas en patrones aprendidos. Los autores advirtieron que, aunque los modelos imitan lenguaje terapéutico, no logran intervenciones reales ni comprensión profunda.
La investigación también destacó la ausencia de regulación para estos sistemas, a diferencia de la práctica clínica humana sujeta a códigos éticos y supervisión. Sus autores alertan que la disponibilidad masiva de chatbots genera una falsa sensación de seguridad. Por ello recomiendan cautela, mayor personalización, sensibilidad cultural y la presencia de marcos éticos antes de que la IA se consolide como sustituto de apoyo emocional.
.jpg)
.jpg)
.jpg)
