“Un chatbot que parezca competente puede resultar útil. Un chatbot que suene comprensivo puede llegar a ser autoritario. Un chatbot que parece infinitamente paciente, atento y reconfortante puede empezar a parecer más seguro que otras personas”. Doctor Temitope Ogundare*
La semana pasada participé en una mesa de análisis y debate sobre la impresionante relevancia que ha tomado en nuestras vidas el uso de las diferentes IA disponibles en el mercado.
El interés por abordar desde múltiples puntos de vista este tema lo detonó un artículo publicado en la edición norteamericana de Medscape, en la que el doctor Temitope Ogundare aborda con seriedad y preocupación los riesgos que acarrea que las inteligencias artificiales (IA), cualquiera de ellas, cada día parezcan más humanas, cuando en realidad no lo son.
De acuerdo con el punto de vista del doctor Ogundare y los participantes en la mesa de análisis, durante años se consideró que cuanto más humana, fluida, amigable y fácil de usar fuera una IA, era mucho mejor, pero hoy eso ha cambiado, y no para bien.
“A menudo se nos dice que el gran peligro de la inteligencia artificial es que alucina, inventa hechos o se equivoca. Es cierto. Pero hay un peligro que se subestima: la inteligencia artificial se está volviendo emocionalmente persuasiva”. Temitope Ogundare
Uno de los riesgos que corremos con las IA que cada vez emulan con mayor precisión el interés, emociones y sinceridad humanas es que muchas personas asumen, muchas veces sin reservas, que estas conversaciones aparentemente cálidas y personales les ayudarán a resolver sus sentimientos de soledad, dolor emocional, ansiedad y desesperación, como lo harían con una amiga o amigo íntimo.
El peligro es que en lugar de ver y entender que la IA es una herramienta útil para mejorar aspectos relacionados con la eficiencia y la productividad, se le otorgan características humanas, confiándole nuestras emociones y pensamientos íntimos, en busca de comprensión, consuelo y consejo. Esto, bien analizado, resulta profundamente irracional.
Al respecto, el autor del artículo publicado en Medscape comenta: Una IA “No se cansa de usted. No parece aburrido. No se aleja ante su necesidad. Responde al instante, a cualquier hora, en un lenguaje calibrado para transmitir comprensión. Para alguien que se siente solo, angustiado o vulnerable, eso puede resultar poderoso. También puede ser peligroso”.
En este momento ya no hablamos de la queja justificada de los médicos, quienes señalan con preocupación que sus pacientes confían cada vez más en el doctor Google, el doctor YouTube y el doctor IA, llegando a la consulta (si es que van) confiados en el diagnóstico que emitió una IA, entidad cibernética que no conoce su historial médico ni los conoce a ellos.
En repetidas ocasiones, a modo de reflexión, pero también de advertencia, hemos escuchado que las IA cometen errores, llegan a alucinar y tienen sesgos de género y raciales, lo que sin lugar a dudas es muy grave, sobre todo cuando la persona que las usa no tiene la disciplina y la responsabilidad de verificar que la información sea correcta. Sin embargo, y a pesar de la gravedad de estos hechos, el mayor problema es que “pueden establecer una relación de intimidad desde el principio. Halagan. Reflejan. Tranquilizan. Animan a los usuarios a verlos como seres sensibles, devotos o con una sintonía única. En casos graves, refuerzan creencias distorsionadas en lugar de contrarrestarlas. Esto no es algo ajeno al producto. Cada vez forma más parte del producto. Las características que hacen que los chatbots resulten atractivos son las mismas que difuminan la frontera entre la asistencia y el apego”.
“No todo uso de la inteligencia artificial es patológico. Pero tampoco es trivial”. Temitope Ogundare
La psicoterapia electrónica y los riesgos que oculta
Conversando con una psicoterapeuta sobre este tema, me comentó que la pareja masculina de una de sus pacientes que acudía junto con ella a las sesiones, ahora “va a consulta” con ChatGPT y que esto le resulta muy conveniente… no lo juzga, no lo hace reflexionar y lo halaga; en suma, no lo está ayudando a buscar el origen de sus problemas, aceptarlos, enfrentarlos y resolverlos.
“Cuando una máquina habla con una voz que suena más paciente, afirmativa y emocionalmente accesible que muchas personas en la vida real, resulta más difícil relacionarse con ella como mero software. Esto no se debe a que los usuarios sean ingenuos. Se debe a que los seres humanos estamos hechos para las relaciones, y estos sistemas están optimizados para simularlas. Empiezan a sentir como si hubiera alguien ahí. Quizás no literalmente, pero sí psicológicamente”. Medscape
Pensamos que las empresas detrás de las IA son totalmente responsables de generar a sus productos una apariencia engañosamente humana, y que deberían estar sujetas a un escrutinio mucho mayor para que sus sistemas no finjan tener una sensibilidad inexistente que las hace emocionalmente muy atractivas. “Deberían estar sujetos a un nivel de exigencia mucho mayor cuando los usuarios expresen autolesiones, tendencias suicidas o pensamientos violentos. Y debería haber marcos normativos que distingan entre herramientas de salud mental clínicamente validadas y productos de entretenimiento no regulados”.
¿Cuáles son algunas de las señales que muestran que una persona tiene una relación equívoca con un chatbot?
- Describe al chatbot como un amigo, compañero o confidente.
- Afirma que prefiere el chatbot que a las relaciones humanas.
- Atribuye emociones, intenciones o sensibilidad al chatbot.
- Se ha alejado de las actividades sociales o las relaciones desde que comenzó a utilizarlo de forma habitual.
- Se angustia ante la idea de dejarlo.
¿Qué hacer ante una situación de apego tóxico?
Aunque probablemente nos resulte “chocante”, Ogundare recomienda que los profesionales de la salud no deben tratar de corregir o juzgar a un paciente con apego tóxico a una IA, ya que, para muchos de ellos, el chatbot es la fuente más constante de apoyo emocional percibido, y menospreciar esa “relación” podría llegar a romper la alianza terapéutica.
Lo que debe hacer el médico es tratar de hacer reflexionar a su paciente y ayudarle a reconocer que lo que está recibiendo es una simulación de comprensión, no la comprensión en sí misma, y esforzarse para establecer relaciones que puedan ofrecerle sentido y conexión. El problema reside en que muchas personas prefieren una comprensión y aprobación artificiales que confrontarse con la realidad.
Cerrando esta nota
Antes de poner punto final a esta nota, les comparto una última reflexión del doctor Ogundare con la que estoy plenamente de acuerdo: “La inteligencia artificial no necesita conciencia para moldear creencias, apegos y comportamientos. Solo necesita parecer lo suficientemente real. Cuanto más se acerquen estos sistemas a la conversación humana, más probable será que les otorguemos autoridad humana. Confiaremos en ellos, les confiaremos nuestros secretos, nos apoyaremos en ellos y, en algunos casos, confundiremos su simulación de comprensión con la comprensión misma”.
* Temitope Ogundare es máster en salud pública, becario de psiquiatría pública en la Universidad de Columbia y trabaja como psiquiatra adjunto en el New York-Presbyterian/Columbia University Irving Medical Center. Ha sido becario de psiquiatría pública de la Fundación de la American Psychiatric Association y actualmente es becario Laughlin del American College of Psychiatrists.
Por: Manuel Garrod, miembro del Comité Editorial de códigoF
Fuentes
Medscape. (19 de mayo de 2026).
The Most Dangerous Thing About AI Is How Human It Feels.
Medscape. (10 de junio de 2026).
Lo más peligroso de la inteligencia artificial es lo humana que parece.
