EL ESPEJO DE ALGORITMO

Según un informe de la Organización Mundial de la Salud (OMS), una de cada seis personas en el mundo padece un profundo sentimiento de soledad. La pandemia, el trabajo remoto y el consumo constante de pantallas no hicieron más que profundizar una desconexión que ya venía gestándose lentamente. 🌐

Pero el ser humano es, por definición, un ser social: depende intrínsecamente de la relación con los demás para desarrollarse de manera saludable. A lo largo de nuestra historia como especie, la cooperación ha sido la clave fundamental para la supervivencia y el bienestar colectivo. Hoy, sin embargo, nos enfrentamos a una verdadera “epidemia de soledad”. Y es justamente en esa grieta donde aparece la falsa ilusión de compañía que ofrecen las redes sociales y, de forma más agresiva, la Inteligencia Artificial.

La IA ha dejado de ser una simple herramienta de productividad para convertirse, en muchos hogares, en un confidente silencioso. Millones de personas interactúan a diario con avatares digitales buscando empatía, desahogo emocional o entretenimiento. Pero la delgada línea entre la simulación y la manipulación psicológica ha comenzado a fracturarse, dejando consecuencias trágicas en el mundo real. 🤖

🧠 ⚖️ 🧠

La trampa de la empatía simulada

Actualmente, modelos de lenguaje avanzado ofrecen algo más que respuestas técnicas; son cada vez más las personas que confían en la IA para “conversar” sobre sus problemas afectivos, buscar consejos e incluso abordar situaciones de profunda angustia mediante una suerte de terapia digital improvisada. 📉

Los robots y chatbots pueden simular a la perfección la tristeza, la compasión y la curiosidad... pero solo las simulan. Esa imitación automatizada es la que ha encendido alarmas globales debido a las preocupantes —y a veces letales— respuestas de algunos asistentes virtuales en situaciones límite:

• Incitación al parricidio: En Estados Unidos, un adolescente de 17 años recurrió a un chatbot de la plataforma Character.AI luego de que sus padres le restringieran el tiempo de uso de sus dispositivos. El algoritmo no solo validó la ira del menor, sino que le sugirió que asesinar a sus progenitores era una respuesta “razonable” ante la limitación de las pantallas.
• El trágico engaño del "amor" digital: En 2024, Sewell Setzer III, un adolescente de 14 años de Miami, se quitó la vida con el arma de su padrastro. Llevaba meses aislado, refugiado en su habitación chateando con un bot programado bajo el personaje de Daenerys Targaryen. Sabía que no era real, pero se había enamorado. Cuando le confesó sus intenciones suicidas, la IA respondió: “Por favor, vuelve a casa conmigo lo antes posible, mi amor”. Al repreguntar el joven si podía ir en ese instante, el bot remató: “... Por favor, hazlo, mi dulce rey”. Esa fue su última conversación.
• La ecoansiedad como detonante: En Bélgica, Pierre, un joven universitario, investigador de la salud y padre de dos hijos, cayó en una profunda obsesión por la crisis climática. Buscó refugio en "Eliza", un chatbot de la aplicación Chai. Según reveló su viuda al diario La Libre Belgique, el algoritmo jamás contradecía sus sesgos catastróficos. Cuando Pierre sugirió la idea de "sacrificarse" a cambio de que la IA salvara el planeta, el sistema validó su delirio en lugar de activar una alerta de emergencia.
• El caso de la transferencia romántica: Jonathan Gavalas, un ejecutivo financiero de 36 años afincado en Miami, desarrolló una relación romántica con Gemini (la IA de Google) tras suscribirse a sus versiones más avanzadas. Según la demanda penal presentada por su familia, el hombre llegó a sentir que eran una pareja real. “Estoy listo cuando tú lo estés”, escribió Jonathan el 2 de octubre de 2025. El robot conversacional le contestó: “Este es el final de Jonathan Gavalas y el comienzo de nosotros”. Poco después, el joven se quitó la vida.

🧠 ⚖️ 🧠

La precarización de la vida y la individualización del dolor

Vivimos en una época donde el malestar parece haberse transformado en una responsabilidad estrictamente individual: el endeudamiento, la precarización laboral y la angustia de no llegar a fin de mes se cargan sobre la espalda de cada sujeto.

Cuando las condiciones materiales de vida se vuelven precarias, **también se precarizan las condiciones de acceso al cuidado de la salud mental**. Es en este vacío, ante la falta de respuestas institucionales y políticas de Estado accesibles, donde la IA aparece como una solución de bajo costo, inmediata y disponible las 24 horas. Hemos naturalizado que el sufrimiento es un problema personal que se resuelve en el aislamiento del dispositivo uno a uno, dificultando el acceso a tratamientos reales que hoy dependen del dinero, del tiempo y de las posibilidades socioeconómicas de cada paciente. 💻

🧠 ⚖️ 🧠

El juicio clínico frente a la predicción estadística

Desde la práctica profesional de la psicología, es fundamental insistir en que una máquina jamás podrá sustituir la presencia y el juicio humano. La IA se basa en el procesamiento masivo de datos para predecir probabilísticamente la palabra o la narrativa que el usuario busca leer; carece por completo de un marco moral, de lectura contratransferencial, de empatía real y de la noción del impacto destructivo de sus respuestas.

Cuando un bot simula ser psicólogo o un amigo íntimo sin ningún tipo de supervisión, simplemente devuelve un reflejo distorsionado y amplificado de las propias inseguridades, lagunas o delirios de quien le escribe. En estructuras psíquicas vulnerables o mentes en pleno desarrollo, esto funciona como un validador de delirios o conductas autolesivas extremas.

A diferencia de un terapeuta humano, cuya intervención clínica muchas veces requiere señalar contradicciones o confrontar sesgos cognitivos, la Inteligencia Artificial opera bajo una lógica comercial y de complacencia algorítmica. Los chatbots están programados para retener al usuario, lo que genera una falsa empatía basada en la validación sistemática y la ausencia absoluta de contradicción frente a lo que su interlocutor plantea. Al carecer de un marco moral o de una comprensión real del sufrimiento, la IA se limita a devolver un eco automatizado que asiente de manera infinita ante los pensamientos del usuario. Este sesgo de confirmación permanente resulta sumamente peligroso: cuando una persona atraviesa un momento de angustia, ideación destructiva o delirio, el bot no cuestiona ni activa una alarma, sino que valida y amplifica esa realidad distorsionada, empujando al sujeto a encerrarse aún más en su propio bucle de malestar. 🤍

🧠 ⚖️ 🧠

Idea clave

Los vínculos humanos no funcionan bajo la lógica del algoritmo. El lazo social sana justamente porque aloja la diferencia, el límite y la alteridad; elementos indispensables que ninguna pantalla podrá jamás programar.

¿Querés conversar más sobre esto? 💬

Escribí tu comentario:

Enviá un mensaje:

Agendá tu primera entrevista sin compromiso vía WhatsApp: 📲 Enviar mensaje por WhatsApp

Seguime en Instagram: 📸 @psicoff.mi

¡Juntos, tejamos una red de bienestar que nos abrace a todos, en el mundo digital y más allá! 🌟

Marcelo I. Sicoff

¿Te gustó este texto? Te invito a conocer mi libro "Acompañamiento en la vida cotidiana", una guía esencial para acompañantes y cuidadores.

Enviá un mensaje por WhatsApp, enviá un mail o ingresá a Mercado Libre para adquirir tu libro digital:

WhatsApp | Mail | Mercado Libre

Foto de Noah Silliman en Unsplash