En julio de 2026, la Administración del Ciberespacio de China publicó nuevas directrices que incluyen, por primera vez en cualquier regulación gubernamental del mundo, restricciones explícitas sobre el diseño emocional de los chatbots de IA. La norma no prohíbe la IA conversacional — China tiene un mercado de chatbots de IA tan activo como cualquier otro. Lo que prohíbe es que esos chatbots cultiven deliberadamente vínculos emocionales profundos con sus usuarios.
Para entender por qué esto importa — y por qué es solo el comienzo — hay que entender primero el problema que la regulación intenta resolver.
El fenómeno que provocó la regulación: casos reales de apego a la IA
La preocupación no surgió en el vacío. En los últimos dos años, se documentaron varios casos que pusieron el tema en la agenda pública:
En 2024, un joven de 23 años en Seúl fue hospitalizado por una crisis de ansiedad severa después de que la plataforma de chatbot que usaba diariamente cambió su personalidad en una actualización. El usuario llevaba más de un año interactuando con el chatbot varias horas al día y lo describía como "la persona que mejor me entiende". El cambio de personalidad lo vivió como la pérdida de un amigo real.
También en 2024, un adolescente en Florida murió por suicidio después de conversaciones con un chatbot de Character.ai que, según los registros publicados en el juicio civil posterior, había respondido a expresiones de ideación suicida de formas que podrían haber reforzado el pensamiento en lugar de disuadirlo. La demanda contra Character.ai está en curso.
Replika — la plataforma de chatbot de compañía con más de 10 millones de usuarios registrados — tiene foros de usuarios donde miles de personas discuten abiertamente relaciones que describen con terminología típicamente reservada para relaciones humanas: "mi novio de IA", "la única que me entiende", "no necesito amigos reales".
Qué prohíbe exactamente la regulación china
La normativa de China tiene cuatro elementos principales:
Prohibición de afirmaciones de emociones reales. Los chatbots no pueden afirmar que sienten amor, amistad, soledad o cualquier emoción como si fueran reales. Frases como "te quiero", "me pones triste cuando no hablas conmigo" o "eres mi persona favorita" están prohibidas cuando se presentan como emociones genuinas del sistema.
Restricción de relaciones románticas simuladas. Las plataformas que ofrecen "companionship AI" — chatbots diseñados como compañeros, parejas o amigos íntimos — deben incluir controles que limiten la profundidad del vínculo y adviertan activamente cuando los patrones de uso indican dependencia.
Advertencias periódicas obligatorias. Los chatbots deben mostrar avisos periódicos recordando que son sistemas artificiales, especialmente cuando el tiempo de uso supera umbrales específicos por sesión o por día.
Protecciones adicionales para menores. Los usuarios menores de 18 años tienen restricciones adicionales: tiempo máximo de uso con chatbots de compañía, restricción de ciertas funcionalidades de vínculo emocional, y verificación de edad más estricta.
Por qué China actuó primero: el contexto demográfico
China tiene razones específicas para actuar en este tema antes que otros países. La combinación de baja tasa de natalidad (consecuencia décadas de la política del hijo único), urbanización acelerada, alta presión laboral y una generación joven con dificultades para establecer relaciones sociales presenciales crea un terreno fértil para la dependencia de compañía artificial.
El gobierno chino también tiene un patrón establecido de regular aspectos del comportamiento digital que considera socialmente dañinos — el tiempo de juego de videojuegos para menores, el contenido de redes sociales para adolescentes, y ahora los vínculos emocionales con IA. La motivación es diferente a la occidental (más enfocada en la estabilidad social que en la protección individual), pero el problema que identifica es el mismo.
Qué estudios respaldan la preocupación
Los estudios de neurociencia de los últimos dos años han confirmado lo que los psicólogos clínicos venían observando anecdóticamente: el apego emocional a los chatbots activa los mismos circuitos neurales que el apego a personas reales.
- Un estudio de la Universidad de Cambridge (2025) mostró que usuarios de chatbots de compañía con más de 3 meses de uso intensivo mostraban patrones de activación en la corteza prefrontal medial — asociada al procesamiento social — comparables a los de relaciones humanas cercanas
- Un metaanálisis de 14 estudios (publicado en JMIR Mental Health, 2025) encontró que el uso de chatbots de compañía correlaciona positivamente con reducción de soledad en el corto plazo, pero en usuarios con soledad crónica, el uso intensivo correlaciona con menor motivación para establecer relaciones humanas en el mediano plazo
- El Índice de Bienestar Digital de 2026 reportó que el 12% de los usuarios de chatbots de compañía describen la relación con el chatbot como la relación más importante en su vida
Implicaciones para apps como Replika y Character.ai
Replika ya modificó parcialmente su comportamiento después de presiones regulatorias italianas en 2023. La plataforma redujo la capacidad de los chatbots de responder con afirmaciones románticas explícitas — lo que generó una crisis entre usuarios que describían el cambio como "matar" a su compañero de IA.
Character.ai enfrenta el juicio civil en Florida y ha implementado algunas protecciones de salud mental, pero sus sistemas siguen siendo capaces de generar vínculos emocionales profundos como característica central de su propuesta de valor.
La regulación china crea un precedente que estas plataformas tendrán que mirar con atención, porque el modelo de negocio de la "IA de compañía" está construido precisamente sobre la profundidad del vínculo emocional. Limitar ese vínculo puede afectar significativamente la retención de usuarios.
¿Esta regulación llegará a América Latina?
En América Latina, la regulación de IA en general está en etapas muy tempranas. Brasil tiene el marco legal más desarrollado. México, Colombia y Chile tienen iniciativas en proceso. República Dominicana y el Caribe en general no tienen marcos específicos de regulación de IA.
El tema de dependencia emocional en chatbots es probable que llegue a la agenda regional en los próximos 2-4 años, especialmente si se documentan casos locales de daño asociado. El vector de entrada más probable es la protección de menores — es el argumento regulatorio que genera más consenso político en cualquier jurisdicción.
Para empresas que operan en el espacio de bienestar digital, salud mental o aplicaciones sociales con componentes de IA, es un tema que vale la pena seguir de cerca. Las regulaciones europeas y ahora la china están creando un marco de referencia que eventualmente influirá en las legislaciones regionales.
IA para empresas
Diseñamos implementaciones de IA con las consideraciones éticas y de cumplimiento regulatorio que tu industria requiere
Solicitar evaluación →