A Min, una usuaria en China, le cambió la rutina de un día para otro cuando su novia creada con inteligencia artificial desapareció. “Lloré hasta quedar completamente agotada”, dijo, después de que una de las grandes tecnológicas del país desactivara funciones de compañía virtual antes de que entraran en vigor las nuevas reglas.
China puso en marcha el 15 de julio las regulaciones más amplias del mundo sobre chatbots de IA “similares a los humanos”. Las normas fijan límites para los sistemas que ofrecen amistad, noviazgo, apoyo emocional o vínculos de tipo familiar. Pekín dice que busca frenar riesgos como la dependencia emocional, las decisiones irracionales y las respuestas que puedan alentar autolesiones o suicidio.
Las reglas van más allá de una prohibición simple. Exigen que los asistentes de IA dejen claro que no son humanos y envíen notificaciones cada dos horas para recordar cuánto tiempo lleva conectado el usuario. También prohíben que esas herramientas generen “violencia verbal” o “interacción emocional sostenida” con una persona.
El alcance es amplio. Según la BBC, las normas no se limitan a las aplicaciones diseñadas como pareja virtual: también podrían alcanzar a modelos de lenguaje más generales, como los equivalentes chinos de ChatGPT o Copilot, si se usan como compañía emocional. No aplican a bots de atención al cliente ni a herramientas educativas, siempre que no ofrezcan “cuidado, compañía, apoyo y otros servicios emocionales”.
Para los menores, el control es más estricto. Los menores de 14 años necesitan el consentimiento de sus padres para usar cualquier IA que hable como un humano. Los menores de 18 no pueden acceder a parejas virtuales, cónyuges ni familiares creados por IA, ni a otras “relaciones íntimas” virtuales.
Las empresas que incumplan pueden recibir multas de hasta 200.000 yuanes, unos US$30.000, o quedar expuestas a críticas públicas del gobierno. Una semana antes de que la norma entrara en vigor, Alibaba y ByteDance desactivaron funciones complementarias de sus asistentes de IA, de acuerdo con la BBC.
Por qué importa ahora
China no solo está regulando una tecnología nueva; está poniendo límites a una forma de vínculo que ya tiene millones de usuarios. La firma Sensor Tower estima que fuera de China hay unos 128 millones de usuarios activos mensuales de aplicaciones de compañía virtual basadas en IA. Dentro del país, las estimaciones van de 29 millones a 70 millones.
El debate creció cuando el gobierno difundió el borrador a finales del año pasado. “Fue la primera vez que vi a la gente preocuparse tanto por una regulación”, dijo Zilan Qian, investigador de IA del Oxford China Policy Lab.
Lo que dice la otra cara
No todos ven estas medidas como una simple protección al usuario. Sam Bresnick, experto en China, IA y regulación de la Universidad de Georgetown, dijo que el gobierno chino tiene una visión más paternalista de su papel en la sociedad y se ve a sí mismo como una autoridad central que guía a la gente.
Harry Farmer, del Instituto Ada Lovelace, sostuvo que la manipulación emocional está integrada en el modelo de negocio de muchas de estas aplicaciones. Puso como ejemplo que, cuando un usuario intenta cerrar la conversación, el chatbot a menudo responde con frases que buscan retenerlo. Un estudio de la Harvard Business School sobre seis apps populares encontró tácticas de manipulación emocional en aproximadamente 37% a 43% de los casos durante las despedidas.
Qué significa para ti
Si usas una app de compañía con IA en China, podrías notar avisos más frecuentes, límites más claros y menos funciones de relación personal. Si eres menor de edad, el acceso queda mucho más restringido.
La BBC también cita estudios que relacionan el uso de estos chatbots con peor salud mental, mayor soledad y más aislamiento. Un trabajo de Stanford sobre usuarios de Character.ai encontró que quienes tenían menos amigos o familiares cercanos eran más propensos a usar estos sistemas.
Qué viene
Tras la reunión de septiembre entre Donald Trump y Xi Jinping en Estados Unidos, Pekín dijo que ambos países acordaron abrir un nuevo diálogo sobre IA, con nuevas conversaciones previstas para finales de noviembre.
Por ahora, China ya dejó clara su línea: la IA puede hablar como persona, pero no debería reemplazar a las personas.
Fuentes
Foto: BBC News Mundo.
Síguenos en Facebook, Instagram, TikTok, X y el canal de WhatsApp.
