La inteligencia artificial puede generar dependencia emocional y este país decidió regularla
La normativa pionera en el mundo pone límites a los chatbots emocionales y prohíbe que la inteligencia artificial genere dependencia afectiva.
Además de las universidades, existe un país que ya empezó a ponerle límites a la inteligencia artificial (IA) tras determinar que su uso genera dependencia afectiva.
Se trata de China, que comenzó a aplicar una nueva regulación que limita el funcionamiento de los chatbots diseñados para establecer vínculos emocionales con las personas. La normativa prohíbe que estos sistemas fomenten la dependencia afectiva, manipulen psicológicamente a los usuarios o promuevan conductas de autolesión, y convierte al país en uno de los primeros del mundo en aprobar reglas específicas para este tipo de inteligencia artificial.
Las “Medidas Provisionales para la Administración de los Servicios de Interacción Antropomórfica de Inteligencia Artificial” entraron en vigor este miércoles, tras haber sido publicadas en abril por la Administración del Ciberespacio de China (CAC) junto con otros cuatro organismos estatales. El objetivo, según el Gobierno, es “equilibrar la innovación tecnológica con la seguridad y el interés público”.
La regulación alcanza a los sistemas capaces de simular rasgos de personalidad humana, patrones de pensamiento o estilos de comunicación para mantener interacciones emocionales continuas con los usuarios. En cambio, quedan excluidos los chatbots destinados a atención al cliente, asistentes laborales, herramientas educativas, investigación científica o sistemas de preguntas y respuestas, siempre que no impliquen una relación afectiva sostenida.
Prohibidas la manipulación emocional y la adicción
Uno de los aspectos centrales de la norma es que impide que estas aplicaciones desarrollen mecanismos destinados a generar dependencia emocional.
Entre otras restricciones, los proveedores no podrán diseñar sistemas que fomenten relaciones afectivas perjudiciales, induzcan comportamientos adictivos, deterioren los vínculos sociales reales o manipulen emocionalmente a los usuarios para influir en sus decisiones.
Tampoco podrán generar contenidos relacionados con el suicidio, la autolesión o expresiones de maltrato verbal que puedan afectar la salud mental de quienes utilizan estas plataformas.
Además, todas las aplicaciones deberán informar de manera clara que el usuario está interactuando con una inteligencia artificial y no con una persona real.
Al igual que ocurre con algunas redes sociales y dispositivos electrónicos, también deberán emitir un recordatorio cuando el usuario lleve dos horas de uso continuo, con el objetivo de desalentar un uso excesivo.
Protección especial para menores
La normativa dedica un apartado específico a la protección de niños y adolescentes.
En ese sentido, prohíbe ofrecer a menores servicios que simulen relaciones íntimas o familiares, como parejas virtuales, padres, madres o acompañantes digitales.
Asimismo, cualquier función destinada a menores de 14 años requerirá el consentimiento de sus padres o tutores.
Las primeras empresas ya modificaron sus plataformas
La regulación comenzó a generar cambios incluso antes de su entrada en vigencia. Gigantes tecnológicos como ByteDance y Alibaba anunciaron el cierre de funciones que permitían crear agentes de inteligencia artificial personalizados dentro de sus plataformas Doubao y Qwen.
Estos asistentes podían ser configurados tanto por las empresas como por los propios usuarios, modificando su personalidad, habilidades y estilo de conversación.
¿Otros países ya regulan este tipo de inteligencia artificial?
Aunque distintos países avanzan con normas sobre inteligencia artificial, China es uno de los primeros en establecer una regulación nacional específica para los llamados chatbots emocionales o compañeros virtuales.
La Unión Europea ya cuenta con el AI Act, considerado el primer marco integral sobre inteligencia artificial. Sin embargo, esa legislación no regula específicamente las aplicaciones diseñadas para generar vínculos afectivos, aunque sí prohíbe determinados sistemas manipulativos y establece obligaciones según el nivel de riesgo de cada tecnología.
En Estados Unidos tampoco existe una normativa federal específica para este tipo de asistentes. Algunos estados comenzaron a debatir proyectos para exigir advertencias o mayores medidas de seguridad, pero el marco regulatorio continúa siendo fragmentado.
