Javier Pastor
Editor Senior - TechChina ha decidido poner límites a un tipo muy concreto de IA: aquella diseñada para parecer una persona. Doubao (ByteDance) y Qwen (Alibaba) han anunciado que desactivarán sus agentes de IA personalizados antes de que la normativa entre en vigor de forma inminente. Tencent ya lo había hecho también con su modelo Yuanbao, pero detrás de todos estos cierres hay una idea mucho más profunda.
El apagón de la IA antropomórifica ya tiene fecha. Doubao ya avisó a sus usuarios de que sus agentes de IA personalizados dejarán de funcionar el próximo 15 de julio por "ajustes de producto" y que tres meses después tampoco podrán acceder a las conversaciones almacenadas con dichos chatbots. Con Qwen la cosa será aún más rápida: los agentes desaparecerán el próximo 10 de julio, y el resto de funciones lo harán cinco días después. Estas medidas se toman ante la entrada en vigor de las nuevas Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con IA, publicadas recientemente por el gobierno chino.
Chatbots conversacionales, sí... Lo interesante de la normativa es que no regula la IA generativa en general. Deja fuera los asistentes para trabajar, estudiar, investigar o atender al cliente. Lo que regula son los sistemas que "simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos para proporcionar una interacción emocional sostenida". El problema por tanto no es que la IA pueda ser más o menos potente, sino que llegue a simular el comportamiento de una persona.
...chatbots de compañía no. Las funciones que desaparecen de estas plataformas son las que permitían convertir a un chatbot generalista en un personaje de ficción, un amigo o incluso un compañero sentimental. Dicha personalización confería a esos agentes de IA una personalidad fija, una memoria y un estilo de conversación característicos que reforzaba la interacción con él. No eran por tanto herramientas para sustituir al buscador de turno, sino sistemas diseñados para atrapar al usuario en una relación y una conversación cada vez más personal e íntima.
Cuidado con la dependencia emocional. Aquí la regulación china no trata de identificar riesgos de peligrosidad como los que se debatían tradicionalmente por ejemplo con la regulación de la Unión Europea. En lugar de eso lo que vigila son interacciones en las que hay una dependencia emocional, una potencial adicción e incluso una manipulación por parte de estos sistemas. De hecho se prohíbe que estos sistemas fomenten vínculos emocionales que podrían llevar a decisiones irracionales. Todo ello se frena con la normativa para evitar el potencial deterioro de las relaciones personales.
La IA debe autoanalizarse. Según la regulación, la IA debe intervenir cuando detecte ese tipo de situaciones. Si un usuario muestra emociones demasiado extremas hacia estos chatbots o si se percibe que puede haber riesgos para su integridad, la IA debe animarle a buscar ayuda o incluso activar ciertos protocolos de emergencia. También debe avisar si ve un uso excesivo y recordarle al usuario que descanse tras dos horas de conversación continua. En cierto sentido esas normas recuerdan a los mecanismo de "bienestar digital" que se han impuesto en las apps móviles que tratan de limitar el uso de redes sociales.
Protección para personas vulnerables. Las medidas prestan especial atención a usuarios menores de edad y también a personas mayores. Por ejemplo, se prohíbe que este tipo de chatbots puedan ofrecer relaciones virtuales íntimas, ocmo parejas o familiares artificiales, y exigen consentimiento paterno. También hay obligación de toma de precauciones cuando los usuarios son personas mayores, ya que este colectivo está especialmente expuesto a la soledad y a una posible dependencia emocional.
La IA debe quedarse en eso: ser una IA. Aunque ha habido avances en el impacto psicológico de estos modelos en su relación con personas, esta es probablemente la primera gran regulación que no intenta controlar lo potentes que son los modelos de IA, sino lo capaces que son para establecer relaciones personales con los usuarios. Esta discusión probablemente terminará llegando a Europa y EEUU, y supone una piedra de toque para una tecnología que ciertamente lleva tiempo infiltrándose en el terreno personal.
Imagen | Andy Kelly
Ver 4 comentarios