Fm Golfo Azul Villa Pehuenia
China ha decidido poner límites a un tipo muy concreto de IA: aquella diseñada para parecer una persona. Doubao (ByteDance) y Qwen (Alibaba) han anunciado que desactivarán sus agentes de IA personalizados antes de que la normativa entre en vigor de forma inminente. Tencent ya lo había hecho también con su modelo Yuanbao, pero detrás de todos estos cierres hay una idea mucho más profunda.
El apagón de la IA antropomórifica ya tiene fecha. Doubao ya avisó a sus usuarios de que sus agentes de IA personalizados dejarán de funcionar el próximo 15 de julio por «ajustes de producto» y que tres meses después tampoco podrán acceder a las conversaciones almacenadas con dichos chatbots. Con Qwen la cosa será aún más rápida: los agentes desaparecerán el próximo 10 de julio, y el resto de funciones lo harán cinco días después. Estas medidas se toman ante la entrada en vigor de las nuevas Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con IA, publicadas recientemente por el gobierno chino.
Millones de adolescentes han convertido a la IA en su psicólogo de cabecera. Es un reto sin precedentes para la medicina
Chatbots conversacionales, sí… Lo interesante de la normativa es que no regula la IA generativa en general. Deja fuera los asistentes para trabajar, estudiar, investigar o atender al cliente. Lo que regula son los sistemas que «simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos para proporcionar una interacción emocional sostenida». El problema por tanto no es que la IA pueda ser más o menos potente, sino que llegue a simular el comportamiento de una persona.
…chatbots de compañía no. Las funciones que desaparecen de estas plataformas son las que permitían convertir a un chatbot generalista en un personaje de ficción, un amigo o incluso un compañero sentimental. Dicha personalización confería a esos agentes de IA una personalidad fija, una memoria y un estilo de conversación característicos que reforzaba la interacción con él. No eran por tanto herramientas para sustituir al buscador de turno, sino sistemas diseñados para atrapar al usuario en una relación y una conversación cada vez más personal e íntima.
Cuidado con la dependencia emocional. Aquí la regulación china no trata de identificar riesgos de peligrosidad como los que se debatían tradicionalmente por ejemplo con la regulación de la Unión Europea. En lugar de eso lo que vigila son interacciones en las que hay una dependencia emocional, una potencial adicción e incluso una manipulación por parte de estos sistemas. De hecho se prohíbe que estos sistemas fomenten vínculos emocionales que podrían llevar a decisiones irracionales. Todo ello se frena con la normativa para evitar el potencial deterioro de las relaciones personales.
La IA debe autoanalizarse. Según la regulación, la IA debe intervenir cuando detecte ese tipo de situaciones. Si un usuario muestra emociones demasiado extremas hacia estos chatbots o si se percibe que puede haber riesgos para su integridad, la IA debe animarle a buscar ayuda o incluso activar ciertos protocolos de emergencia. También debe avisar si ve un uso excesivo y recordarle al usuario que descanse tras dos horas de conversación continua. En cierto sentido esas normas recuerdan a los mecanismo de «bienestar digital» que se han impuesto en las apps móviles que tratan de limitar el uso de redes sociales.
«Por patético que suene, ChatGPT es mi único amigo»: cada vez más personas confiesan tener a una IA como amistad
Protección para personas vulnerables. Las medidas prestan especial atención a usuarios menores de edad y también a personas mayores. Por ejemplo, se prohíbe que este tipo de chatbots puedan ofrecer relaciones virtuales íntimas, ocmo parejas o familiares artificiales, y exigen consentimiento paterno. También hay obligación de toma de precauciones cuando los usuarios son personas mayores, ya que este colectivo está especialmente expuesto a la soledad y a una posible dependencia emocional.
La IA debe quedarse en eso: ser una IA. Aunque ha habido avances en el impacto psicológico de estos modelos en su relación con personas, esta es probablemente la primera gran regulación que no intenta controlar lo potentes que son los modelos de IA, sino lo capaces que son para establecer relaciones personales con los usuarios. Esta discusión probablemente terminará llegando a Europa y EEUU, y supone una piedra de toque para una tecnología que ciertamente lleva tiempo infiltrándose en el terreno personal.
Imagen | Andy Kelly
En Xataka | Contar qué te preocupa a la IA era solo el primer paso: ya hay bots que se hacen pasar por psiquiatras colegiados
–
La noticia
China acaba de regular algo que realmente importa: que la IA acabe siendo nuestra amiga o nuestra novia
fue publicada originalmente en
Xataka
por
Javier Pastor
.
