China lanza borrador para regular servicios de IA antropomórfica

China ha dado un paso significativo hacia la regulación de la inteligencia artificial antropomórfica al publicar un borrador de medidas que tienen como objetivo proteger a los usuarios mientras se impulsa la innovación en este sector. El regulador del ciberespacio del país ha abierto la posibilidad de recibir comentarios del público sobre este documento.

Las directrices propuestas en el borrador sugieren un enfoque inclusivo y prudente que se implemente de manera escalonada. Se prevé una supervisión diferenciada basada en los niveles de riesgo, buscando fomentar tanto la innovación como las salvaguardias necesarias para evitar abusos.

El alcance de las medidas abarca productos y servicios que utilizan inteligencia artificial para simular características humanas, tales como patrones de pensamiento y estilos comunicativos, permitiendo una interacción emocional con los usuarios a través de texto, imágenes, audio o video.

Entre las prohibiciones más destacadas del borrador se encuentra la generación o difusión de contenido que ponga en riesgo la seguridad nacional, menoscabe el honor nacional o promueva actividades religiosas ilegales, así como la difusión de rumores que interrumpan el orden social o económico.

Adicionalmente, se prohíbe el contenido que glorifique el suicidio o el autolesionismo y cualquier práctica que implique abuso verbal o manipulación emocional que pueda afectar la salud física y mental de los usuarios, así como su dignidad.

El borrador establece que los proveedores de servicios de inteligencia artificial deben informar a los usuarios cuando interactúan con una IA y deben emitir alertas si detectan signos de dependencia excesiva.

Lin Wei, experto en derecho y presidente de la Universidad de Ciencias Políticas y Derecho del Suroeste, ha destacado que la evolución de la IA está transformando la interacción humano-máquina hacia un compromiso emocional más profundo, lo que también presenta nuevos riesgos y desafíos.

Lin advierte que sin una gobernanza efectiva, estos riesgos podrían socavar la ética social y la confianza pública, obstaculizando el desarrollo saludable de la IA y afectando los intereses de la sociedad.

El borrador también se alinea con las prioridades estratégicas de China, buscando un enfoque sistemático para la gobernanza del desarrollo de la inteligencia artificial, garantizando que los avances tecnológicos sean seguros y sostenibles.

El enfoque en los riesgos del antropomorfismo y la interacción emocional establece un marco multidimensional para la prevención, asegurando la responsabilidad en las fases clave del desarrollo y la implementación de servicios.

Lin subraya que estas medidas establecen expectativas claras para el desarrollo seguro de los servicios de IA antropomórfica en el país, sirviendo además como guía para la gobernanza global de tecnologías emergentes.

Global Times