La Administración del Ciberespacio de China recientemente reglamentos publicados prohibir la creación de medios generados por IA sin etiquetas claras, como marcas de agua, entre otras políticas,informes El registro. Las nuevas reglas son parte de la respuesta en evolución de China a la tendencia de IA generativa que se extendió por el mundo tecnológico en 2022, y entrarán en vigencia el 10 de enero de 2023.
En China, el administración del ciberespacio supervisa la regulación, vigilancia y censura de Internet. Bajo las nuevas regulaciones, la administración monitoreará más de cerca lo que llama tecnología de «síntesis profunda».
En un artículo de noticias en el sitio web de la Oficina de China de la Comisión Central de Asuntos del Ciberespacio, el gobierno explicó las razones para emitir las regulaciones. Señaló la reciente ola de texto, imagen, vozy video IA sintética, que China reconoce como importante para el crecimiento económico futuro (traducción a través de Google Translate):
En los últimos años, la tecnología de síntesis profunda se ha desarrollado rápidamente. Mientras satisface las necesidades de los usuarios y mejora la experiencia del usuario, también ha sido utilizado por personas sin escrúpulos para producir, copiar, publicar y difundir información ilegal y dañina, para calumniar y menospreciar la reputación y el honor de otros, y para falsificar la identidad de otros. El fraude, etc., afecta el orden de la comunicación y el orden social, lesiona los derechos e intereses legítimos de las personas y pone en peligro la seguridad nacional y la estabilidad social.
El establecimiento de «Regulación» es una necesidad para prevenir y resolver los riesgos de seguridad, y también es una necesidad para promover el desarrollo saludable de los servicios de síntesis en profundidad y mejorar el nivel de las capacidades de supervisión.
Según las regulaciones, los nuevos productos de síntesis profunda estarán sujetos a una evaluación de seguridad del gobierno. Cada producto debe ser encontrado para cumplir con las regulaciones antes de que pueda ser lanzado. Además, la administración enfatiza particularmente el requisito de «marcas» obvias (como marcas de agua) que denotan contenido generado por IA:
Los proveedores de servicios de resúmenes detallados deben agregar indicios que no afecten el uso del contenido informativo generado o editado mediante sus servicios. Los servicios que brindan funciones como diálogo inteligente, voz humana sintetizada, generación de rostros humanos y escenas realistas inmersivas que generan o alteran significativamente el contenido de la información deben marcarse de manera destacada para evitar cualquier confusión o identificación errónea de la audiencia.
Se requiere que ninguna organización o persona utilice medios técnicos para eliminar, alterar u ocultar las marcas relevantes.
Además, las empresas que brindan tecnología de síntesis profunda deben mantener sus registros de conformidad con la ley, y las personas que usan la tecnología deben crear cuentas con sus nombres reales para que se pueda rastrear su actividad de construcción.
Al igual que Estados Unidos, China ha visto un auge en las aplicaciones impulsadas por IA. Por ejemplo, una de las principales empresas de tecnología de China, Baidu, ha producido un modelo de síntesis de imagen que es similar a LOSA y difusión estable.
Un número creciente de expertos en tecnología ha reconocido recientemente que China y Estados Unidos se enfrentan a una próxima ola de IA generativa que podría plantear desafíos a las estructuras de poder, permitir el fraude, incluso alterando nuestro sentido de la historia. Hasta ahora, los dos países han reaccionado con reacciones casi opuestas: Estados Unidos con directrices no vinculantes contra las duras restricciones de China.
En 2019, China publicó sus primeras reglas lo que hizo ilegal publicar deepfakes de «noticias falsas» sin marcar. Estas normas entraron en vigor a principios de 2020.
Imagen publicitaria de Ars Technica