La Chine publie un avis exigeant une identification correcte des contenus générés par l'intelligence artificielle « pour s'attaquer aux deepfakes et à la malhonnêteté académique »

Quatre administrations et ministères chinois ont publié le 14 mars un avis visant normaliser l'identification des contenus synthétiques générés par l'intelligence artificielle, une décision dont un observateur de l'industrie estime qu’elle répondra aux préoccupations liées aux contrefaçons profondes (« deepfakes ») et à la malhonnêteté scientifique.

Selon l’avis, la question de savoir si le contenu généré par l'intelligence artificielle est correctement identifié sera l'un des critères auquel les fournisseurs de services Internet devront satisfaire pour pouvoir obtenir l'approbation avant de répertorier ou de lancer leurs applications.

Rédigé conjointement par quatre administrations et ministères chinois, à savoir l'Administration du cyberespace de Chine, le ministère de l'Industrie et des Technologies de l'information, le ministère de la Sécurité publique et l’Administration de la radio et de la télévision nationales, l’avis entrera officiellement en vigueur le 1er septembre prochain.

Li Zonghui, vice-président de l’Institut de l'état de droit de la cybernétique et de l'intelligence artificielle affilié à l'Université d'aéronautique et d'astronautique de Nanjing, capitale de la province du Jiangsu (est de la Chine), a déclaré au Global Times qu'il est courant de voir le contenu généré par l'intelligence artificielle inventer souvent des faits et des références. Ajouter des identifiants pour les contenus synthétiques générés par l'intelligence artificielle, et notamment des mentions explicites et implicites, peut effectivement aider à prévenir les deepfakes et la malhonnêteté académique, ainsi que dissuader la fraude intentionnelle à l'intelligence artificielle.

De son côté, l'Administration du cyberespace de la Chine a également noté la propagation de fausses informations et la perturbation de l'écosystème en ligne apportée par le développement rapide de nouvelles technologies telles que l'intelligence artificielle générative et la synthèse profonde.

Plus précisément, les mesures ont défini les contenus synthétiques générés par l'intelligence artificielle comme des informations telles que du texte, des images, de l'audio, des vidéos et des scènes virtuelles créées ou synthétisées à l'aide de la technologie de l'intelligence artificielle. Cela nécessite que des identifiants explicites soient ajoutés aux contenus synthétiques générés ou aux interfaces de scènes interactives, présentés sous forme de texte, de son, de graphiques, etc., qui peuvent être clairement perçus par les utilisateurs.

Il en va de même pour les identifiants implicites qui ne sont pas facilement perçus par les utilisateurs. L'identité implicite contient les informations d'attribut des contenus synthétisés générés, le nom ou le code du fournisseur de services et le numéro de contenu.

Ceux qui violeront les dispositions de ces mesures seront sanctionnés par les autorités concernées conformément à leurs fonctions respectives et sur la bases des lois, réglementations administratives et règles ministérielles pertinentes.

Selon M. Li, il s'agit d'un nouvel effort du gouvernement chinois pour équilibrer la création d'un environnement de développement équitable et ordonné pour l'intelligence artificielle tout en régulant l'industrie dans un cadre juridique.