Le ministère chinois de la Sécurité d'État met en garde contre les risques posés par l'IA

Le ministère chinois de la Sécurité d'État a rappelé mardi au public les risques potentiels que représente la technologie de l'intelligence artificielle (IA) pour la sécurité de l'État, alors qu’elle est intégrée dans tous les aspects de notre vie quotidienne à une vitesse sans précédent.

Un article publié par le ministère souligne que les outils d'IA peuvent divulguer des données sensibles, car les outils utilisés pour générer des conversations, des textes et d'autres tâches peuvent collecter et stocker des informations personnelles, entraînant la fuite de données privées.

Il est même possible pour les outils d'IA de déduire des informations sensibles à partir de données relatives à des personnes impliquées dans des affaires confidentielles, ce qui pourrait présenter des risques et causer des dangers potentiels pour la sécurité nationale si ces données sont collectées ou volées par des agences de renseignement étrangères.

Le ministère a également rappelé que la technologie de l'IA peut générer et diffuser de fausses informations. La technologie de l'IA peut générer rapidement de grandes quantités de textes, d'images, ainsi que de contenus audio et vidéo. Certains criminels peuvent exploiter cette technologie pour escroquer, fabriquer et diffuser des rumeurs en ligne ou des informations fausses et nuisibles, qui pourraient induire en erreur le public et nuire à la sécurité de l'État et à l'image de la Chine.

Parallèlement, le ministère a également rappelé que certaines cyberattaques sont liées à des appareils intelligents. Si des appareils domestiques intelligents et des véhicules connectés intelligents sont piratés et que leurs systèmes sont contrôlés, les pirates peuvent collecter et analyser des données telles que des conversations, des itinéraires de voyage et des informations géographiques environnantes par le biais d'écoutes et de surveillance, ce qui entraîne des menaces réalistes pour la vie privée, la sécurité des biens et même la sécurité de l'État.

En outre, le ministère a averti que les attaques de phishing menées avec la technologie de l'IA étaient de plus en plus secrètes et sophistiquées. Les industries critiques sont vulnérables aux attaques de phishing trompeuses menées via IA. « Les agences de renseignement étrangères ont déjà utilisé la technologie de l'IA pour mener des attaques de phishing contre des entreprises et institutions clés de la Chine avec des méthodes de plus en plus diverses et complexes », a affirmé le ministère.

En outre, des recommandations personnalisées faites par la technologie de l'IA peuvent dissimuler des pièges d'information, a prévenu le ministère, expliquant qu'en analysant les habitudes des utilisateurs, les systèmes de recommandation d'IA peuvent créer des recommandations personnalisées qui forment des « bulles de filtrage » et des « chambres d'écho » qui influencent les pensées et les croyances des individus, piégeant les utilisateurs dans des cocons d'information. Les forces hostiles étrangères peuvent ainsi exploiter les systèmes de recommandation d'IA pour tromper l'opinion publique et procéder à une infiltration idéologique parmi les internautes chinois, selon le ministère.

En tant que nouvelle étape du développement technologique, la technologie de l'IA implique certains domaines qui restent inconnus du public. Elle pourrait être exploitée et la Chine doit donc être en état d'alerte maximale, a déclaré mardi au Global Times Li Wei, chercheur et expert en sécurité aux Instituts chinois des relations internationales contemporaines.