Les risques légaux inhérents au développement de l’IA

Le 18 octobre, lors de son rapport au XIX^e Congrès national du PCC, le secrétaire général Xi Jinping a indiqué que la Chine travaillerait à un rythme plus rapide pour faire du pays un producteur de produits de qualité, développer le secteur de la production manufacturière et promouvoir l’intégration de l’intelligence artificielle (IA) dans l’économie réelle.

Dans le rapport de travail gouvernemental de 2017 présenté en mars, le Premier ministre Li Keqiang a également déclaré que la Chine s’efforcerait de cultiver et développer rapidement les industries émergentes, notamment le secteur de l’IA.

Enfin, le Conseil des affaires d’Etat, c’est-à-dire le gouvernement populaire central, a proposé au mois de juillet un plan de développement pour une IA nouvelle génération, plaçant son développement au niveau de stratégie nationale. Le 13^e plan quinquennal (2016-2020) pour l’innovation nationale scientifique et technologique, ainsi que les industries nationales émergentes stratégiques, accorde également la priorité au développement de la technologie de l’IA.

En soutenant le développement de l’intelligence artificielle, la Chine a choisi la bonne approche pour saisir l’opportunité offerte par cette nouvelle révolution technologique et industrielle au niveau mondial, ainsi que la transition de son modèle de développement économique. La Chine doit s’efforcer de jouer un rôle de premier plan dans le développement de l’IA, ainsi que dans la mise en place de lois et de réglementations, si elle souhaite renforcer sa voix dans la gouvernance mondiale de la technologie d’innovation.

En tant que moteur technologique puissant de cette nouvelle ère, l’IA apportera des changements drastiques dans divers domaines sociaux. Elle redéfinira les activités socioéconomiques et finira par changer le mode de vie de la population, ainsi que les modèles de production.

Cependant, les incertitudes associées au développement de l’IA risquent de créer de nouveaux défis au système légal existant, voire de remettre en question les normes sociales et les lois. L’intelligence artificielle pourrait être la source de conflits institutionnels au sein du cadre légal, notamment en ce qui concerne la sujétion et les obligations civiles, la propriété intellectuelle et la sécurité routière. Cela pourrait avoir un impact négatif sur la sécurité économique, mais aussi sur la gestion et la stabilité sociales.

Le premier problème majeur est de savoir si une machine dotée d’intelligence artificielle a la capacité d’être traitée comme un sujet civil : devons-nous traiter celle-ci en tant que « machine » ou en tant qu’ « être humain » ?

Le 25 octobre, l’Arabie saoudite est devenue le premier pays au monde à accorder la citoyenneté à un robot humanoïde baptisé « Sophia ». Par ailleurs, la Commission des affaires juridiques du Parlement européen a proposé une résolution législative sur le droit civil des robots, afin d’accorder aux robots autonomes de pointe dotés d’intelligence artificielle le statut légal de « personne électronique ».

Ces tentatives remettent en cause le système traditionnel de sujétion civile.

Un robot est différent d’une personne naturelle. Peut-il avoir les mêmes droits légaux, les mêmes obligations et les mêmes responsabilités qu’un être humain, même en étant considéré comme un sujet civil ? Si une intelligence artificielle utilisée de manière spécifique – comme les voitures autonomes, les drones ou encore les robots soignants – est à l’origine d’un préjudice physique ou matériel envers un être humain lors de sa mission, quelle punition pourrait-elle recevoir ? Cette machine portera-t-elle seule l’entière responsabilité légale ? Son concepteur, son développeur, son propriétaire ou son utilisateur seront-ils tenus pour responsables ?

L’amélioration de la capacité d’apprentissage des humanoïdes dotés d’IA pourrait leur permettre de créer des œuvres littéraires ou artistiques de qualité, comme des compositions musicales. De tels produits seront-ils protégés par des droits sur la propriété intellectuelle ? Si oui, qui obtiendra ces droits ? Quelle sera la durée de ce type de protection par brevet ? Comment un humanoïde exercera-t-il ses droits ?

Ce type de problèmes légaux devront être résolus le plus rapidement possible, étant donné les avancées rapides du développement de l’IA. Celui-ci constitue un projet complexe lié au développement national. L’exploration de voies pour rédiger des lois et des réglementations sur l’intelligence artificielle n’est pas seulement une nécessité internationale, mais également une exigence pour le secteur des technologies innovantes de Chine.

C’est la raison pour laquelle la Chine doit porter une attention accrue aux risques, que pourrait potentiellement causer l’IA au cours de son processus de développement. En se basant sur les conditions nationales de la Chine et sur la réalité sociale, nous devons faire tous les préparatifs nécessaires en matière de lois et de réglementations, afin d’éviter les risques potentiels et d’assurer le développement sans risque, fiable et sous contrôle de l’intelligence artificielle.