Envoyer [A A]

Un logiciel suscite des inquiétudes pour la vie privée des élèves

French.china.org.cn | Mis à jour le 05. 09. 2019 | Mots clés : vie privée,intelligence artificielle,reconnaissance faciale


Pour assurer la sécurité des élèves, les écoles et les parents utilisent de plus en plus l’intelligence artificielle (IA) pour la reconnaissance faciale ainsi que le positionnement pour leur surveillance. Une telle initiative suscite toutefois des préoccupations générales en matière de protection de la vie privée.

Une image a fait le tour des réseaux en ligne, montrant le logiciel Megvii en action dans une école, et qui surveillait et analysait le comportement d’adolescent en classe.

Le développeur a précisé que le logiciel est capable de détecter et d’analyser toutes sortes de mouvements du corps et du visage à l’école et en classe, du mouvement le plus apparent comme lever le doigt à l’évaluation plus subtile de l’attention en classe.

Megvii a publié lundi une déclaration, affirmant que la photo était simplement utilisée pour promouvoir ses produits, disant que ceux-ci veillaient à la sécurité des enfants.

La déclaration n’a pas impressionné tous les internautes chinois. « Le but est de faire en sorte que les élèves se concentrent sur les études et pas de les surveiller », a commenté un internaute.

En introduisant la technologie, l’établissement scolaire a voulu renforcer la sécurité et prévenir les brimades en cours de récréation, ce qui était une intention louable, a déclaré mercredi un spécialiste de l'IA, qui a requis l'anonymat, au Global Times. Mais sous l’influence des forces du marché, beaucoup de ces produits ont « mal tourné », a déclaré cette personne. Les entreprises technologiques jouent des coudes pour exploiter les fonctions de surveillance et de gestion des élèves en analysant en détail leur comportement en classe, a-t-elle noté, ce qui pourrait constituer une violation de la vie privée des élèves. « Bien que les entreprises prétendent que la technologie permet à l'école d’améliorer la qualité de l'enseignement et la sécurité des données, certaines n'ont pas réussi à garantir la confidentialité en raison d'obstacles techniques », précise-t-elle, disant que « ce n’est pas la technologie qui pose problème, mais la façon dont on l’utilise ». 

Si la technologie surveille les élèves et empiète sur leur vie privée, elle fausse également la relation entre les enseignants et les élèves, ont remarqué des experts.

Thepaper.cn, un portail d’information basé à Shanghai, a rapporté il y a deux semaines qu'une école primaire locale utilisait l'IA pour surveiller le comportement des élèves, notamment pour déterminer s'ils étaient attentifs ou s’ils saluaient les enseignants. L'établissement a fait savoir que cette information était « fausse » et que l’article avait par la suite été supprimé. 

L’école fait preuve de prudence à l’égard de l’utilisation de l’IA, a déclaré mercredi une enseignante au Global Times, qui a elle aussi requis l’anonymat pour cet établissement. L’école n’a jamais surveillé le comportement des élèves, ni violé leur vie privée, et ne le fera pas, a-t-elle ajouté, soulignant qu’elle utilisait l’IA pour renforcer la sécurité, fournir aux enseignants un meilleur soutien pédagogique et pour enseigner la gymnastique.

Des articles ont circulé début 2017 disant que de nombreuses écoles primaires et secondaires installaient des caméras de surveillance et qu’en téléchargeant une application, les parents pouvaient savoir ce que faisait l’enfant en classe.

L'année dernière, plus d’une dizaine d’écoles de la province du Guizhou et de la région autonome zhuang du Guangxi, dans le sud-ouest de la Chine, avaient installé des « uniformes intelligents » pour surveiller l’assiduité en classe et localiser les élèves.

Suivez China.org.cn sur Twitter et Facebook pour rejoindre la conversation.
Source:french.china.org.cn