L’entrée en vigueur de la loi européenne sur l’IA a des répercussions sur le développement, la mise à disposition et l’utilisation des systèmes d’IA. Les fournisseurs et les utilisateurs de systèmes d’IA doivent évaluer dans quelle mesure leurs systèmes et leurs pratiques sont concernés par la réglementation et prendre des mesures pour se conformer aux exigences. Les systèmes d’IA ayant pour objectif d’identifier ou de déduire les émotions ou les intentions de personnes physiques sur la base de leurs données biométriques – appelés « systèmes de reconnaissance des émotions » ou « systèmes d’IA émotionnelle » – sont soumis à certaines règles prévues par la loi sur l’IA.

L’article 5, point f), de la loi sur l’intelligence artificielle interdit certaines pratiques impliquant des systèmes de reconnaissance des émotions, précisant que ces systèmes ne sont pas autorisés « dans les lieux de travail et les établissements d’enseignement ».

L’offre de produits d’iMotions comprend des fonctionnalités qui exploitent des systèmes d’IA qui, selon iMotions, constituent un « système de reconnaissance des émotions » au sens de la définition donnée dans la loi sur l’IA. Les fonctionnalités concernées sont les suivantes :

Analyse des expressions faciales
Analyse vocale

Dans ce contexte, iMotions a, en collaboration avec ses fournisseurs des systèmes d’IA concernés, tenté d’évaluer l’applicabilité de l’interdiction prévue à l’article 5, point f), de la loi sur l’IA aux pratiques d’iMotions – et, par conséquent, à celles de ses clients. Il convient de noter que l’évaluation d’iMotions ne doit pas être considérée comme une orientation ou un conseil incitant à agir ou à s’abstenir d’agir. iMotions encourage chacun de ses clients à mener sa propre analyse et évaluation et se réjouit d’une discussion ouverte sur ces questions.

Interdiction dans l’enceinte des établissements d’enseignement

iMotions a analysé et évalué la portée de l’interdiction des systèmes de reconnaissance des émotions dans les établissements d’enseignement, dans la mesure où cela pourrait concerner les universités clientes d’iMotions.

En résumé, la position d’iMotions concernant le champ d’application de l’interdiction prévue à l’article 5, point f), est que les pratiques interdites se rapportent spécifiquement à l’éducation et au milieu éducatif – et ne visent pas à affecter les activités de recherche menées dans les universités. Bien qu’une université soit, par définition, couverte par le terme « établissement d’enseignement », le contexte et l’objectif de l’interdiction, tels qu’ils sont expliqués plus en détail au considérant 44, constituent un élément qui conduit iMotions à considérer que les activités de recherche utilisant des systèmes de reconnaissance des émotions ne sont pas couvertes par l’interdiction, même si les sujets testés sont des étudiants de cet établissement d’enseignement. Dans ces situations, les étudiants ne sont pas analysés en leur qualité et dans leur rôle d’étudiants.

Extrait du considérant 44 :

Compte tenu du déséquilibre des pouvoirs dans le contexte professionnel ou éducatif, associé au caractère intrusif de ces systèmes, ceux-ci pourraient conduire à un traitement préjudiciable ou défavorable de certaines personnes physiques ou de groupes entiers de celles-ci. Par conséquent, la mise sur le marché, la mise en service ou l’utilisation de systèmes d’IA destinés à détecter l’état émotionnel des individus dans des situations liées au milieu professionnel et à l’éducation devraient être interdites.

Cela dit, iMotions estime que toute activité de recherche potentielle impliquant des élèves dans un contexte éducatif (cours, contrôles, examens, etc.) pourrait relever de cette interdiction. Étant donné que la loi sur l’IA ne prévoit pas d’exception générale pour la recherche, il convient d’éviter ce cas d’utilisation particulier impliquant des élèves dans un contexte éducatif jusqu’à ce que des orientations supplémentaires soient fournies concernant l’applicabilité de l’interdiction prévue à l’article 5, point f).

Interdiction sur le lieu de travail

iMotions a analysé et évalué la portée de l’interdiction des systèmes de reconnaissance des émotions dans le milieu professionnel, dans la mesure où ses clients issus du monde de l’entreprise et du milieu universitaire pourraient être concernés.

Étant donné que les produits d’iMotions sont destinés à la recherche, les cas d’utilisation pris en compte dans l’évaluation se limitent aux études menées sur le lieu de travail et impliquant des groupes composés d’employés, de candidats à l’embauche ou de participants recrutés en externe, par exemple des membres d’un panel. Toute utilisation à des fins autres que la recherche a été exclue de l’évaluation d’iMotions.

En résumé, la position d’iMotions concernant le champ d’application de l’interdiction prévue à l’article 5, point f), en ce qui concerne les lieux de travail, est que les pratiques interdites n’englobent raisonnablement pas les activités de recherche menées au sein du département de recherche d’une entreprise, même si les sujets testés sont engagés dans le cadre d’un contrat de travail. Dans ces situations, les employés ne font pas l’objet d’une analyse en leur qualité et dans le cadre de leur rôle d’employés.

Cela dit, iMotions reconnaît que l’utilisation de l’IA émotionnelle dans un contexte professionnel nécessitera une analyse et une évaluation approfondies des risques, tant au regard des dispositions de la loi sur l’IA que d’autres réglementations pertinentes telles que le RGPD, etc.

___________

Que la recherche soit menée dans un établissement d’enseignement ou dans tout autre type d’institution, les participants doivent être informés de l’objectif de la collecte de données et des modalités de leur traitement, et y donner leur consentement.

iMotions fournit ces informations dans un souci de transparence concernant son analyse et son évaluation de l’impact de la réglementation sur les pratiques d’IA interdites sur certains cas d’utilisation et certains clients. iMotions tient à souligner que la présente déclaration ne doit en aucun cas être considérée comme une recommandation ou un conseil incitant à agir ou à s’abstenir d’agir. iMotions encourage chacun de ses clients à mener sa propre analyse et évaluation et se réjouit de toute discussion ouverte sur ces questions.

Remarque : depuis la rédaction de cette déclaration par iMotions, la Commission européenne a publié, le 4 février 2025, des lignes directrices concernant les pratiques interdites visées à l’article 5. iMotions examinera cette déclaration et pourra la mettre à jour en fonction des lignes directrices de la Commission. iMotions encourage ses clients à prendre connaissance de ces lignes directrices.