Lors de l'interaction
avec des systèmes d'IA
Recherche d’informations
AI 29
Savoir comment formuler des requêtes de recherche pour obtenir le résultat souhaité lors de l’interaction avec des agents conversationnels ou des haut-parleurs intelligents (par exemple, Siri, Alexa, Cortana, Google Assistant), par exemple en reconnaissant que, pour que le système puisse répondre comme requis, la requête doit être sans ambiguïté et parlée clairement pour que le système puisse réagir. (Compétence 1.1)
AI 30
Capable de reconnaître que certains algorithmes d’IA peuvent renforcer les points de vue existants dans les environnements numériques en créant des « chambres d’écho » ou des « bulles de filtres » (par exemple, si un flux de médias sociaux favorise une idéologie politique particulière, des recommandations supplémentaires peuvent renforcer cette idéologie sans l’exposer à des arguments opposés). (Compétence 1.2)
AI 31
évalue les avantages et les inconvénients de l’utilisation de moteurs de recherche axés sur l’IA (par exemple, bien qu’ils puissent aider les utilisateurs à trouver les informations souhaitées, ils peuvent compromettre la vie privée et les données personnelles, ou le sujet l’utilisateur à des intérêts commerciaux). (Compétence 1.1)
Utilisations de systèmes et d'applications d'IA
AI 32
Ouvert aux systèmes d’IA aidant les humains à prendre des décisions éclairées conformément à leurs objectifs (par exemple, les utilisateurs décident activement de donner suite à une recommandation ou non). (Compétence 2.1)
AI 33
Capable d’interagir et de donner des commentaires au système d’IA (par exemple, en donnant des évaluations aux utilisateurs, des likes, des tags au contenu en ligne) pour influencer ce qu’il recommande ensuite (par exemple, pour obtenir plus de recommandations sur des films similaires que l’utilisateur a précédemment aimés. (Compétence 2.1)
AI 34
Sait que parfois ne pas réagir au contenu proposé par un système d’IA (par exemple sur un flux d’activité ) peut aussi être pris comme un signal par le système (par exemple une indication que l’utilisateur n’est pas intéressé par ce contenu particulier). (Compétence 2.1)
AI 35
Savoir comment modifier les configurations utilisateur (par exemple, dans les applications, les logiciels, les plateformes numériques) pour activer, empêcher ou modérer le suivi du système d’IA, la collecte ou l’analyse de données (par exemple, ne pas permettre au téléphone mobile de suivre l’emplacement de l’utilisateur). (Compétence 2.6)
AI 36
Savoir comment et quand utiliser des solutions de traduction automatique (par exemple, Google Translate, DeepL) et des applications d’interprétation simultanée (par exemple, iTranslate) pour obtenir une compréhension approximative d’un document ou d’une conversation. Cependant, sait également que lorsque le contenu nécessite une traduction précise (par exemple dans les domaines de la santé, du commerce ou de la diplomatie), une traduction plus précise peut être nécessaire. (Compétence 5.2)
AI 37
Conscients que la technologie vocale pilotée par l’IA permet l’utilisation de commandes vocales qui peuvent améliorer l’accessibilité des outils et appareils numériques (par exemple, pour les personnes ayant une mobilité ou des limitations visuelles, une cognition limitée, des difficultés linguistiques ou d’apprentissage), cependant, les langues parlées par des populations plus petites ne sont souvent pas disponibles, ou moins performantes, en raison de la priorisation commerciale. (Compétence 5.2)
AI 38
Savoir incorporer du contenu numérique édité/manipulé par l’IA dans son propre travail (par exemple, incorporer des mélodies générées par l’IA dans sa propre comédie musicale composition). Cette utilisation de l’IA peut être controversée car elle soulève des questions sur le rôle de l’IA dans les œuvres d’art et, par exemple, sur qui devrait être crédité. (Compétence 3.2)
Mettre l'accent sur la vie privée et les données personnelles
AI 39
Sait que le traitement des données personnelles est soumis à des réglementations locales telles que le Règlement général sur la protection des données (RGPD) de l’UE (par exemple, . Les interactions vocales avec un assistant virtuel sont des données personnelles au sens du RGPD et peuvent exposer les utilisateurs à certains risques en matière de protection des données, de confidentialité et de sécurité. (Compétence 4.2)
AI 40
Évalue les avantages et les risques de l’utilisation de techniques d’identification biométrique (p. ex. empreintes digitales, images faciales), car elles peuvent avoir une incidence non intentionnelle sur la sécurité. Si des informations biométriques sont divulguées ou piratées, elles sont compromises et peuvent conduire à une fraude d’identité. (Compétence 4.1)
AI 41
Conscients que les systèmes d’IA qui s’appuient sur les données personnelles des utilisateurs (par exemple, les assistants vocaux, les chatbots) peuvent collecter et traiter ces données plus que nécessaire. Cela serait considéré comme « disproportionné » et violerait donc le principe de proportionnalité spécifié par le RGPD. (Compétence 4.2)
AI 42
Évalue les avantages et les risques avant d’activer un assistant virtuel (par exemple, Siri, Alexa, Cortana, Google Assistant) ou des appareils Internet des objets (IoT) pilotés par l’IA, car ils peuvent exposer des routines quotidiennes personnelles et des conversations privées. (Compétence 2.6)
AI 43
évalue les avantages et les risques avant d’autoriser des tiers à traiter des données à caractère personnel (par exemple, reconnaît qu’un assistant vocal sur un smartphone, qui est utilisé pour donner des commandes à un robot aspirateur, pourrait donner à des tiers - entreprises, gouvernements, cybercriminels - accès aux données). (Compétence 4.2)
AI 44
Identifie les implications positives et négatives de l’utilisation de toutes les données (collecte, encodage et traitement), mais surtout des données personnelles, par les technologies numériques basées sur l’IA telles que les applications et les services en ligne. (Compétence 2.6)
AI 45
Conscient que tout ce que l’on partage publiquement en ligne (par exemple, images, vidéos, sons) peut être utilisé pour former des systèmes d’IA. Par exemple, les éditeurs de logiciels commerciaux qui développent des systèmes de reconnaissance faciale IA peuvent utiliser des images personnelles partagées en ligne (par exemple, des photos de famille) pour former et améliorer la capacité du logiciel à reconnaître ces personnes dans d’autres images, ce qui pourrait ne pas être souhaitable (par exemple, pourrait constituer une violation de la vie privée). (Compétence 2.2)
AI 46
Conscient qu’un système d’IA peut relier différents éléments d’information apparemment anonymes, ce qui peut conduire à la désanonymisation (c.-à-d. l’identification d’une personne en particulier). (Compétence 2.6)
AI 47
Peut aider à atténuer les risques de violation de données personnelles en exprimant des préoccupations aux autorités compétentes concernant l’utilisation de systèmes d’IA qui collectent des données, en particulier s’il y a un soupçon de violation du RGPD ou lorsque l’entreprise ne rend pas les informations disponibles. (Compétence 4.2)