Éléments clés du la culture de l'IA dans votre établissement

À une époque où l'information est abondamment générée et diffusée, l'essor de l'intelligence artificielle (IA) a considérablement transformé la manière dont nous accédons à l'information et interagissons avec elle. Toutefois, à mesure que la dépendance à l'égard du contenu généré par l'IA s'accroît, la question cruciale de la confiance des utilisateurs dans l'authenticité et la crédibilité des informations générées par l'IA se pose avec acuité. Le contenu généré par l'IA présente souvent aux utilisateurs un réseau complexe d'informations dans lequel il peut être difficile de naviguer.

En outre, l'opacité des algorithmes d'IA et le manque de transparence des processus décisionnels peuvent susciter le scepticisme et le doute chez les utilisateurs. Quelle est la fiabilité des informations produites par l'IA ? Quels sont les cadres permettant d'évaluer la crédibilité des technologies de l'IA ?

Dans ce contexte, les documentalistes, réputés pour leur expertise en matière de conservation, de vérification et de diffusion de l'information, sont particulièrement bien placés pour combler le fossé entre les utilisateurs et l'information générée par l'IA. Les documentalistes peuvent servir d'interprètes et de médiateurs, en facilitant une meilleure compréhension des subtilités des technologies de l'IA et de leur impact sur la recherche d'informations. Les documentalistespeuvent également renforcer la confiance des utilisateurs en soutenant la formation à l'IA et en plaidant pour la transparence des systèmes d'IA.

Éduquer les utilisateurs : L'éducation à l'IA sur les campus

Pour commencer à évaluer l'IA, les utilisateurs doivent d'abord la comprendre ou se familiariser avec elle. La maîtrise de l'IA consiste à connaître, comprendre, utiliser et évaluer l'IA, ainsi qu'à prendre en compte les questions éthiques (Ng, et al, 2021). Les personnes compétentes en matière d'IA comprennent également les concepts fondamentaux de l'IA tels que l'apprentissage automatique, le traitement du langage naturel et les réseaux neuronaux. Afin de doter les étudiants, les chercheurs et les enseignants des compétences nécessaires pour naviguer dans ce paysage complexe, les bibliothèques doivent donner la priorité au développement de ressources de formation qui permettent aux individus d'examiner minutieusement les informations fournies par les applications de l'IA. Lorsque les utilisateurs des bibliothèques comprennent les capacités et les freins de l'IA, ils peuvent évaluer correctement les outils et les ressources basés sur l'IA.

Le test ROBOT

Une ressource particulièrement utile est connue sous le nom de test ROBOT (Wheatley et Hervieux, 2020). Il a été développé par deux documentalistes de l'Université McGill, Amanda Wheatley et Sandy Hervieux, afin d'offrir un cadre structuré permettant aux personnes qui ne connaissent pas l'IA d'évaluer les nouvelles informations relatives à la technologie de l'IA.

ROBOT, acronyme de reliability, objective, bias, ownership, and type( fiabilité, objectif, partialité, propriétéet type), définit des critères clés pour l'évaluation des informations sur les outils d'IA. Chaque mot de l'acronyme comprend une série de questions qui guident les utilisateurs dans un processus d'évaluation complet. Par exemple, pour discerner le type d'outil d'intelligence artificielle, les utilisateurs peuvent poser des questions comme celles-ci :

• ●

  À quelle catégorie spécifique d'IA appartient-elle ?

• ●

  La technologie relève-t-elle davantage d'un concept ou d'une utilisation pratique ?

• ●

  De quel type de système d'information dépend-il ?

• ●

  Nécessite-t-il une implication humaine ?

Une présentation complète du test ROBOT et des questions qu'il invite l'utilisateur à poser est disponible sur le site AI Literacy de la bibliothèque de McGill(S'ouvre dans une nouvelle fenêtre)(S’ouvre dans une nouvelle fenêtre).

Évaluation et développement de l'explicabilité

Cependant, la nature complexe des systèmes d'IA pose souvent un problème lors des dialogues entre les développeurs et les utilisateurs finaux. Les personnes non spécialisées, en particulier, peuvent éprouver des difficultés à formuler efficacement leurs demandes, même lorsqu'elles ont la possibilité de demander des explications. Après tout, vous ne savez pas ce que vous ne savez pas. Si vous ne connaissez pas bien le sujet, il est difficile de prévoir les questions appropriées. Cela souligne la nécessité pour les utilisateurs de se familiariser avec les concepts de base de l'IA avant d'évaluer les systèmes d'IA plus complexes.

Dans les deux sections suivantes, nous présentons les types d'explications et les éléments clés de l'explicabilité, ainsi que des questions exemplaires destinées à guider les utilisateurs dans leur exploration et leur évaluation des systèmes d'IA.

Types d'explications des systèmes d'IA

L'explication commence par la compréhension des capacités des systèmes d'apprentissage automatique (Cabitza et al, 2023). Il s'agit notamment de reconnaître ce que ces systèmes peuvent ou ne peuvent pas offrir aux utilisateurs et de reconnaître les domaines dans lesquels les décideurs humains doivent encore faire preuve d'interprétation et de jugement.

Les utilisateurs peuvent alors commencer à examiner la fonctionnalité du système d'IA, ses résultats et bien d'autres choses encore. Dans un article récent, Cabitza et al. ont présenté une vue d'ensemble complète identifiant les différents types d'explications des systèmes d'IA et les critères d'évaluation de leur qualité (2023). Ils ont proposé les questions clés suivantes dans la recherche d'explications pour les systèmes d'IA : "

• ●

  Explication computationnelle : Comment l'algorithme A produit-il une sortie O quelconque ?

• ●

  Explication mécaniste : Pourquoi l'algorithme A a-t-il produit la sortie O ?

• ●

  Explication justificative : Pourquoi la sortie O est-elle correcte ?

• ●

  Explication causale : Quel est le phénomène physique à l'origine de O ?

• ●

  Explication informative : Que signifie la sortie O ?

• ●

  Explication de prudence : Quelle est l'incertitude qui se cache derrière la sortie O ?"

En parcourant ces différents domaines d'explication, les utilisateurs peuvent commencer à démystifier la "boîte noire" d'un système d'IA et gagner en confiance dans l'utilisation des systèmes d'IA en tant qu'outils pour naviguer dans leurs recherches ou leurs travaux de cours.

Les éléments clés de l'explicabilité

Qu'est-ce qui constitue une bonne explication de l'IA ? Pour aider à établir les critères d'explication des systèmes d'IA, Balasubramaniam et ses collègues (2023) ont proposé un cadre décrivant les composantes clés de l'explicabilité. Ce modèle sert de guide aux praticiens, les aidant à déterminer les exigences spécifiques en matière d'explicabilité en répondant à des questions cruciales :

• ●

  Destinataires (demandez-vous à qui l'explicateur tente d'expliquer ?)

• ●

  Aspects (Que faut-il expliquer ?)

• ●

  Contexte (quelles sont les situations contextuelles nécessitant une explication ?)

• ●

  Explicatif (Qui explique ? )

Encouragez les utilisateurs à chercher des réponses à chacun de ces éléments lorsqu'ils posent des questions pour expliquer les systèmes d'IA.

Les documentalistes peuvent renforcer la confiance dans les technologies d'IA

En s'engageant activement dans des initiatives de formation à l'IA, les documentalistes peuvent jouer un rôle déterminant pour permettre aux utilisateurs de prendre des décisions éclairées sur la crédibilité des informations générées par l'IA. Grâce à leur expertise en matière de maîtrise de l'information et à leur engagement à promouvoir des pratiques d'information transparentes et éthiques, les b documentalistes peuvent inspirer un sentiment de confiance dans la fiabilité des technologies de l'IA.

Pour favoriser la confiance des utilisateurs dans les technologies d'IA, la collaboration entre les documentalistes, les développeurs d'IA et les décideurs politiques est essentielle. L'établissement d'une approche multidisciplinaire qui donne la priorité à la transparence, à l'éducation et aux considérations éthiques peut ouvrir la voie à un écosystème de l'IA plus fiable et plus responsable. Les documentalistes sont indispensables pour façonner un avenir où l'information générée par l'IA est non seulement abondante, mais aussi crédible, fiable et accessible à tous.

BIBLIOGRAPHIE

Abedin, B., Meske, C., Rabhi, F. et Klier, M. (2023). Introduction au minitrack sur l'intelligence artificielle explicable (XAI).

Balasubramaniam, N., Kauppinen, M., Rannisto, A., Hiekkanen, K. et Kujala, S. (2023). Transparence et explicabilité des systèmes d'IA : Des lignes directrices éthiques aux exigences.information and Software Technology,159, 107197.

Borrego-Díaz, J., et Galán-Páez, J. (2022). L'intelligence artificielle explicable en science des données : From Foundational Issues Towards Socio-technical Considerations.minds and Machines,32(3), 485-531.

Buijsman, S. (2022). Définir l'explication et la profondeur explicative dans l'IAO.minds and Machines,32(3), 563-584.

Cabitza, F., Campagner, A., Malgieri, G., Natali, C., Schneeberger, D., Stoeger, K., & Holzinger, A. (2023). Quod erat demonstrandum?-Towards a typology of the concept of explanation for the design of explainable AI (Vers une typologie du concept d'explication pour la conception d'une IA explicable).expert Systems with Applications,213, 118888.

Kangra, K. et Singh, J. (2022). Intelligence artificielle explicable : Concepts et progrès actuels. DansExplainable Edge AI : A Futuristic Computing Perspective(pp. 1-17). Cham : Springer International Publishing.

Kasinidou, M. (2023, juin). L'alphabétisation AI pour tous : Une approche participative. InProceedings of the 2023 Conference on Innovation and Technology in Computer Science Education V. 2(pp. 607-608). https://doi.org/10.1145/3587103.3594135(S'ouvre dans une nouvelle fenêtre)(S’ouvre dans une nouvelle fenêtre)

Kong, S. C., Cheung, W. M. Y. et Zhang, G. (2022). Évaluation des cours d'initiation à l'intelligence artificielle pour favoriser l'apprentissage conceptuel, l'alphabétisation et l'autonomisation des étudiants universitaires : Recentrage sur la construction conceptuelle. Computers in Human Behavior Reports, 7, 100223. https://doi.org/10.1016/j.chbr.2022.100223(S'ouvre dans une nouvelle fenêtre)(S’ouvre dans une nouvelle fenêtre)

Nagahisarchoghaei, M., Nur, N., Cummins, L., Nur, N., Karimi, M. M., Nandanwar, S., ... & Rahimi, S. (2023). Enquête empirique sur les technologies de l'intelligence artificielle explicable : Recent trends, use-cases, and categories from technical and application perspectives.electronics,12(5), 1092.

Ng, D. T. K., Leung, J. K. L., Chu, K. W. S. et Qiao, M. S. (2021). Connaissance de l'IA : Définition, enseignement, évaluation et questions éthiques.proceedings of the Association for Information Science and Technology,58(1), 504-509. https://doi.org/10.1002/pra2.487(S'ouvre dans une nouvelle fenêtre)(S’ouvre dans une nouvelle fenêtre)

Hervieux, S. et Wheatley, A. (2020). Le test ROBOT [Outil d'évaluation]. The LibrAIry. https://thelibrairy.wordpress.com/2020/03/11/the-robot-test(S'ouvre dans une nouvelle fenêtre)(S’ouvre dans une nouvelle fenêtre)

Quakulinski, L., Koumpis, A. et Beyan, O. D. (2023). Transparence dans les systèmes d'intelligence artificielle médicale.international Journal of Semantic Computing.