Avis du groupe spécial d’experts externes sur l’IA générative

L’objectif premier du groupe d’experts est d’offrir des conseils généraux visant à aider les organismes fédéraux canadiens de financement de la recherche à comprendre le contexte et les conséquences de l’utilisation de l’intelligence artificielle (IA) générative dans le financement de la recherche qui présente un intérêt pour la société.

Le groupe d’experts est conscient des grandes questions de société entourant la création et l’utilisation de l’IA générative telle qu’elle existe en 2023, qui vont de la contribution aux changements climatiques à l’entretien des préjugés.

Nous respectons l’engagement des organismes de financement en faveur de l’impartialité, de la transparence et de l’équité dans l’utilisation des outils d’IA.

Définition de l’IA générative

Le présent avis repose sur une définition pratique de ce qu’on entend par « IA générative ».

Le groupe d’experts reconnaît que les bailleurs de fonds de la fonction publique fédérale peuvent être liés par des définitions intra-muros de l’IA générative^{Note de bas de page 1} et que les projets de loi en voie d’être adoptés (p. ex. le projet de loi C-27) et les cadres de réglementation connexes peuvent introduire des définitions qui lient l’ensemble des bailleurs de fonds canadiens.

Aux fins du présent document, le groupe de travail définit l’IA générative comme étant tout système présentant les quatre caractéristiques suivantes :

• utilise une interface simple, souvent conversationnelle, permettant à de nombreux non‑initiés d’utiliser la puissance du système;
• permet, par sa nature, des processus de conception et d’amélioration itératifs;
• permet l’accès à des renseignements extraits d’énormes^{Note de bas de page 2} quantités de données, par des systèmes utilisant d’énormes quantités de calculs;
• les données de sortie atteignent un niveau de complexité tel que les non-initiés peuvent croire à tort que les résultats ont été produits par l’humain.

Suggestions concernant le rôle de l’IA générative dans la préparation des demandes de subvention

Le groupe d’experts reconnaît qu’une interdiction générale de l’utilisation de l’IA générative dans la rédaction des demandes de subvention serait peu pratique et au bout du compte irréalisable. Les recommandations qui suivent sont formulées dans le plus grand respect du candidat, de son jugement et de son honnêteté. Cette autonomie s’accompagne d’une responsabilité.

Nous recommandons aux organismes de financement de formuler des attentes claires à l’égard des candidats. Par exemple :

• Le candidat désigné est responsable, en dernier ressort, du contenu intégral de la demande.
• Le candidat doit « bien réfléchir à la problématique fondamentale », ce qui comprend l’élaboration des méthodologies et des questions principales.
• Le candidat doit définir le cadre de son travail dans le contexte général de son domaine et du projet de recherche dans son ensemble.
• Le candidat devrait être tenu d’indiquer s’il a utilisé l’IA générative dans le cadre de la rédaction de la proposition. Selon le groupe d’experts, la description exacte des éléments à communiquer est un paramètre qui doit être examiné; il propose toutefois une simple déclaration binaire pour commencer : le candidat devrait être invité à déclarer (oui/non) s’il a eu recours à l’IA générative, à quelque fin que ce soit, dans le cadre de la préparation de la demande de subvention^{Note de bas de page 3}. Le groupe recommande que cette approche soit revue au moins une fois par année.
  • Il faudra également informer les candidats de la raison pour laquelle la question est posée, garantir que la réponse ne nuira en rien à l’évaluation de la demande et préciser si les évaluateurs et les membres du comité auront accès à l’information.
• Le groupe propose également que les bailleurs de fonds examinent l’intérêt de recueillir des données supplémentaires sur l’utilisation de l’IA dans la rédaction des demandes de subvention (p. ex. l’IA a-t-elle servi uniquement à la révision de la proposition? A-t-elle été utilisée pour la recherche d’idées?). Ces données pourraient être recueillies dans le formulaire de demande ou dans un questionnaire de suivi distinct; le groupe reconnaît que ces décisions comportent de nombreux avantages et inconvénients complexes, et qu’il vaut mieux laisser les organismes de financement les prendre.

Suggestions concernant le rôle de l’IA générative dans l’évaluation des demandes de subvention

Le groupe d’experts indique que tous les autres organismes de financement qui ont adopté une politique en la matière ont opté pour une interdiction pure et simple (bien qu’ils soient encore peu nombreux à ce stade-ci). Nous pensons qu’une approche plus nuancée mérite d’être envisagée, compte tenu du défi que représente l’application d’une interdiction et des possibilités d’améliorations à l’échelle du système.

La principale préoccupation à l’étape de l’examen concerne la protection de la vie privée, la confidentialité et la sécurité des données. Les outils d’IA générative basés sur l’infonuagique nécessitent la transmission du contenu de l’application à l’outil, ce qui entraîne souvent la perte de la propriété intellectuelle. Afin de respecter les droits de propriété intellectuelle des candidats, conformément aux pratiques établies, le groupe d’experts recommande aux bailleurs de fonds d’interdire aux évaluateurs le recours non autorisé à l’IA générative dans le cadre de l’évaluation des demandes. Cette recommandation est formulée à la lumière des limites technologiques actuelles, mais pourrait être revue dans le cas où un produit d’IA générative se trouverait sur un système détenu par le bailleur de fonds et soumis aux mêmes politiques et accords que les autres systèmes informatiques de celui-ci. Le groupe reconnaît que la mise au point et le déploiement d’une infrastructure interne d’hébergement de l’IA^{Note de bas de page 4} sont une entreprise extrêmement complexe, mais il estime néanmoins qu’il serait utile d’envisager cette possibilité dans l’avenir.

Même dans un contexte où l’infrastructure est sécurisée, privée et hébergée par le bailleur de fonds, davantage de données sont nécessaires pour prendre des décisions éclairées. Nous invitons les organismes de financement à allouer des ressources à l’expérimentation, y compris aux essais contrôlés randomisés, et à l’élaboration minutieuse de politiques. Nous constatons également que l’utilisation de l’IA générative à l’étape précédant l’examen (p. ex. utiliser GPT-4 pour trouver des évaluateurs qualifiés sans recourir à la méthode traditionnelle, et très partiale, consistant à toujours demander aux mêmes personnes) pourrait être étudiée comme possibilité moins risquée, mais pouvant tout de même avoir une incidence considérable.

Le groupe croit fermement que les organismes de financement devront reconnaître les différences de culture, d’attentes et de contenu des demandes de subvention entre les disciplines. Nous pensons que le meilleur moyen de gérer cette hétérogénéité est de déléguer autant que possible les pouvoirs et de suivre les conseils avisés des groupes d’experts et des évaluateurs.

Information sur la partialité et l’utilisation responsable de l’IA

Selon le groupe d’experts, les bailleurs de fonds pourraient jouer un rôle dans l’élaboration d’un outil de formation sur la partialité et l’utilisation responsable de l’IA à l’intention des candidats (et peut-être des évaluateurs). Le fait de mettre l’accent sur l’utilisation responsable et efficace de l’IA dans la préparation des demandes de subvention permettrait également de créer des conditions plus équitables pour les candidats, qui n’ont pas tous la même expérience des technologies de l’IA générative.

Conduite responsable de la recherche

Le groupe d’experts a constaté bien des points communs entre ses discussions et les mandats canadiens liés à la conduite responsable de la recherche. Il serait reconnaissant de pouvoir discuter plus avant avec le Secrétariat sur la conduite responsable de la recherche (SCRR) pour favoriser l’harmonisation entre les organismes et le SCRR sur la question.

Conclusions

Le groupe d’experts recommande aux organismes fédéraux de financement de la recherche d’imprimer un rythme élevé pour l’examen des politiques et des pratiques liées à l’IA générative. Il s’agit d’un domaine qui évolue rapidement et les capacités des prochains systèmes pourraient bousculer les hypothèses qui sous-tendent les meilleurs conseils d’aujourd’hui.

Le groupe d’experts propose que les bailleurs de fonds continuent de tirer parti des groupes consultatifs spéciaux, composés d’un ensemble diversifié d’experts, pour obtenir des informations et des orientations opportunes, mais informelles.

Vous trouverez de plus amples renseignements sur la composition du groupe spécial ici.