Responsable dès la conception : comment exploiter l’IA générative sans risquer votre réputation

Presque tous les chefs d’entreprise aimeraient savoir comment profiter de l’intelligence artificielle (IA) générative pour accroître l’efficacité de leur entreprise et de leur personnel. Mais avant de vous lancer, comme pour toute innovation, il faut prendre le temps de comprendre ce qu’est l’IA générative, quels sont ses usages à encourager et à proscrire, et comment votre entreprise peut s’en servir de manière responsable pour créer de la valeur sans compromettre sa réputation.

Comprendre la valeur de l’IA générative et ses limites

L’IA générative ne peut pas résoudre tous les problèmes de votre entreprise, même là où l’IA s’avère utile. Elle a sa valeur, mais elle a aussi ses limites. L’IA générative est surtout efficace si vous cherchez à produire des résultats corrects dans les grandes lignes (par exemple une bonne première ébauche) plutôt que rigoureusement exacts. Elle peut aider dans certains processus comme celui des ventes : vous pourriez gagner beaucoup de temps en y recourant pour élaborer la première ébauche d’un plan de vente. Il vous suffirait ensuite de le modifier et de le compléter à partir de vos réflexions personnelles. Ou encore, vous pourriez utiliser l’IA générative pour répondre facilement aux questions de vos employés sur des politiques ou des procédures internes.

En revanche, l’IA générative ne conviendra pas si votre objectif est de produire des résultats vérifiables, comme le contenu d’un rapport financier. En effet, le fonctionnement de la plupart des solutions conçues par l’IA générative est une véritable boîte noire : il est impossible d’expliquer comment et pourquoi certaines informations spécifiques ont été produites. Pour ces cas d’utilisation, il est préférable de recourir à d’autres techniques d’IA (comme la forêt d’arbres décisionnels ou « random forests ») dont vous pourrez raisonnablement expliquer les décisions.

La plupart des modèles d’apprentissage machine conventionnels sont explicables parce que leurs variables sont suffisamment peu nombreuses pour que vous puissiez saisir et expliquer celles qui orientent le plus une décision. Dans le cas de l’apprentissage profond (la technique sur laquelle repose l’IA générative), les modèles peuvent compter des centaines de milliers de variables, ce qui les rend foncièrement impossibles à expliquer. Les grands modèles de langage utilisés par les applications d’IA générative ont également tendance à fonctionner comme des boîtes noires.

Comprendre les risques

La décision d’exploiter l’IA générative ne doit pas être considérée comme une décision ou un processus strictement technologique. Si vous prenez l’IA générative isolément, des questions importantes liées à l’éthique, au personnel et à la culture d’entreprise risquent de passer inaperçues. Bon nombre des risques associés à l’IA générative sont semblables aux risques liés à d’autres formes d’IA. L’IA générative est cependant exposée à quatre risques particuliers :

Risque lié à l’éthique : L’utilisation de données privées des clients ou des employés pour générer du contenu peut créer des dilemmes éthiques et compromettre votre réputation.
Risque lié à la confiance : Si vos sources de données ne sont pas fiables, robustes, exactes et objectives, les résultats générés pourraient poser problème et éroder la confiance de vos parties prenantes. Dans le cas de l’IA générative, l’utilisation de grands modèles de langage entraînés à partir d’ensembles de données qui ne sont pas largement disponibles pourrait créer un important risque lié à la confiance.
Risque d’illusion : L’IA générative peut facilement produire des résultats convaincants qui renforcent des points de vue particuliers pourtant erronés. Il s’agit d’un risque majeur si vous n’êtes pas au courant de cette possibilité et que vous considérez les résultats produits sans faire preuve d’esprit critique.
Risque lié aux utilisateurs : L’IA générative peut s’avérer précieuse, mais si vous n’indiquez pas à vos employés les cas où son utilisation est autorisée et ceux où elle est à proscrire, votre entreprise pourrait s’exposer à des risques réglementaires, juridiques et réputationnels.

Utilisation responsable de l’IA générative : par où commencer

Le meilleur moment pour adhérer aux pratiques de l’IA responsable, c’est tout de suite. En adoptant dès le départ une vision holistique et multidimensionnelle de l’IA générative, vous pourrez mieux définir les opportunités, comprendre les risques et renforcer ou établir les garde-fous nécessaires pour que votre entreprise soit prête à utiliser de manière responsable les outils d’IA générative. C’est ce que nous appelons l’IA responsable dès la conception.

À quoi ressemble concrètement l’IA responsable dès la conception? Nous décrivons ci-dessous les quatre piliers clés de notre cadre de l’IA responsable. Ils pourront servir de base pour l’établissement d’une approche responsable de l’IA générative dans votre entreprise. Nous présentons aussi des questions clés sur lesquelles vous pourrez vous pencher à mesure que vous avancerez dans votre démarche.

1. Stratégie

Définissez ce que l’utilisation éthique des données signifie pour votre entreprise (quelles données peuvent être utilisées et lesquelles ne doivent pas l’être) et intégrez cette définition dans votre stratégie d’IA générative. Veillez à ce que votre approche d’IA générative s’inscrive dans les valeurs de votre entreprise et respecte ses obligations réglementaires et de conformité, le cas échéant.

Questions clés

Comment utiliser l’IA générative dans notre entreprise pour créer de la valeur pour nos activités, nos clients ou nos employés tout en veillant de près à la confidentialité des données et à leur utilisation dans un cadre éthique?
Quels règlements actuels et à venir devons-nous connaître dès la conception de notre stratégie d’IA générative?

2. Contrôle

Analysez vos pratiques de gouvernance, de conformité et de gestion des risques dans le contexte de l’IA générative. Vous pourrez mieux évaluer les garde-fous déjà en place et ceux que vous devez établir ou renforcer pour que votre recours à l’IA générative se fasse de manière responsable et vous assurer que votre entreprise est dotée des contrôles nécessaires à l’atténuation des risques.

Questions clés

Quels contrôles avons-nous ou devons-nous établir pour gérer efficacement les risques liés à l’IA générative?
Notre stratégie d’IA générative respecte-t-elle nos politiques internes, la réglementation de notre secteur et les lois sur la protection de la vie privée?

3. Pratiques responsables

Élaborez des lignes directrices claires et transparentes encadrant l’utilisation de l’IA générative dans votre entreprise. Tenez compte de caractéristiques telles que l’explicabilité, la robustesse, l’impartialité, l’équité, l’originalité, la sécurité et la confidentialité.

Questions clés

Avons-nous établi des lignes directrices claires sur l’utilisation de l’IA générative?
De quelle formation nos employés ont-ils besoin pour utiliser l’IA générative de manière efficace et sûre?
Comment validerons-nous les résultats pour éviter les illusions ou la désinformation?

4. Pratiques de base

Si ce n’est pas déjà fait, établissez des pratiques de base globales sur lesquelles votre entreprise pourra s’appuyer pour évaluer les cas d’utilisation potentiels et déterminer le type d’IA à utiliser (IA générative ou apprentissage machine, par exemple) dans chaque cas. Ces pratiques de base devraient comporter des moyens de circonscrire les problèmes que vous essayez de résoudre, d’identifier les normes applicables et les pratiques exemplaires du secteur, d’évaluer et d’améliorer le rendement de l’IA et de surveiller les innovations, l’évolution des techniques et les modifications apportées à la réglementation (par exemple, le projet de loi C-27).

Questions clés

L’IA générative est-elle la meilleure option d’IA à utiliser dans le cas présent?
Comment allons-nous évaluer et améliorer notre modèle d’IA générative au fil du temps?
Comment surveillerons-nous les innovations, les risques, la réglementation et les tendances afin de nous y adapter?

Un outil dans votre boîte à outils d’IA

L’IA générative peut se révéler fantastique pour rendre votre entreprise plus efficace et plus efficiente, mais seulement si vous l’utilisez à bon escient et de manière responsable. Pour y arriver, vous devez concevoir votre approche d’IA générative de telle sorte qu’elle soit responsable dès le départ.