Vers une IA Responsable avec Olivier Blais, VP Science Décision chez MoovAI

Automatic transcript of the recording (French); speaker labels are automatic. Timestamps open YouTube at that moment.

0:00Sacha: Salut Olivier. Alors Olivier aujourd’hui c’est le cofondateur et vice président de la science décisionnelle chez MoovAI. Tu es reconnu comme un un des leaders dans le déploiement des s solutions d’intelligence artificielle au Québec. Tu as également joué un rôle en que rédacteur de la norme internationale ISO définissant la qualité des s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s’s� Tu crois également fermement que l'IA peut autonomiser les humains et tu es toujours à la recherche des nouvelles solutions pour aider les entreprises à atteindre leurs objectifs. Et c'est vraiment un plaisir de t'avoir avec moi aujourd'hui, Olivier, bienvenue.

0:43Guest: Merci, Colin. Je ne vais pas passer ma tête. Ma tête ne va pas passer n'importe.

0:48Sacha: Et avant de commencer, Olivier, j'aimerais beaucoup savoir comment est-ce que tu te présenterais. C'est qui, Olivier Blais?

0:55Guest: Aïe, aïe, aïe. Honnêtement, je ne sais pas comment je me suis rendu là, mais j'ai tout le temps fait les affaires qui me faisaient triper. J'ai tout le temps trippé sur la donnée. Puis je sais que ce n'est pas populaire. Souvent, les gens disent « c'est quoi que tu aimes dans la vie? » J'adore ce que je fais. J'adore ce que je fais. Je pense tout le temps. J'aime beaucoup exploiter la donnée. J'utilise justement VP, sciences décisionnelles, sciences de la décision. C'est parce qu'on n'est pas bon pour prendre des bonnes décisions dans la vie. Et moi, je me suis tout le temps mis comme mission d'aider les gens, puis de m'aider moi-même à prendre les meilleures décisions. Puis de fil en aiguille, je me suis rendu ce que je suis en ce moment parce que j'ai suivi mes instincts. Je suis quelqu'un qui écoute beaucoup mon instinct, qui croit au karma aussi, dans le sens que quand tu donnes beaucoup, tu finis par avoir des opportunités par rapport à ça. Donc, de fil en aiguille, je me suis retrouvé où je suis.

1:57Puis j'ai un gars qui trippe sur ce que je fais et sur la science des données, au bout du compte.

2:03Sacha: Et tu viens d'en parler un petit peu, mais ça m'intéresserait de savoir pourquoi est-ce que l'intelligence artificielle, ça t'intéresse, ça passionne autant?

2:10Guest: Oui, en fait, l'intelligence artificielle, c'est un outil, dans ton coffre à outils. En fait, moi, j'ai étudié en intelligence d'affaires initialement. En fait, même avant ça, j'ai étudié en administration des affaires. Et quand j'ai débuté sur le marché du travail, je voyais qu'on avait tendance souvent à prendre des raccourcissements cognitifs. Souvent, on ne se posait pas vraiment des questions. On n'exploitait pas beaucoup la donnée pour être capable de pouvoir identifier c'est quoi la meilleure solution, la meilleure stratégie à employer. Et ça me faisait un peu, ça me rendait fou qu'on avait de la donnée qui aurait vraiment pu être utile pour nous. Puis qu'à la place, on utilisait des biais, on utilisait les mêmes stratégies qui fonctionnaient dans le temps, sans nécessairement se poser davantage de questions. Donc, c'est là que j'ai commencé à réfléchir comment qu'on peut mieux exploiter la donnée. Là, j'ai étudié en intelligence d'affaires. Et même avec des dashboards, avec des analyses, du storytelling, c'était encore difficile d'arriver à nos fins.

3:14Puis c'est là que j'ai fini par avoir un concept un petit peu plus profond qui démontrait qu'il y a beaucoup de décisions qu'on ne devrait pas prendre. On prend tellement des décisions qui sont très tactiques puis qui ont très peu de valeur ajoutée. Et de l'autre côté, on prend des décisions qui sont tellement grosses sans être bien accompagné. Puis je me disais, bien, il doit exister des façons de pouvoir automatiser certaines décisions hyper tactiques, puis de pouvoir se faire accompagner, puis de pouvoir avoir davantage d'outils pour ces grosses décisions hyper stratégiques. Et c'est là que j'ai vu, moi, l'intelligence artificielle comme une belle avenue. Justement, pour rendre ça une réalité parce que ça a pris beaucoup de temps. Et là, on commence à le voir, justement. L'IA Générative étant, justement, un copilote fantastique pour nous aider à mieux se faire accompagner dans des décisions qui sont plus grosses, puis aussi en étant capable de pouvoir automatiser beaucoup de création de contenu, par exemple. Donc ça, c'est un bel outil. Il y en existe tout plein d'outils de la sorte qui permettent exactement de faire une des deux tâches que moi, j'avais identifiées, ou un des deux axes, en fait, qui fait de l'humain le meilleur preneur de décisions.

4:26Sacha: Et avant d'entrer un petit peu dans le sujet de l'IA responsable, qui va être une grosse partie de ce podcast ou de cette entrevue, j'aimerais te poser une question, parce que généralement, on parle beaucoup de c'est quoi l'intelligence artificielle, mais j'aimerais te poser une question un tout petit peu différente pour savoir si tu peux nous expliquer un peu sur quoi les gens se trompent. Qu'est-ce que les gens ont faux à propos de l'IA?

4:46Guest: Est-ce que les gens ont faux? Bien, premièrement, les gens, l'IA, c'est pas de la vraie intelligence, là. Ça, c'est de base, je pense. L'IA, c'est une philosophie qui fait que tu as tellement confiance dans des algorithmes statistiques. C'est simplement ça, là. C'est des algorithmes statistiques qui permettent d'identifier des tendances dans des données pour être capable de l'appliquer sur des nouvelles données. C'est tout simplement ça. Et à un moment donné, ça vient d'assez bonne qualité, qu'on finit par avoir confiance dans ces méthodes-là, et on se retrouve à les appliquer de façon sans supervision, en fait. Parce que c'est à ce moment-là qu'on respecte justement l'intelligence qu'on vient de créer, mais c'est pas de la vraie intelligence. Ça, c'est d'une part. Après, quelque chose que les gens ont faux, c'est que les gens pensent que de l'intelligence artificielle, bien, à deux niveaux, c'est drôle parce que les deux niveaux ont tort.

5:47Souvent, c'est dire que l'intelligence artificielle n'est pas utile. Il y a certaines personnes qui vont dire « c'est pas utile, j'en ai pas besoin », puis c'est pas vrai. L'intelligence artificielle peut être utile pour tellement de cas d'usage. Souvent, c'est que les personnes ne savent pas nécessairement comment bien l'exploiter, puis comment bien comprendre les opportunités qui sont associées. Mais de l'autre côté, c'est pas vrai que l'intelligence artificielle peut tout régler. Ah, bien non, mais l'intelligence artificielle donne juste assez de données, puis ça va te résoudre ton problème. Mais c'est pas vrai tout le temps. Il faut être capable de bien briser son problème, puis d'être capable de comprendre le problème qu'on essaie de résoudre. Et quand on a une bonne compréhension de notre besoin, il faut se poser la question « est-ce que l'intelligence artificielle peut aider à ce niveau-là? » Et ça, à la plupart des cas, oui, mais c'est pas une recette miracle. Donc, je dirais ça, c'est d'office, c'est des trucs qui sont souvent erronés quand j'ai des discussions avec des personnes. Un autre aussi qui est assez intéressant, c'est au niveau de l'IA générative. Plusieurs personnes vont penser que l'IA générative, par exemple, c'est non sécuritaire.

6:52Donc, il y a beaucoup de personnes qui vont parler que l'IA générative, c'est pas sécuritaire, il y a des problèmes de sécurité de l'information. C'est pas toujours le cas, en fait. C'est de la gestion de risque et la gestion de risque, oui, il peut y avoir certains risques au niveau de la sécurité de l'information, mais il y a des façons, il y a tout à fait des façons pour mitiger, pour les atténuer, ces risques-là. Donc, il y a ça aussi, la gestion du risque, il va tout le temps y avoir un certain risque qui est associé à l'IA et l'IA générative. Par contre, j'ai jamais vu, moi, un cas d'usage où les risques n'étaient pas atténuables. Donc, il y a aussi, soit que certaines personnes vont penser qu'elles ne vont pas penser aux risques, d'autres personnes vont être stoppées par les risques. En fait, la vérité se retrouve entre les deux. C'est-à-dire qu'il y a des risques, il faut faire attention. Par contre, les risques sont 100 % atténuables dans la majorité des cas.

7:45Sacha: Et comme je l'ai mentionné un petit peu précédemment, tu es un expert reconnu dans la matière d'IA responsable. Est-ce que tu peux nous expliquer c'est quoi l'IA responsable et pourquoi c'est devenu un enjeu crucial?

7:55Guest: Bien oui, tout à fait. L'IA responsable, puis en fait, je vais le transformer parce qu'en anglais, on dit Responsible AI. En français, il faudrait plus le dire la gestion responsable de l'IA. Et quand on dit la gestion responsable de l'IA, c'est là que ça prend un peu plus de sens. En fait, c'est que l'IA, c'est une technologie comme n'importe quelle technologie. Donc, on se retrouve à utiliser une technologie. Le seul problème, c'est que c'est une technologie qu'on ne sait pas tout le temps c'est quoi qu'il y a en arrière. De quelle façon ça a été entraîné? C'est quoi les sources de données que ça a été utilisées? C'est quoi la tâche que ça accomplit? Et ici, le gros problème qu'on va avoir, c'est que, dans le fond, on est confronté à beaucoup d'inconnus. Et il faut s'assurer qu'on gère bien notre solution pour atténuer les risques. Par exemple, il peut y avoir beaucoup de biais dans tes données. Je peux donner des exemples. Il y en a une multitude d'exemples. Mais par exemple, des biais au niveau de l'embauche. Je dirais, les premiers cas d'usage qu'on a identifiés, je dirais, ça fait longtemps. Il y en avait avant ça, mais des cas textbook qu'on a déjà vus dans le passé.

8:59Ça serait, par exemple, au niveau de l'embauche, il y avait beaucoup d'algorithmes pour faciliter l'embauche de cadres dans des entreprises qui prenaient en considération, dans le fond, le sexe et l'âge. Et qui avaient tout le temps, et l'ethnie, qui avaient souvent tendance à préconiser les hommes blancs d'un certain âge, parce que c'était généralement comment étaient constitués les cadres de l'entreprise. Donc ça, c'est des biais. C'est des biais qui sont existants. Il y a la même chose aussi dans le domaine bancaire, où on prenait en considération, par exemple, le code postal. Et le code postal, souvent, se retrouvaient, de par la nature des choses, souvent, on va avoir certaines classes sociales qui se tiennent ensemble, et certaines ethnies, certaines populations qui vont se tenir ensemble dans le même code postal. Et sans même le savoir, on crée une discrimination, où on se retrouvait à discriminer automatiquement certains codes postaux, parce que, généralement, il y avait une moins bonne capacité d'emprunt. Le seul problème qu'on a avec ça, c'est que, justement, quand je dis la gestion responsable de l'IA, c'est que, est-ce que tu veux vraiment utiliser une solution d'intelligence artificielle dans laquelle, que tu ne connais pas vraiment bien la façon, dans le fond, ça va classifier l'information.

10:12Donc, de savoir, par exemple, que le code postal a été très dominant pour prendre une décision sur une demande d'hypothèque, et ça se retrouve que cette personne-là habite dans un quartier défavorisé, bien ça, si la personne le savait, la décision n'aurait pas été automatiquement un non, parce que c'est illégal. Mais, dans la gestion responsable de l'IA, en fait, c'est, premièrement, de s'assurer que la solution soit bâtie de façon la plus éthique et avec le moins de biais négatifs possibles. On veut aussi s'assurer qu'il y ait le maximum de transparence et d'interprétabilité, comme ça, justement, les gens sont capables de se poser des questions. Et, finalement, au niveau de la gestion, on veut aussi s'assurer qu'il y a une bonne gouvernance, donc que la solution ne vive pas par elle-même et qu'il y a vraiment une organisation qui va encadrer la solution pour qu'elle soit bien utilisée. Donc, tout ça, c'est tous les ingrédients, dans le fond, qui sont nécessaires, parce que, justement, on ne sait pas trop, les utilisateurs ne savent pas trop comment la solution a été créée. Et c'est pas mal plus complexe que des solutions, je dirais, comme un site web, par exemple, ou d'autres solutions technologiques où, finalement, il y a pas mal juste du contenu sur un écran.

11:19Il n'y a pas vraiment de choses qui se passent en arrière qui méritent notre attention. Donc, c'est pour ça que c'est extrêmement important, l'IA responsable, de par la complexité des choses.

11:30Sacha: Merci pour cette belle explication. J'ai une autre question par rapport, justement, tu as parlé un petit peu des défis. J'aimerais savoir, avec Mouveia, vous avez aidé de nombreuses entreprises à intégrer l'IA. Dans les opérations, c'est votre principal, comment dire, objectif. Quels sont les principaux défis que les entreprises, elles-mêmes, sont confrontées lorsqu'elles cherchent à mettre en œuvre, justement, la gestion responsable de l'IA?

11:53Guest: Oui, c'est super, c'est une super bonne question. En fait, les défis, moi, je vais même aller au-delà de ça. Les défis, c'est dans le développement de solutions. En fait, j'avais entendu cette, je ne me rappelle pas, c'est qui qui avait dit ce proverbe-là, ou bref, ce dicton-là. Mais c'est que, par exemple, si tu vas chez Bombardier, Bombardier, ils ne vont pas dire, nous, on développe des avions qui ne crashent pas. Tu sais, ils disent, on développe des avions, on bâtit des avions chez Bombardier. Au bout du compte, c'est l'IA responsable, c'est juste parce qu'on est en train de pallier un manque à gagner. C'est qu'on a des approches de développement qui ne sont pas encore assez matures pour nous assurer que, finalement, les décisions qu'on prend à l'aide de l'IA ne vont pas se retrouver à générer plus de risques que le bénéfice qu'on va gagner. Donc, ici, la question est très bonne. C'est qu'en fait, en ce moment, on est encore confronté à un monde, je dirais, à deux étapes.

12:59On va développer des solutions, puis par la suite, on se dit, ah, OK, bien, il faut les développer de façon responsable. Mais ce n'est pas deux étapes, c'est en fait, c'est de dire, non, nous, on développe des solutions dans lesquelles on va s'assurer que, justement, toutes les étapes sont là. La boîte à outils, elle, est responsable. Donc, on va se retrouver, je vais donner des exemples, on va se retrouver à inclure de la formation, s'assurer que tout le monde soit très bien formé sur la solution la plus responsable possible, la plus transparente et sans biais. Mais si elle est mal utilisée par les utilisateurs, ça peut causer autant de tort et vice-versa. Donc, ici, ce qu'on veut s'assurer, c'est justement de fournir le maximum de formation, de s'assurer qu'on a une organisation qui va épauler les solutions qui vont être développées. Donc, souvent, on va voir ça dans des organisations, des organisations dans lesquelles tu développes un système, et le système, il vit tout seul. Il n'y a plus personne qui le monite, qui s'assure, qui est encore performant. C'est inacceptable. Donc, il faut s'assurer qu'il y a justement une organisation qui chapeaute les systèmes qui sont développés et les utilisateurs. Il faut s'assurer qu'il y a justement une boîte à outils qui va accompagner ces systèmes-là, qui va permettre notamment de savoir, en fait, à l'utilisateur, c'est de quelle façon ils ont été développés, les solutions, c'est quoi qui a été inclus comme source de données, c'est quoi les résultats.

14:11Donc, ça, on appelle ça de la transparence. Et au bout du compte, le plus simple à expliquer, c'est qu'on veut s'assurer qu'on va accompagner les utilisateurs et les clients finaux dans le changement qu'ils sont en train de vivre. Parce que tout ce qu'on parle en ce moment, c'est des façons justement de s'assurer que les gens aient confiance en nos solutions. Et si on pense à l'utilisateur final et on pense aux clients et aux parties prenantes, dès le jour 1, et qu'on se retrouve à développer en conséquence de ces personnes-là dans le co-moyen et long terme, on va développer de façon responsable. Aussi, l'autre élément, et ça, je ne l'ai pas parlé, mais c'est souvent aussi, moi, je dirais, c'est la fondation sur laquelle on veut bâtir, c'est de la gestion de risque. Et de la gestion de risque, ça veut dire, c'est de se poser des questions sur l'impact de ce qu'on est en train de bâtir et par la suite, c'est de se dire, OK, bien, oui, OK, ma solution est plus ou moins risquée à certains égards, bien, c'est quoi le plan de match pour m'assurer que cette solution-là, bien, on est capable de pouvoir minimiser ces impacts-là.

15:16Et quand on a fait ça, puis après ça, c'est de les mettre en place et de démontrer qu'on les a mis en place, ces plans d'action. Et quand on a mis ces plans d'action-là, bien, ça, encore une fois, c'est une façon de rendre les clients et les parties prenantes plus en confiance, mais en même temps, une paire de coups, on va se retrouver à ainsi développer une solution dans laquelle on ne va pas laisser de surprise, puis on va s'assurer que ça génère beaucoup plus de bénéfices que les risques que ça va engendrer.

15:41Sacha: Olivier a été nommé président de la délégation canadienne, comme je l'ai mentionné un petit peu avant, pour l'intelligence artificielle de l'ISO. Donc, j'aimerais te poser une question. Comment est-ce que le Canada se positionne-t-il dans le paysage mondial de la gestion insuffisable de l'IA? Et c'est quoi les initiatives clés que le pays est en train de mettre en place dans ce domaine-ci?

15:58Guest: On est très bien vus à l'international. On est quand même une petite délégation, parce que le Canada, on est un petit pays à comparer aux autres pays. Par contre, on est très efficace. On se retrouve à avoir un rôle notamment prédominant au niveau de la norme ISO 42001, qui est une norme qui a été publiée en décembre passé. Donc, on s'est retrouvé à avoir un beau leadership à ce niveau-là. Et on est aussi le pays qui a fait le premier audit de conformité. Donc, ça a été le Canada, même avec une version brouillon, une version préliminaire de 42001. On s'est retrouvé à faire un audit de ATB, Alberta Treasury Board, qui est une organisation financière basée dans les Prairies. On a été le premier pays à faire un audit de conformité, ce qui est quand même quelque chose. Donc, on est vraiment à l'avant-garde au niveau de la standardisation internationale. Et tout démontre aussi qu'on est à l'avant-garde au niveau de l'IA responsable, de la gestion responsable de l'IA.

17:00Parce que justement, on fait ça, parce qu'on a été, par exemple, au Canada, puis même à Montréal, par exemple, le... voyons le... J'allais dire le serment de Montréal. Voyons le... Pas le traité de Montréal. Excusez-moi, j'ai un blanc. On a... Voyons, excusez-moi. Bon, bref, j'ai un blanc. Mais à Montréal, on a établi pas mal les premières lignes directrices au niveau de... De c'est quoi l'IA responsable. Donc, et après ça, dans le fond, on a des organisations qui ont... Qui se sont bâties au-delà de ça. Donc, qui ont vraiment été capables de pouvoir tirer leur épingle du jeu à Montréal. Donc, on est plusieurs années en avant de beaucoup de pays. Et là, maintenant, avec justement le Mila et Yoshio Benjo, qui parlent de plus en plus de sûreté des solutions d'intelligence artificielle, bien là, on pousse à un autre niveau, en fait. Dans le fond, au Canada, autant qu'on est avant-gardiste au niveau de l'IA responsable, mais on va aussi pousser la note pour ce qui est, je dirais, de la minorité de systèmes d'intelligence artificielle à très hauts risques.

18:14Donc, il y a des risques importants de sûreté. Comme par exemple, on va penser à des cas assez rares, par exemple, dans le domaine du nucléaire, dans le domaine militaire, etc. Donc, c'est pas des cas qu'on va entendre tout le temps. C'est 0,001 % des systèmes d'intelligence artificielle. Mais ces systèmes-là sont à très haut risque. Et Montréal veut se positionner pour dire, mais c'est vous quoi? On a déjà mis la table au niveau de la gestion responsable de l'IA. Maintenant, on va aller pousser encore plus au niveau de la sûreté des systèmes. Donc, c'est vraiment bien ce qu'on est en train de faire. Puis, on bâtit d'année en année sur nos acquis.

18:49Sacha: Et c'est quoi les critères essentiels que tu prends en compte pour évaluer la qualité et la responsabilité d'un modèle IA, par exemple, ou d'un système IA?

18:56Guest: Oh my God! Il y a une panoplie de critères. En fait, pour ce qui est de la qualité du système, moi, j'ai, dis-moi, l'auteur, dans le fond, d'un standard sur l'évaluation de la qualité du système d'intelligence artificielle. Donc, 25058, je ne suis pas habitué de le dire en français, 25058, qui est un standard ISO qui a été publié l'année passée également. Ce qu'on fait, je vais parler un peu de la méthodologie. Puis après ça, je peux donner certains exemples. Mais ce qu'il faut se poser comme question, c'est dire, c'est quoi qui fait qu'un système est de bonne qualité? Puis en fait, ça existe depuis longtemps dans le domaine du développement logiciel. Dans le développement logiciel, c'est important que ça soit rapide. Par exemple, sur un site web, puissent télécharger rapidement. C'est important que ça soit robuste. Donc, la robustesse, par exemple, s'il y a une multitude de requêtes, que ça soit quand même capable de télécharger, donc que ça ne plante pas. Donc, il va y avoir plusieurs caractéristiques. Et là-dedans, après ça, on est capable de briser ça même en sous-caractéristiques.

20:00Et quand ça devient hyper granulaire, bien là, on est capable de créer des métriques. Et un peu des activités qui sont nécessaires. Je vais donner des exemples. Un système d'intelligence artificielle, ça a besoin d'être adaptatif. Donc, ça a besoin d'évoluer dans le temps parce que les tendances du marché changent. Par exemple, chez Mouvvair, on avait développé, nous autres, des solutions d'intelligence artificielle pour aider des compagnies dans les télécommunications avant la COVID. Quand la COVID est arrivée, bien, ça a tout changé. C'est le comportement des clients. Et bien là, une solution d'intelligence artificielle doit s'adapter. Et malheureusement, à l'époque, on était tout petit. On développait des solutions qui n'étaient pas nécessairement... Ce n'étaient pas des solutions de grande envergure. Puis justement, on a un exemple d'une solution où on a eu de la misère à l'adapter, la solution dans l'ère COVID. Donc, on est obligé de la mettre sur pause. Donc, ici, ça ne respectait pas cette caractéristique d'adaptation-là.

21:01Donc, ici, ce qu'on peut penser, c'est que le système ne respectait pas un niveau de qualité suffisant pour une des caractéristiques de la qualité du système d'intelligence artificielle. En contrepartie, on a développé avec la STM un outil de prévision de l'achalandage dans les métros de Montréal. Et ça, c'était pendant la COVID. Donc, on s'est assuré de prime abord que l'adaptabilité était prise en considération parce qu'à chaque fois que François Legault faisait une nouvelle annonce, les patterns changeaient et il fallait être hyper rapide pour pouvoir adapter notre système à cette nouvelle réalité-là. Donc, ça ici, check, on est arrivé. Donc, ici, c'est une des caractéristiques dans laquelle justement, on pouvait définir qu'on avait un niveau de qualité qui était acceptable. Donc, ça ici, tu te retrouves à faire ça sur une panoplie de facteurs. une soixantaine. Donc, c'est quand même assez complexe. Mais justement, comme j'en avais parlé au début, un système d'intelligence artificielle, c'est complexe. Donc, veux, veux pas, pour mesurer la qualité de ce système-là, ça va être également complexe parce qu'il y a plein de perspectives à regarder les données, les biais.

22:03Il va y avoir aussi même le système, le système informatique autour du système d'intelligence artificielle. Souvent, on a tendance à juste parler de l'AI. Mais en fait, l'AI, c'est une partie. Tu as toutes les données autour de l'AI toutes les interfaces. Donc, si tu développes un système, mais que les gens ne comprennent pas comment l'utiliser, ce n'est pas un système de très haute qualité parce qu'il va être utilisé tout croche. Donc, ça aussi, c'est à prendre en considération.

22:29Sacha: Et la transparence et l'explicabilité, je pense que je vous l'ai mentionné un petit peu avant aussi, sont souvent cités comme des piliers de l'AI responsable. Comment est-ce que Move AI, chez Move AI, vous abordez ces aspects dans les solutions que vous posez à vos clients?

22:42Guest: Oui, non, ça aussi, c'est quelque chose qui est fondamental. Et puis, je suis d'accord, c'est des piliers ici parce que, justement, ça fait partie des outils qui permettent aux utilisateurs de savoir un peu sur quoi ils se basent quand ils prennent des décisions. Donc, veux, veux pas, on va se retrouver justement à développer des mécanismes, que ce soit... Et on trouve plein de façons d'amener des mécanismes parce que ce n'est pas toujours facile d'accomplir la transparence. En fait, la transparence, c'est encore une fois un peu comme l'intelligence artificielle, c'est un peu philosophique. C'est quoi qui est transparent? En fait, la question, puis il existe des standards qui s'en viennent, justement, où on va avoir une certaine taxonomie de différents éléments de transparence. Mais au bout du compte, la transparence, la façon la plus facile de dire, c'est de s'assurer que les utilisateurs et que les parties prenantes ont suffisamment d'informations pour être confiants par rapport à la solution. Et ça, ça se fait en prenant les besoins, ça se fait aussi en analysant le comportement des utilisateurs. Un des erreurs que souvent plusieurs personnes vont faire, c'est qu'ils vont développer un système, ils vont le déployer puis de la titre, c'est terminé.

23:48Ce n'est pas vrai. Ça prend des rondes de validation parce que si tu n'es pas là pour valider de quelle façon les personnes utilisent la solution, c'est sur quoi qu'ils vont se baser pour prendre des décisions? Est-ce qu'ils vont être perdus? Est-ce qu'ils comprennent vraiment bien c'est quoi? Si les gens ont peur d'utiliser l'IA pour prendre des décisions, c'est que tu as fait une mauvaise job au niveau de la transparence et ici, les gens se mélangent beaucoup entre la transparence et l'interprétabilité. Ici, rapidement, je vais expliquer la transparence au niveau du modèle, en fait, c'est d'être capable de comprendre de quoi est basé le modèle. Donc, c'est-à-dire, est-ce que moi, j'ai confiance que ce système-là est assez bon, est assez clair pour que je puisse tirer des conclusions et l'interprétabilité, c'est au niveau de la prédiction. Donc, ici, ça veut dire si à un moment donné, développe un système pour des traders, par exemple, pour des courtiers dans le domaine financier et qu'ils se font dire « il faut que tu vendes » ou ils se font dire « le prix de telle action va passer à tel montant dans X nombre de temps », la première question que les gens vont tout le temps se poser, c'est dire « c'est quoi ce modèle-là ?

24:56C'est quoi ce système-là ? Il sait-tu vraiment de quoi qu'il parle ? » Ça, c'est la première question que les gens vont se poser et souvent, ça va arriver quand les gens ont beaucoup d'expérience. tu as besoin de plus de transparence que quand tu en as moins. C'est souvent ce qui va arriver. Par contre, ça ne veut pas dire que tu mérites de moins de transparence, c'est juste que ça va être plus apparent. Donc, ça, c'est une part. C'est-à-dire, il faut que tu donnes le niveau de transparence suffisant pour qu'un expert puisse se sentir en confort par rapport au système. Par la suite, si tu fais dire que l'action va passer à 42,95, OK, mais c'est quoi les facteurs qui vont justifier cette baisse ou cette augmentation de prix ? Ça aussi, c'est important et ça, c'est de l'interprétabilité. Donc, dans les deux cas, c'est vraiment de travailler avec les parties prenantes pour s'assurer qu'ils soient tous sur la même longueur d'onde et qu'ils ont suffisamment d'informations pour bien faire leur travail en collaboration avec l'intelligence artificielle. Malheureusement, c'est du cas par cas, mais chez Ouvraya, nous, dans chacune des solutions, on s'assure, dans le fond, qu'il y a ce niveau de confort-là auprès de nos clients.

25:57Sacha: Tout à l'heure, tu parlais un petit peu des billets dans les algorithmes milliards qui sont et qui, pour moi, sont légitimes et c'est une préoccupation majeure. C'est quoi les stratégies que tu recommandes aux entreprises pour justement identifier ces billets-là et pour les atténuer puisque tu disais qu'il y a toujours moyen d'atténuer un petit peu le risque. Donc, je suis vraiment curieux d'avoir ton input là-dessus.

26:17Guest: Oui, les billets sont importants. ici, peut-être même avant de mentionner ça, juste pour expliquer à quel point c'est complexe la gestion des billets, c'est que des billets, c'est... Tu ne peux pas faire d'intelligence artificielle sans billet. Des billets, ce que ça veut dire, c'est un billet, puis ce n'est pas la définition, je n'ai pas le petit la rose devant moi, mais un billet, c'est ce qui va nous permettre de pouvoir discriminer. C'est aussi un mot qui est à la mode, mais en fait, c'est un mot qui n'est pas juste négatif, mais un billet, qui permet de discriminer entre des populations. Et ici, ce n'est pas juste du racisme ou ce n'est pas juste négatif, c'est-à-dire, par exemple, je suis capable de pouvoir discriminer des... Je vais dire, disons, dans de la maintenance prédictive, dans des domaines, par exemple, dans des manufactures ou sur des camions. Donc, je suis capable de discriminer les camions qui ont besoin d'activités de maintenance prochainement parce qu'ils ont certains censures qui me disent que, justement, ils vont atteindre la limite de certaines pièces.

27:20OK? Donc, ça, c'est des biais et c'est de la discrimination. C'est loin d'être de la discrimination négative. C'est ce qui me permet de faire mon travail, moi, d'analyse de données qui va extraire une prédiction. Par contre, ton biais, c'est quand tu te retrouves à avoir l'information qui est non justifiée ou qui est basée sur des mauvaises assumptions. Donc, par exemple, comme je mentionnais, les codes postaux, par exemple, ça, c'est un bon exemple parce que les codes postaux, ce qui arrive, c'est que ton biais, la façon que tu vas le vivre, c'est que, par exemple, si je prends l'exemple des codes postaux, dans tes données passées, tu peux effectivement voir qu'il y a une tendance qui est que, par exemple, des codes postaux certaines classes sociales vont peut-être être moins, vont avoir peut-être moins de capacité à rembourser un prêt, par exemple. Et ça se peut que tu le vois dans tes données.

28:20Par contre, quand tu as vu ça dans tes données, ce biais-là, bien, ça devient un assumption. Puis, est-ce que tu veux vraiment que l'assomption que tu vas prendre dans toutes tes décisions futures, c'est à chaque fois que tu as des gens de ce code postal-là, donc, tu lui appliques la même règle, la réponse est non, tu n'as pas le droit de faire ça. Parce que ce que tu fais, c'est que tu viens vraiment, là, c'est une discrimination négative envers un secteur. Donc, tu ne peux pas faire ça au même titre que tu vas te retrouver à avoir des, par exemple, de la discrimination au niveau de l'imagerie. Et de la discrimination même que tu ne vas pas nécessairement entrevoir. souvent, ça va être de la mauvaise qualité de données, ça va être la donnée qui est incomplète. Un exemple de données incomplètes qui peut faire des biais, c'est que, par exemple, au niveau de la détection d'images, de la détection faciale, par exemple. On a vu ça quand les iPhones ont sorti la détection faciale pour ouvrir le iPhone. Au départ, ça se retrouvait que les iPhones avaient de la difficulté à ouvrir quand c'était des Afro-Américains, par exemple, qui l'utilisaient ou juste des gens avec la peau plus foncée.

29:26Et ça, c'est un biais qui était dû au fait qu'il n'y avait pas assez de diversité dans les images utilisées pour l'entraînement du système. Donc, la discrimination, il y en a de toutes sortes de façons à propos de plein, plein, plein de sujets. Et en fait, des biais vont habituellement être liés aux données qui sont utilisées pour l'entraînement. Mais il peut vous savoir des biais juste parce que le système est de mauvaise qualité. Un système qui va surapprendre, par exemple. Donc, je ne vais pas aller trop loin, mais en fait, souvent, le système va comporter des biais quand il est de moins bonne qualité. Donc, ici, ce que tu veux faire pour réduire les biais, c'est que premièrement, il faut que tu, de te poser des questions au départ et ça vient avec de la gestion de risque. En fait, c'est de se poser c'est quoi les risques qu'on peut voir. Donc, c'est quoi les risques au niveau des biais qu'on peut identifier? Et là, c'est dire, il y a un risque, par exemple, au niveau de certaines populations qui soient des populations qui sont plus rares, donc qui ne font pas partie nécessairement de mes sources de données, des populations qui sont plus à risque, par exemple. Et après, quand tu identifies ces risques-là, après ça, c'est que tu fais du testing.

30:29Donc, tu crées une stratégie de validation, une stratégie de test pour, justement, faire des mises en situation puis regarder à quel point je suis capable de pouvoir gérer mon risque. Donc, ça, ça sera un exemple. Souvent aussi, c'est aux limites qu'on va avoir, comme par exemple, si tu fais, puis souvent, ça va être lié aussi au développement logiciel. Moi, j'ai travaillé chez Flings qui est une compagnie en fintech où on a travaillé sur un score de crédit et se poser des questions, par exemple, c'est quoi que ça fait si une personne de 100 ans demande un prêt? C'est quoi qui arrive si une personne de 18 ans demande un prêt d'un million T? D'être capable de voir c'est quoi les extrêmes et c'est là qu'on voit que finalement, il peut y avoir pour certaines populations pas assez d'informations ou des données aberrantes qui fait que finalement, ça va créer des biais dans tes résultats et ces résultats-là, vont être erronés. Donc, c'est d'être capable de faire assez de simulations puis assez de tests pour être capable d'identifier ça puis par la suite, ce que tu peux faire, c'est que tu peux te retrouver soit les adresser au niveau de tes données ou simplement en étant capable de pouvoir restreindre certaines prédictions en disant, bien, sais-tu quoi, si je ne suis pas capable de prédire des gens quand ils dépassent 90 ans, bien, je n'ai juste pas besoin d'automatiser certaines prises de décision.

31:42on n'est jamais obligé d'automatiser 100 % de la prise de décision. L'idéal, c'est d'être capable d'automatiser une certaine partie ou de pouvoir optimiser une certaine partie des prédictions, mais si tu n'es pas capable de pouvoir optimiser le reste, bien, c'est toujours bon d'être capable de pouvoir dire, ça, on va le passer d'une autre façon, on va le gérer d'une autre façon. C'est vraiment ce qu'il va faire d'un système sophistiqué, un système, dans le fond, qui va être bénéfique parce que sinon, on se retrouve à gérer de la complexité et finalement, il n'y aura jamais rien qui va arriver.

32:09Sacha: Et c'est un autre sujet qui est pas mal relié avec ça, c'est la question de la responsabilité en cas de problème qui est causée par un modèle, justement. J'aimerais savoir ton point de vue là-dessus sur cette question. C'est quoi les mesures que les entreprises devraient prendre pour anticiper ces risques?

32:24Guest: Oui, la responsabilité en tant que problème, c'est très pertinent. Surtout là, on le voit avec l'IA générative, par exemple, surtout avec les droits d'auteur. Ça, on commence à en parler de plus en plus, mais d'un point de vue global, il faut justement se baser sur une bonne gouvernance et cette gouvernance-là va devenir imputable. Au bout du compte, c'est l'entreprise qui se retrouve à développer des systèmes. Et là, il faut faire attention aussi parce qu'il y a tout l'aspect de le degré d'automatisation que tu vas chercher à, qui va faire évoluer un peu le niveau de responsabilité que l'organisation va avoir. Je vais donner un exemple. Le meilleur exemple, dans le domaine de la voiture autonome. Donc, il y a plusieurs degrés de voiture autonome. Au départ, on pourrait même parler de, par exemple, la détection de lignes sur la route ou la détection d'angle mort, qui est une version très rudimentaire. Ça va jusqu'à la voiture totalement autonome où tu ne se retrouves même pas à avoir de volant. Et ça, ça va évoluer.

33:25Mais c'est sûr qu'au départ, par exemple, si tu es en voiture, la plupart des voitures maintenant sont munies d'identification d'angle mort. la lumière à bip ou la lumière à bip pas, mais tu te retrouves à avoir, dans le fond, à te tasser et finalement, il y avait une voiture dans ton angle mort. C'est quand même toi qui es responsable parce que tu vas avoir un système qui va agir en tant que copilote. C'est drôle, ça se paraît. C'est comme en voiture, un copilote. mais à un moment donné, tu vas te retrouver à aller à un niveau d'automatisation tellement important. Par exemple, si tu es dans une voiture qui n'a pas de volant et que tu as un accident, qu'est-ce qui arrive? En soi, ce qui arrive, c'est que c'est l'organisation qui va avoir bâti la voiture qui va être responsable parce qu'il n'y a aucune façon pour le pilote de pouvoir le prévenir, ce risque-là. Donc ici, ce que ça montre, c'est assez imagé, mais ça montre à quel point ton degré d'automatisation va tout changer au niveau de ta gestion de risque pour l'organisation. Donc ici, pourquoi je parle de ça? C'est parce qu'il y a une sérieuse question qu'il faut se poser au niveau de l'automatisation.

34:29Es-tu obligé d'automatiser 100 % des éléments? Par exemple, on a développé, nous, une solution avec les épiceries métro pour optimiser les listes de production, pour optimiser le réapprovisionnement d'épicerie. On aurait pu automatiser l'approvisionnement, que tout se fasse automatiquement basé sur les données, mais on aurait sauvé 15 minutes par épicerie par semaine. Et on aurait créé énormément de complexité parce que qu'est-ce qui arrive si finalement on commande deux fois moins de produits que ce qui était anticipé parce que la réalité, parce qu'on a eu des bugs dans nos données ou qu'est-ce qui arrive si on avait trop commandé de stock, on avait commandé dix fois trop de stock parce qu'il y avait un bug au niveau de nos données. Donc, on s'aurait créé tellement de complexité et ça, au bout du compte, ça n'aurait pas été le gérant en magasin qui aurait été responsable parce qu'il n'y aurait eu aucune façon de pouvoir le gérer. Donc, la responsabilité aurait été au niveau de ceux qui ont développé le système. Donc, à la place, c'est bien mieux de te dire c'est quoi la limite. Moi, ma limite, c'est de lui fournir toute l'information pour qu'il soit capable de pouvoir prendre sa commande, mais c'est lui qui a les mains les quantités sont les bonnes pour sa succursale et c'est comme ça ici qu'on s'assure justement de ne pas se tirer dans le pied puis de ne pas finalement avoir l'organisation qui peut gérer la responsabilité de ses actions.

35:56Sacha: Sur une autre tangente, comment est-ce que la collaboration internationale, puisque tu travailles avec des personnes de différents pays, contribue-t-elle à l'établissement justement de normes en matière d'IA responsable et c'est quoi les enjeux d'une collaboration internationale là?

36:12Guest: On grandit tous grâce aux apports internationaux. C'est vraiment bien, c'est aussi l'international nous permet de pouvoir voir des approches, nous facilite disons l'adoption d'approches responsables au niveau des gros cloud providers, au niveau des entreprises d'infos nouvelles comme Google, Microsoft, Amazon, parce que eux sont là pour vendre des produits d'intelligence artificielle et ces produits-là, l'idéal, c'est d'avoir les mêmes règles dans tous les pays. Ça, c'est l'idéal parce que justement, tu n'es pas obligé de venir faire évoluer ton offre. Par exemple, l'opposé serait que chaque pays développe ses propres normes et là, tu te retrouves à avoir, surtout le Canada, le Canada, si on fait ça, on est tellement petit qu'on va se retrouver finalement mal desservis parce que les compagnies ne vont pas nécessairement vouloir tout nous donner ce qu'on a besoin ou ce qu'on demande.

37:24Donc, à la place, un compromis, puis il reste un compromis, ce n'est même pas tant un compromis parce que, comme je l'ai mentionné, on est tellement présent, mais c'est de s'assurer que les valeurs québécoises, les valeurs canadiennes sont intégrées dans les normes internationales qui sont en train de se développer. Donc, on s'assure que le Canada est confortable avec les normes qui vont être mis en vigueur et qui vont être promus à l'international. De cette façon-là, on facilite, donc, on facilite l'échange de produits-services et on évite d'avoir des barrières à l'entrée. Comme par exemple, en ce moment, ce qu'on voit, et c'est difficile à dire d'anticiper si c'est parce que l'Europe est avant-gardée, premièrement, on met des lois, une loi en vigueur ou c'est parce que cette loi-là ne concorde pas bien avec les autres normes qui sont mises en place, mais on voit déjà certaines compagnies qui se retrouvent à être plus prudentes face à la mise en place de systèmes en Europe. Donc, on commence à avoir des compagnies qui décident de ne pas aller de l'avant avec la mise en production du système en Europe.

38:29Des fois, c'est pour les bonnes raisons, d'autres fois, c'est pour des mauvaises raisons. Donc, ici, ce n'est pas évident à l'Osternich qui est en ce moment, on veut donner assez de flexibilité pour que les compagnies internationales veillent venir s'établir au Canada puis fournir leurs produits-services parce que si on veut de l'adoption, ça nous prend des systèmes infonuagiques comme ça pour faciliter la mise en place d'intelligence artificielle. Mais de l'autre côté, tu ne veux pas non plus compromettre la sécurité des systèmes en acceptant n'importe quoi. Donc, il y a vraiment un équilibre à trouver puis les standards internationaux nous permettent de trouver cet équilibre-là.

39:05Sacha: de l'IA responsable dans les prochaines années à venir et quels sont les nouveaux défis ou les nouvelles opportunités justement qui se profilent à l'horizon?

39:15Guest: Oui, ça, c'est un combat de tous les instants. En fait, c'est parce que, et tout le monde va le dire, dans le fond, le développement va tout le temps prédominer l'encadrement. Ça, c'est normal. Et ça cause certains enjeux parce que, par exemple, l'IA générative amène beaucoup, amène beaucoup de changements puis amène encore beaucoup de changements à savoir du temps avant d'implanter ça. Je vais donner un exemple. Les systèmes d'intelligence artificielle, ça a tout le temps été très précis. Tu développes un score de crédit, tu développes un outil qui prédit un taux de mortalité. Donc, ça prédit quelque chose de très précis. Donc là, avant, ce qu'on disait, c'est, OK, il faut identifier la portée, il faut être capable d'identifier de la façon que les gens peuvent utiliser ce système-là de la bonne façon, d'une mauvaise façon, pour la portée qui a été identifiée. Par contre, là, tu arrives avec des systèmes d'IA générative, bien, l'IA générative, tu peux l'utiliser de n'importe quelle façon. Tu peux l'utiliser pour faire un poème. Dans le fond, il n'y a rien qui va prévenir, dans le fond, qui va te dicter sur c'est quoi ton carré de table.

40:20Ton carré de table, il est rendu infini, finalement. Donc, tu n'as plus vraiment une portée. Alors là, de quelle façon est-ce que tu es capable d'identifier c'est quoi tes impacts? Parce que ton impact de fournir, Gemini ou copilote à ton entreprise, bien, ils peuvent faire n'importe quoi avec ça. Ils peuvent, donc, ok, bien, s'ils peuvent faire n'importe quoi, ça veut dire que c'est un très grand risque. Mais là, en même temps, c'est que tu ne peux pas non plus discréditer des systèmes qui sont utiles par peur ou parce que tu utilises des vieux paradigmes pour venir mesurer, dans le fond, la conformité d'un système. Donc là, ici, ce qu'on fait en ce moment, c'est qu'on est tendu à se poser des questions. Ok, bien, c'est quoi vos paradigmes pour, par exemple, être capable d'évaluer la conformité du système d'IA générative parce que c'est une nouvelle facette dans laquelle on n'était pas confronté à l'époque. Donc ça, c'est sûr que ça va continuer à venir. Donc, il va tout le temps y avoir des setbacks où on va être oublié de repenser, dans le fond, de quelle façon mesurer la standardisation, la conformité et le niveau responsable de solutions d'intelligence artificielle.

41:25Mais moi, je dirais, ce qui m'excite le plus, moi, c'est qu'on commence à le voir, mais il va y avoir une industrie qui s'en vient. Donc, par exemple, c'est complexe de développer une boîte à outils responsables, développer des mécanismes de transparence, développer des mécanismes de gestion de risque, c'est très complexe. Par contre, puis moi, je l'ai vu de plusieurs organisations, il y a des organisations qui vont mettre en place des systèmes qui vont te permettre de facilement développer ces mécanismes-là d'IA responsables. Donc, tu te retrouves à avoir beaucoup plus facilement des systèmes qui sont, dans le fond, qui sont conformes qui vont être mis en vigueur. Donc, passer un an pour venir rendre conforme ta solution, tu vas être capable de beaucoup plus facilement le faire. Donc, de moins compromettre ta recherche et développement et ton utilisation du système d'intelligence artificielle par le fait de vouloir rendre un certain niveau de conformité. Et ça, c'est quelque chose qui m'excepte parce que ça permet justement de t'assurer que tu vas tout le temps bénéficier de l'intelligence artificielle mais en mitigant tes risques.

42:24Sacha: Et Olivier, merci beaucoup. Avant de clôturer cette conversation, notre conversation, j'aimerais te laisser plancher pour partager un dernier mot ce que tu veux.

42:35Guest: Du coup, j'ai mal à la gosse. Je dirais que, je vais peut-être finir en disant qu'en ce moment, c'est un temps qui est un peu inconfortable. Il y a plusieurs personnes qui sentent que justement les systèmes d'intelligence artificielle sont de plus en plus avancés. Les gens commencent à avoir beaucoup de fake news, de deep fakes. On en voit beaucoup sur Internet. C'est un peu inquiétant. Je voudrais juste qu'on met tout en place en ce moment. Je pense qu'on travaille sur les bonnes choses pour s'assurer que on va s'assurer que les solutions sont de bonne qualité. On ne va pas perdre le contrôle. Il y a des gens qui ont peur qu'on perde le contrôle, mais il y a des milliers de personnes dans le monde qui travaillent pour nous assurer que les systèmes sont de bonne qualité et qu'ils soient responsables et qu'ils soient sûrs pour l'humanité. Moi, j'ai le foi en ça. C'est juste un moment inconfortable en ce moment entre un peu le niveau d'avancement incroyable des systèmes et justement des requis d'encadrement qui vont forcer certaines organisations à repenser un peu l'IA.

43:36Donc, pour vrai, moi, je m'attends à ce qu'on vienne encadrer vraiment bien les choses des gouvernements. Ils sont en train de mettre des bonnes choses en place, les organisations internationales comme ISO également. Donc, on ne lâche pas. Puis, pour vrai, si jamais il y a quoi que ce soit, moi, je vous dis, chaque personne en ce moment est responsable de s'assurer que son utilisation de l'intelligence artificielle est responsable. Puis ça, on peut le faire en se posant les bonnes questions et en s'assurant qu'on se pose des questions. Est-ce qu'on se met à ce qu'on essaie de faire?

44:07Sacha: Olivier, merci beaucoup pour toutes tes belles réponses. C'était joint à moi. Aujourd'hui, c'était vraiment un plaisir.

44:12Guest: Merci beaucoup pour l'invitation. C'était super apprécié.

44:15Sacha: Merci.