# Olivier Blais Olivier Blais (Cofondateur et VP Science décisionnelle chez MoovAI; président de la délégation canadienne pour l'IA à l'ISO/IEC et auteur de la norme ISO 25058) was a guest on AI with Sach, a podcast hosted by Sacha Gucciardo in Montréal. ## Episode 8: Vers une IA Responsable avec Olivier Blais, VP Science Décision chez MoovAI (August 2024) Olivier Blais of MoovAI explains how to manage AI responsibly: bias, transparency, accountability, ISO standards, and why limiting automation can be the safer choice. Page: https://aiwithsach.com/episodes/08-vers-une-ia-responsable-avec-olivier-blais-vp-scie/ > L'IA, c'est une philosophie qui fait que tu as tellement confiance dans des algorithmes statistiques. C'est simplement ça, là. C'est des algorithmes statistiques qui permettent d'identifier des tendances dans des données pour être capable de l'appliquer sur des nouvelles données. C'est tout simplement ça. > — at 4:56 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=296s) > Par contre, j'ai jamais vu, moi, un cas d'usage où les risques n'étaient pas atténuables. Donc, il y a aussi, soit que certaines personnes vont penser qu'elles ne vont pas penser aux risques, d'autres personnes vont être stoppées par les risques. En fait, la vérité se retrouve entre les deux. C'est-à-dire qu'il y a des risques, il faut faire attention. Par contre, les risques sont 100 % atténuables dans la majorité des cas. > — at 7:21 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=441s) > Au départ, ça se retrouvait que les iPhones avaient de la difficulté à ouvrir quand c'était des Afro-Américains, par exemple, qui l'utilisaient ou juste des gens avec la peau plus foncée. Et ça, c'est un biais qui était dû au fait qu'il n'y avait pas assez de diversité dans les images utilisées pour l'entraînement du système. > — at 29:16 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=1756s) > Par exemple, si tu es dans une voiture qui n'a pas de volant et que tu as un accident, qu'est-ce qui arrive? En soi, ce qui arrive, c'est que c'est l'organisation qui va avoir bâti la voiture qui va être responsable parce qu'il n'y a aucune façon pour le pilote de pouvoir le prévenir, ce risque-là. > — at 33:54 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=2034s) > On prend tellement des décisions qui sont très tactiques puis qui ont très peu de valeur ajoutée. Et de l'autre côté, on prend des décisions qui sont tellement grosses sans être bien accompagné. > — at 3:22 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=202s) > Et sans même le savoir, on crée une discrimination, où on se retrouvait à discriminer automatiquement certains codes postaux, parce que, généralement, il y avait une moins bonne capacité d'emprunt. > — at 9:47 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=587s) > Si les gens ont peur d'utiliser l'IA pour prendre des décisions, c'est que tu as fait une mauvaise job au niveau de la transparence et ici, les gens se mélangent beaucoup entre la transparence et l'interprétabilité. > — at 24:01 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=1441s) > Donc, je suis capable de discriminer les camions qui ont besoin d'activités de maintenance prochainement parce qu'ils ont certains censures qui me disent que, justement, ils vont atteindre la limite de certaines pièces. OK? Donc, ça, c'est des biais et c'est de la discrimination. C'est loin d'être de la discrimination négative. > — at 27:09 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=1629s) > on n'est jamais obligé d'automatiser 100 % de la prise de décision. L'idéal, c'est d'être capable d'automatiser une certaine partie ou de pouvoir optimiser une certaine partie des prédictions, mais si tu n'es pas capable de pouvoir optimiser le reste, bien, c'est toujours bon d'être capable de pouvoir dire, ça, on va le passer d'une autre façon, on va le gérer d'une autre façon. > — at 31:42 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=1902s) > On aurait pu automatiser l'approvisionnement, que tout se fasse automatiquement basé sur les données, mais on aurait sauvé 15 minutes par épicerie par semaine. Et on aurait créé énormément de complexité > — at 34:42 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=2082s) > on voit déjà certaines compagnies qui se retrouvent à être plus prudentes face à la mise en place de systèmes en Europe. Donc, on commence à avoir des compagnies qui décident de ne pas aller de l'avant avec la mise en production du système en Europe. Des fois, c'est pour les bonnes raisons, d'autres fois, c'est pour des mauvaises raisons. > — at 38:15 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=2295s) > Tu peux l'utiliser pour faire un poème. Dans le fond, il n'y a rien qui va prévenir, dans le fond, qui va te dicter sur c'est quoi ton carré de table. Ton carré de table, il est rendu infini, finalement. Donc, tu n'as plus vraiment une portée. > — at 40:11 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=2411s) > chaque personne en ce moment est responsable de s'assurer que son utilisation de l'intelligence artificielle est responsable. Puis ça, on peut le faire en se posant les bonnes questions et en s'assurant qu'on se pose des questions. > — at 43:51 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=2631s) > En fait, j'avais entendu cette, je ne me rappelle pas, c'est qui qui avait dit ce proverbe-là, ou bref, ce dicton-là. Mais c'est que, par exemple, si tu vas chez Bombardier, Bombardier, ils ne vont pas dire, nous, on développe des avions qui ne crashent pas. Tu sais, ils disent, on développe des avions, on bâtit des avions chez Bombardier. > — at 12:05 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=725s) > Et on est aussi le pays qui a fait le premier audit de conformité. Donc, ça a été le Canada, même avec une version brouillon, une version préliminaire de 42001. On s'est retrouvé à faire un audit de ATB, Alberta Treasury Board, qui est une organisation financière basée dans les Prairies. > — at 16:22 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=982s) > Mais moi, je dirais, ce qui m'excite le plus, moi, c'est qu'on commence à le voir, mais il va y avoir une industrie qui s'en vient. Donc, par exemple, c'est complexe de développer une boîte à outils responsables, développer des mécanismes de transparence, développer des mécanismes de gestion de risque, c'est très complexe. > — at 41:25 (https://www.youtube.com/watch?v=WIukbcUoUxM&t=2485s)