Olivier Blais

AI isn't real intelligence. It's statistics we've learned to trust without supervision.

L'IA, c'est une philosophie qui fait que tu as tellement confiance dans des algorithmes statistiques. C'est simplement ça, là. C'est des algorithmes statistiques qui permettent d'identifier des tendances dans des données pour être capable de l'appliquer sur des nouvelles données. C'est tout simplement ça.

Some people ignore AI risks, others freeze. Both are wrong, says a Montréal expert.

Par contre, j'ai jamais vu, moi, un cas d'usage où les risques n'étaient pas atténuables. Donc, il y a aussi, soit que certaines personnes vont penser qu'elles ne vont pas penser aux risques, d'autres personnes vont être stoppées par les risques. En fait, la vérité se retrouve entre les deux. C'est-à-dire qu'il y a des risques, il faut faire attention. Par contre, les risques sont 100 % atténuables dans la majorité des cas.

Early iPhone face unlock struggled with darker skin. The cause was the training images.

Au départ, ça se retrouvait que les iPhones avaient de la difficulté à ouvrir quand c'était des Afro-Américains, par exemple, qui l'utilisaient ou juste des gens avec la peau plus foncée. Et ça, c'est un biais qui était dû au fait qu'il n'y avait pas assez de diversité dans les images utilisées pour l'entraînement du système.

A car with no steering wheel changes who is liable. The same goes for AI.

Par exemple, si tu es dans une voiture qui n'a pas de volant et que tu as un accident, qu'est-ce qui arrive? En soi, ce qui arrive, c'est que c'est l'organisation qui va avoir bâti la voiture qui va être responsable parce qu'il n'y a aucune façon pour le pilote de pouvoir le prévenir, ce risque-là.

We spend time on trivial decisions and make the big ones with no support.

On prend tellement des décisions qui sont très tactiques puis qui ont très peu de valeur ajoutée. Et de l'autre côté, on prend des décisions qui sont tellement grosses sans être bien accompagné.

A bank's model never asked about ethnicity or class. The postal code did it anyway.

Et sans même le savoir, on crée une discrimination, où on se retrouvait à discriminer automatiquement certains codes postaux, parce que, généralement, il y avait une moins bonne capacité d'emprunt.

If your users are afraid of your AI, your transparency failed.

Si les gens ont peur d'utiliser l'IA pour prendre des décisions, c'est que tu as fait une mauvaise job au niveau de la transparence et ici, les gens se mélangent beaucoup entre la transparence et l'interprétabilité.

Without bias, there's no AI. The question is which bias is justified.

Donc, je suis capable de discriminer les camions qui ont besoin d'activités de maintenance prochainement parce qu'ils ont certains censures qui me disent que, justement, ils vont atteindre la limite de certaines pièces. OK? Donc, ça, c'est des biais et c'est de la discrimination. C'est loin d'être de la discrimination négative.

You are never obliged to automate 100% of a decision.

on n'est jamais obligé d'automatiser 100 % de la prise de décision. L'idéal, c'est d'être capable d'automatiser une certaine partie ou de pouvoir optimiser une certaine partie des prédictions, mais si tu n'es pas capable de pouvoir optimiser le reste, bien, c'est toujours bon d'être capable de pouvoir dire, ça, on va le passer d'une autre façon, on va le gérer d'une autre façon.

We could have automated everything. We'd have saved 15 minutes per store and created a mess.

On aurait pu automatiser l'approvisionnement, que tout se fasse automatiquement basé sur les données, mais on aurait sauvé 15 minutes par épicerie par semaine. Et on aurait créé énormément de complexité

Some companies are already pulling AI products from Europe. Not always for good reasons.

on voit déjà certaines compagnies qui se retrouvent à être plus prudentes face à la mise en place de systèmes en Europe. Donc, on commence à avoir des compagnies qui décident de ne pas aller de l'avant avec la mise en production du système en Europe. Des fois, c'est pour les bonnes raisons, d'autres fois, c'est pour des mauvaises raisons.

Traditional AI had a defined scope. Generative AI's scope is infinite, so how do you assess its risk?

Tu peux l'utiliser pour faire un poème. Dans le fond, il n'y a rien qui va prévenir, dans le fond, qui va te dicter sur c'est quoi ton carré de table. Ton carré de table, il est rendu infini, finalement. Donc, tu n'as plus vraiment une portée.

Every person is responsible for making sure their own use of AI is responsible.

chaque personne en ce moment est responsable de s'assurer que son utilisation de l'intelligence artificielle est responsable. Puis ça, on peut le faire en se posant les bonnes questions et en s'assurant qu'on se pose des questions.

Bombardier doesn't say it builds planes that don't crash. It builds planes. Responsible AI should work the same way.

En fait, j'avais entendu cette, je ne me rappelle pas, c'est qui qui avait dit ce proverbe-là, ou bref, ce dicton-là. Mais c'est que, par exemple, si tu vas chez Bombardier, Bombardier, ils ne vont pas dire, nous, on développe des avions qui ne crashent pas. Tu sais, ils disent, on développe des avions, on bâtit des avions chez Bombardier.

Canada ran the first ISO 42001 compliance audit, on a draft version, at a bank in the Prairies.

Et on est aussi le pays qui a fait le premier audit de conformité. Donc, ça a été le Canada, même avec une version brouillon, une version préliminaire de 42001. On s'est retrouvé à faire un audit de ATB, Alberta Treasury Board, qui est une organisation financière basée dans les Prairies.

A whole industry is coming to make AI compliance easier, and that's what excites me.

Mais moi, je dirais, ce qui m'excite le plus, moi, c'est qu'on commence à le voir, mais il va y avoir une industrie qui s'en vient. Donc, par exemple, c'est complexe de développer une boîte à outils responsables, développer des mécanismes de transparence, développer des mécanismes de gestion de risque, c'est très complexe.