L'IA et le droit : Enjeux éthiques, risques et régulation

Automatic transcript of the recording (French); speaker labels are automatic. Timestamps open YouTube at that moment.

0:01Sacha: d'avoir avec moi non pas un, mais deux invités. Premièrement, Jade, étudiante en droit, stagiaire chez Rexlex, avocat et assistante de recherche à l'Université d'Ottawa. Jade est à l'avant-garde de l'évolution du droit face aux défis posés par l'IA. Ensuite, Céline Castets-Renard, professeure titulaire à l'Université d'Ottawa, spécialisée en droit de l'intelligence artificielle et du numérique, titulaire de la chaire de recherche sur l'IA responsable à l'échelle mondiale et membre experte de l'Observatoire sur l'économie des plateformes en ligne de la Commission européenne avec multiples rôles dans la recherche et la gouvernance de l'IA. Céline, tu es également à l'avant-garde des enjeux juridiques liés aux technologies émergentes. Bienvenue à vous deux, c'est vraiment un plaisir de vous avoir avec moi aujourd'hui.

0:39Guest 1: Bonjour et merci pour l'invitation, ça fait plaisir.

0:43Guest 2: Oui, merci Sachan, c'est un plaisir pour nous d'être avec toi aujourd'hui.

0:47Sacha: J'aimerais commencer par une question assez simple, c'est quoi la chaire de recherche sur l'intelligence artificielle responsable?

0:58Guest 2: Je pense qu'on fait beaucoup de choses, des assistants à la chaire, autant moi qui étais à l'université que les gens qui sont à la maîtrise au doctorat qui assistent Céline. Le but, c'est de l'assister dans tous ces projets, bien évidemment, et principalement d'identifier des enjeux, que ce soit éthique, sociaux, juridiques, et de compléter des études comparées, notamment entre le Canada, les États-Unis, l'Europe, afin, bien évidemment, dans le but que peut-être ça puisse inspirer certains législateurs dans leur processus d'encadrement de l'IA, qui est évidemment un droit qui est encore émergent.

1:33Guest 1: Oui, pour compléter ce que dit Vlad, en effet, l'objectif de la chaire de recherche, c'est de travailler sur le droit de l'intelligence artificielle dans une perspective de droit comparé, parce qu'auparavant, j'ai été professeure en France et en Europe, donc je compare évidemment avec le droit européen et aussi avec le droit américain, parce que j'ai aussi passé deux années aux États-Unis, et on comprend que les modèles de régulation sont assez différents et sont liés, bien sûr, à l'histoire, la culture, etc. Donc, c'est aussi ce qu'on investigue. Puis, on considère aussi l'impact de l'IA, des technologies sur les individus. On essaie de ne pas être automatiquement négatif, mais on essaie aussi de ne pas être trop naïf et d'être toujours technophile, et de toujours penser que l'IA sera forcément un progrès pour tout le monde. Donc, on essaie de voir un petit peu ces nuances. Et en effet, dans la recherche de solutions, on essaie d'avoir une influence sur les politiques publiques, notamment quand on intervient dans des commissions auprès de la Chambre des communes, par exemple, ou auprès de l'Assemblée nationale du Québec sur ces enjeux.

2:31Sacha: On l'a remarqué, justement, cette année, il y a eu quand même pas mal d'enjeux. Quels sont, selon vous, les défis les plus urgents à relever pour assurer, justement, une IA éthique ?

2:40Guest 1: Il y en a sûrement beaucoup. C'est vrai qu'en ce moment, il y a un petit peu deux grandes catégories de perspectives. Une perspective un peu plus de court terme et une un peu plus à long terme. Tout le monde s'entend pour dire que l'IA a un potentiel intéressant. Les technologies d'IA ont des potentiels importants, notamment dans le domaine de la santé, par exemple, ou dans le domaine de l'organisation managériale. On sait qu'on peut améliorer beaucoup de processus et tout le monde peut en bénéficier. Mais on sait aussi qu'il y a des enjeux par rapport à des risques pour la société et aussi par rapport à des risques juridiques, tout simplement, des risques de violation des droits, comme le droit à la vie privée, comme les droits de propriété intellectuelle, etc. Et donc, on essaie d'identifier ces risques et de voir si le droit actuel répond à ces risques ou s'il faut des lois un peu plus spécifiques pour répondre à ces nouveaux risques. Et donc, les deux grandes catégories que j'évoquais concernent des risques un peu plus court terme, comme par exemple les risques de discrimination, les risques d'exclusion qu'on a beaucoup vus, notamment pour des outils administratifs, par exemple, qui permettent de trier des dossiers.

3:45On a beaucoup de doutes, par exemple, dans le domaine de l'immigration, sur les choix qui sont parfois faits par des outils automatiques. On se pose des questions par rapport à la révision humaine qui pourrait être faite ou pas, quelle est la place de l'humain et quelle est la place de la machine. Donc ça, c'est des risques un peu immédiats qu'on a identifiés. Et puis, d'autres parlent de risques existentiels plus lointains, où là, il y aurait une domination de la machine et il faudrait avoir peur d'un certain nombre de choses. Là, c'est Yoshua Bengio, Dumila, qui porte ces thématiques-là et qui les porte aussi à l'échelle internationale. Pour ma part, je me dis que le juriste a déjà affaire avec les risques actuels qui sont identifiés. Donc, regardons déjà ce qui se passe aujourd'hui avant de se préoccuper du futur.

4:30Guest 2: Moi, ce qui m'a particulièrement interpellée, Sacha, quand tu as dit l'urgence, je pense que l'urgence, c'est vraiment au Canada, donc tant au fédéral qu'au Québec, c'est vraiment de légiférer. Parce qu'au fédéral, ça fait plus de deux ans quand même qu'on a déposé le projet de loi C-27. Et la partie 3, qui est la loi sur l'intelligence artificielle et les données, est particulièrement pressante, selon moi. Et la lecture par article à la Chambre des communes avec le comité Indus est particulièrement lente. Et je sais que le gouvernement québécois, il n'y a pas très longtemps, le Conseil d'innovation du Québec a incité le gouvernement à adopter une loi qui va encadrer l'IA. Donc, je pense que tout le monde est d'accord pour dire ce qui ferait vraiment de l'encadrer le plus rapidement possible.

5:16Guest 1: Et si je peux me permettre de revendre à l'adulte. Le Québec, effectivement, avait engagé la discussion via le Conseil d'innovation du Québec. Le gouvernement voulait s'interroger sur le potentiel d'une loi. Malheureusement, pour l'instant, ça a débouché sur dix principes généraux qui ne sont pas très contraignants, donc qui n'ont rien à voir avec une véritable législation. Alors, par ailleurs, qu'en Europe, dans l'Union européenne, on a adopté en juin dernier un énorme règlement qui fait 140 pages, donc extrêmement détaillé, avec des sanctions élevées, etc., mais il serait temps d'aller de l'avant maintenant.

5:53Sacha: Donc, on commence à toucher un petit peu le sujet, mais ici au Québec, c'est un petit peu plus lent, ou au Canada en général. On a vu, en Europe, c'est beaucoup plus rapide. Ils ont été très proactifs, ils ont directement mis des règles. Ton parcours, Céline, tu en as parlé aussi, tu es passée par la France, au Canada, aux États-Unis. Comment est-ce que ces expériences internationales ont-elles influencé ta vision de la régulation du numérique, de l'IA en général ?

6:16Guest 1: Je trouve que ces expériences et ce parcours m'ont permis de m'interroger sur la façon de faire du droit, tout simplement, et des différences qui existent autour de ça, parce que finalement, les enjeux sont les mêmes partout dans le monde, les risques sont les mêmes, les grands acteurs, on les connaît, c'est toujours les mêmes que dans le domaine numérique, donc plutôt les acteurs américains, même si on sait qu'il y a des grands acteurs chinois aussi qui ont un certain nombre d'avantages, de domination sur certaines infrastructures, par exemple, et en particulier dans d'autres parties du monde. On commence à comprendre la géopolitique aussi de l'IA, en même temps que le marché de l'IA se met en place. Donc les enjeux sont quand même globaux, on peut le dire, mais les réponses ne seront pas les mêmes, ce qui est assez normal, parce que, comme je le disais, il y a toujours une part d'histoire, de culture, et tout dépend un petit peu aussi de ce que l'on cherche à faire prévaloir, si on fait prévaloir le rôle de l'État, le rôle du marché, le rôle des droits, des citoyens. Et d'ailleurs, plusieurs auteurs, notamment une Américaine, Anne O'Bratford, je crois qu'elle est allemande en fait, mais elle est professeure à Columbia, a publié plusieurs ouvrages, et notamment sur Digital Empires, récemment, où elle explique qu'il y a des modèles de régulation, un modèle chinois, un modèle américain et un modèle européen.

7:27Et le Canada, évidemment, est très inspiré par les États-Unis, nécessairement le modèle américain, puisque c'est le grand voisin, comme on le sait. Et puis, bien sûr, il y a des accords commerciaux qui font qu'on est quand même très liés, les marchés sont liés. Mais en même temps, le Canada est quand même aussi intéressé par le modèle européen, plus ouvert sur les droits. Donc, c'est une mise en balance que l'on cherche à faire, et je pense que c'est assez difficile, en fait. Et c'est peut-être pour ça que ça prend autant de temps, auprès de la Chambre des communes en particulier, parce qu'il faut une grosse volonté politique, et donc un gros poids politique qui peut-être manque en ce moment.

8:01Sacha: Est-ce que tu peux un petit peu élaborer sur les trois grands modèles de régulation parce que moi, personnellement, je ne connais pas du tout ? Puis le modèle européen et le modèle nord-américain, pour ceux qui ne se connaissent pas forcément.

8:14Guest 1: Oui, alors le modèle chinois, sans surprise, est basé sur l'État, sur le rôle de l'État. Alors, même s'il y a des entreprises privées, comme Baidu, par exemple, Tencent, Huawei, qui ont pris une grande ampleur au niveau chinois, et même parfois sur des marchés internationaux, un peu plus largement. On constate que le gouvernement chinois, dans un premier temps, les a laissés grossir et a plutôt protégé le marché, puisque la muraille numérique qui exclut la Chine du marché du numérique et du marché de l'Internet, du coup, cette organisation a permis à ces entreprises de grandir sans vraiment la concurrence des grandes américaines, par exemple. Et les entreprises américaines comme Meta, qui ont voulu rentrer sur le marché chinois, se sont plutôt faites refouler ou se sont découragées par rapport à toutes les règles qu'il fallait respecter. Donc, c'était un moyen de protéger, c'était une forme de protectionnisme. Et puis, ces entreprises chinoises ont beaucoup grossi. Et là, il y a à peu près 2-3 ans, le gouvernement chinois a un peu changé les règles du jeu en disant, dorénavant, il va falloir vraiment respecter l'intérêt du pays, l'intérêt social et politique du parti, parce que c'est comme ça que ça se passe.

9:24Et les réglementations que l'on voit mises en œuvre, il y a une loi qui a été adoptée l'été dernier sur les modèles de langage, qui repose beaucoup sur l'idée de protéger le modèle politique chinois, parce qu'on ne veut pas finalement que les Chinois aient cherché des informations sur la Chine au travers de ces modèles de langage. Donc, il y a vraiment cette idée de préserver le modèle politique avant toute chose, y compris dans l'organisation du marché. Donc, on est dans un modèle un peu de capitalisme, mais à la chinoise, avec une grosse supervision étatique et des intérêts politiques de l'État qui doivent toujours prévaloir. On voit aussi, par exemple, que les législations sur la protection de la vie privée ne s'appliquent que pour les entreprises, mais ne s'appliquent pas du tout aux acteurs publics et à l'État en particulier, parce que l'État, lui, il veut savoir, il veut avoir des informations sur les individus. Donc, ça vise aussi, ce modèle chinois, on le caractérise aussi par tout le modèle de surveillance. On parle beaucoup des caméras dans les rues, etc., de la reconnaissance, du scoring social.

10:26Donc, on parle aussi de cette façon de monitorer, de surveiller les individus. Donc, vraiment, omniprésence de l'État dans ce modèle-là. Le modèle américain, on ne sera pas surpris, on fait prévaloir le marché, c'est le marché qui doit tout réguler. Donc, on laisse les acteurs monter en puissance, on laisse jouer la concurrence et on compte sur l'innovation. Et donc, c'est la raison pour laquelle on trouve toutes les grandes entreprises numériques et on trouve aussi les fournisseurs d'IA, comme par exemple OpenAI, qui constituent des nouveaux acteurs, qui s'appuient aussi sur les acteurs plus traditionnels comme Microsoft. On voit qu'il y a aussi beaucoup d'accords qui sont passés entre les différents acteurs, ce qui pose beaucoup de questions sur la concurrence et sur les marchés, sur le verrouillage des marchés, qui est certainement déjà là, parce que les modèles d'IA mis en œuvre par ces entreprises sont des grands modèles à usage général, qui nécessitent énormément de moyens, énormément de données, d'infrastructures, et seules ces entreprises ont les moyens d'avoir tout à la fois, les données, les infrastructures et les personnes, parce qu'évidemment, il faut beaucoup d'argent pour ça. Donc, c'est ce qu'on voit émerger aujourd'hui.

11:28Et puis, en Europe, l'Europe essaie depuis plusieurs années déjà, depuis toujours, d'avoir beaucoup de réglementations sur le numérique. Il y a énormément de textes qui ont été adoptés depuis 10-15 ans, et en particulier les cinq dernières années, dont le règlement IA que je mentionnais tout à l'heure, où on essaie de préserver des droits des individus, on essaie de respecter la vie privée, de discrimination que j'évoquais, avec des règles de gouvernance des données. On essaie, par exemple, de vérifier que les jeux de données n'excluent pas une partie de la population, parce que sinon, on sait qu'il va y avoir des biais, des résultats qui sont émis, donc des biais de l'IA. Donc, on essaie de mettre en œuvre ce genre de dispositions. On essaie aussi de préserver le modèle du droit d'auteur et la protection des œuvres qui sont utilisées pour entraîner les modèles d'IA. Donc, on essaie de trouver des solutions aussi de ce point de vue-là. Donc, voilà, on essaie d'établir un équilibre, mais du coup, on comprend aussi que l'Europe n'est pas leader de la technologie, leader des droits et de la réglementation. Et donc, le fait d'avoir adopté un règlement IA assez tôt a pour objectif d'essayer d'organiser le marché de l'IA à l'échelle internationale.

12:33C'est très ambitieux. On verra si l'Union européenne est suivie ou pas par les autres. Probablement pas dans tous les aspects, mais c'est justement ça qui est intéressant à regarder.

12:42Sacha: J'aimerais continuer un petit peu sur ce sujet. Donc, tu as écrit un article, Céline, sur l'acte IA, justement, de l'Union européenne, où tu questionnes un petit peu l'adéquation pour la protection des consommateurs. Est-ce que tu peux m'en dire un peu plus sur les lacunes que tu aurais pu trouver, par exemple, ou identifier ?

12:57Guest 1: Oui, alors c'est un article que j'avais écrit à la demande d'une collègue en France pour un ouvrage collectif autour des questions d'intelligence artificielle et surtout autour des questions du droit de la consommation dans différents textes numériques. Il dirait le texte sur l'IA. Et l'article que j'ai proposé, que j'ai publié, concerne une version antérieure du règlement IA, parce que le règlement a mis trois ans à être adopté. C'est toujours comme ça. Le processus législatif est quand même assez long en Europe. Il y a plusieurs institutions et donc plusieurs versions du texte. Donc, c'était une version antérieure où les consommateurs n'apparaissaient pas du tout. Donc, il n'y avait pas du tout de droit pour eux, pas de moyens d'agir par rapport à des outils d'IA qui leur seraient appliqués, pas de droit particulier et je considérais que les personnes qui subissent l'IA ou à qui l'IA est appliqué devaient avoir des droits, en fait, pour pouvoir dire « je ne veux pas que l'IA soit appliqué » ou « je voudrais que la décision soit revue par un humain » ou ce genre de choses. Et ce n'était pas le cas. Et entre-temps, on peut penser que la doctrine a parfois une influence, on ne sait jamais, mais entre-temps, le texte a évolué et il y a un peu plus de place aux consommateurs.

14:06Donc, dans la version finale, ça va un petit peu plus loin. Bon, je ne dirais pas que c'est parfait, mais on a quand même un petit peu plus tenu compte du rôle des consommateurs. Donc, ça, c'est quand même un point important parce que quand on parle du droit de la consommation, on peut se référer à tout un autre champ du droit qui n'est pas le droit de l'IA, mais qui est un champ qu'on a déjà. Le droit de la consommation, ce n'est pas nouveau. Et donc, le fait de se référer à des consommateurs et d'ouvrir la porte à leurs problématiques éventuelles, ça ouvre ce champ du droit. C'est aussi ça l'intérêt quand on cherche finalement dans le droit déjà existant.

14:37Sacha: un petit peu des enjeux, justement, en matière de protection des données personnelles, spécifiquement face au développement de l'IA. Quels sont-ils? Quels sont les principaux enjeux en matière de protection des données?

14:49Guest 2: Oui, bien, je pense que si je peux me prononcer, tout simplement, c'est certain que le développement de l'IA, ça nécessite nécessairement l'utilisation des données. Et parfois, les données vont avoir des enjeux parce qu'ils sont protégés intellectuellement, mais vraiment pour les citoyens, le plus grand enjeu, je crois, c'est vraiment les enjeux de l'éprimé. Et donc, au Québec, on a eu très récemment des changements. Donc, juste hier, il y a eu une dernière vague de la loi 25 qui est en train de guerre en 2021 et dont les effets sont échelonnés sur trois années, donc 2022, 2023 et là, 2024, hier. et ça invoque le droit à la portabilité des données, notamment, qui va redonner aux citoyens le contrôle de leurs données personnelles et de leurs renseignements personnels, en fait, et aussi à l'importance qui a été accordée à l'anonymisation des renseignements personnels. Et donc, ce qui est en train de faire en sorte qu'on n'est plus capable d'identifier directement ou indirectement un individu par ces éléments.

15:51Et donc, c'est un concept qui était déjà dans la loi 25 mais qui a été prévu par règlement par la suite, le 30 mai dernier. Donc, bref, d'un côté, c'est certain que, de mon point de vue, ça donne une plus grande protection que de simplement dépersonnaliser les données. Mais d'un autre côté, c'est certain que c'est un processus comme on peut le voir dans la loi, c'est un processus qui est très demandant pour les organisations qui impliquent beaucoup de ressources à l'interne et qui est très lourd. de voir, c'est certain que c'est quand même assez récent depuis le 30 mai, mais j'ai hâte de voir si ça va être respecté puis comment les organisations vont être en mesure de mettre en place ce processus qui est assez long et rigoureux.

16:34Guest 1: Oui, si je peux ajouter de mon côté, c'est sûr que la protection des données personnelles, c'est assez intéressant à deux égards. D'abord, en effet, il faut beaucoup de données. Donc, il y a forcément des données personnelles. Donc, il faut respecter la réglementation sur les données personnelles. Même si on a une réglementation sur l'IA, il faut articuler les deux. Les deux s'ajoutent, en fait. Donc, c'est sûr que c'est un enjeu important. Et puis, en attendant, justement, qu'on ait une législation sur l'IA, au moins, en attendant, on a quand même déjà cette législation, cette loi 25 au Québec qui s'applique et la loi PIPEDA pour le moment au Canada qui doit être réformée aussi avec le projet de loi C27. Mais en tout cas, on a déjà au moins ça, cette loi PIPEDA avec toutes les limites qu'elle peut comporter. Mais au moins, on a quand même déjà un principe de protection des données personnelles qui s'applique dans le contexte de l'IA. Donc, il ne faut pas oublier que ce n'est pas parce que c'est une technologie nouvelle qu'on doit oublier la loi déjà applicable. Donc, c'est sûr que ça reste un enjeu important.

17:25Sacha: Comment est-ce qu'on équilibre les besoins de sécurité justement pour respecter la vie privée dans l'ère du numérique et quelles sont vos principales recommandations pour protéger les droits humains ?

17:36Guest 1: C'est justement tout l'enjeu pour les législateurs de se demander où est-ce qu'on met les curseurs, on comprend qu'il y a des risques, on comprend qu'il y a des bénéfices et donc on ne veut pas non plus tuer l'innovation, on veut protéger les individus. Donc, il faut trouver un peu des équilibres entre des tensions et des objectifs différents. Il y a plusieurs moyens de le faire, mais je pense qu'avant toute chose, il faut se demander de quel risque on parle, qu'est-ce qu'on cherche à éviter. Et donc, il faut faire beaucoup de recherches aujourd'hui, que ce soit en droit canadien ou en droit européen ou en droit américain, on se base beaucoup sur des scandales qui ont pu avoir lieu aux États-Unis. Par exemple, les risques de discrimination ont été beaucoup révélés par rapport, par exemple, à des outils de score, de risque de récidive, par exemple, dans le système pénitentiaire américain. On a vu que ces types de scoring étaient biaisés, ces types d'outils étaient biaisés au détriment des populations noires. Donc, c'est parce qu'il y a eu des recherches et des scandales dévoilés qu'on peut se dire attention, l'automatisation des outils et a fortiori l'IA, ce n'est pas forcément magique, ce n'est pas forcément bien en soi, tout dépend évidemment comment c'est mis en œuvre, comment c'est interprété, comment c'est conçu, etc.

18:47Donc, ça, c'est quand même important de voir un peu les risques. Et dans la réglementation européenne, l'approche est quand même assez large puisqu'on parle des risques pour la santé, des risques pour la sécurité et des risques pour les droits fondamentaux. Donc, les questions d'exclusion, les questions de vie privée, les questions aussi de défense des individus, de garantie procédurale des individus, toutes ces questions-là, on les retrouve, on retrouve bien sûr la liberté d'expression, etc. Dans le texte canadien, dans le projet de loi C-27, partie 3 que mentionnait Jade, l'approche est un peu plus restreinte parce qu'on parle des risques de discrimination et des risques de préjudice. Donc, c'est moins clair de savoir si on doit considérer éventuellement tous les droits fondamentaux qui seraient protégés par la Charte canadienne des droits et libertés, c'est moins clair. Voilà, alors bien sûr, dans les explications qui sont données autour du texte, il faudrait l'interpréter, mais pour l'instant, les textes sont quand même un peu flous.

19:37Sacha: Un autre risque qui est mentionné quand même par pas mal d'experts, c'est l'impact sur nos systèmes démocratiques. En tant que spécialiste du droit, qu'en pensez-vous ? Est-ce que c'est un enjeu ? Est-ce que l'IA, c'est un enjeu pour la démocratie ? Et si oui, quels sont les principaux risques ?

19:54Guest 1: Moi, j'en vois deux principaux. Je vois les questions des informations en ligne, mais ça, je laisserai peut-être Jade développer un petit peu. notamment en période électorale, ce qui vient influencer évidemment les opinions publiques. Et puis, les processus électoraux eux-mêmes, parce que de plus en plus, on utilise des outils électroniques, les votes électroniques, etc. même sur les répertoires électroniques qui agrègent les résultats électoraux, il peut y avoir des attaques, il peut y avoir des risques de falsification. Donc là, vraiment, je vois des risques de cybersécurité dans l'organisation des élections elles-mêmes. Et ces enjeux démocratiques sont vraiment au cœur des préoccupations de tous les gouvernements. à la fois, donc avant le vote, on a peur qu'il y ait des manipulations d'opinion, mais vraiment aussi le vote lui-même qui serait truqué. Et ça, ça fait vraiment partie des questions, des enjeux très, très forts pour les gouvernements. Et donc, l'élection Canada, par exemple, se préoccupe de ces questions-là.

20:57Et bien sûr, ça a été un enjeu important lors des élections européennes aussi qui ont eu lieu au mois de juin. Enfin, tous les gouvernements partout dans le monde sont très préoccupés de ces questions.

21:06Guest 2: Oui, comme Céline a mentionné, c'est certain qu'il y a un grand risque de désinformation et ce qui fait vraiment peur, je crois, et je pense que Sacha, tu pourrais être en accord avec moi, mais c'est d'un point de vue plus technique du développement de l'intelligence artificielle. On peut vraiment cibler et orienter une personne en fonction de ses intérêts vers du contenu qui est très ciblé et très précis. Donc, ça peut faire en sorte qu'on est littéralement désinformé et qu'on peut être influencé dans une voie et qu'on ne peut pas influencer naturellement. Mais je pense que c'est un enjeu qui est quand même pris au sérieux. On l'oublie quand même un petit peu parce que c'est seulement des principes, mais il y a la Déclaration de Montréal pour un développement responsable de l'IA qui date de 2018, donc qui date quand même d'assez longtemps, qui avait dans ces dix principes et on sait que, oui, la vie privée, c'est important, mais aussi la démocratie et que c'est quelque chose qui devait être pris en considération.

21:59Sacha: Tu y touches un petit peu, mais quelles mesures juridiques ou même réglementaires pourrions-nous envisager un processus démocratique ?

22:07Guest 1: Ce que l'on essaie de faire pour la désinformation, justement, on essaie de surveiller les réseaux, de regarder s'il n'y a pas des bots, par exemple, qui envoient tout un tas de messages automatiquement à certaines populations. Donc, on essaie de voir un petit peu ce qui se passe là. On sait que ce genre de manipulation a pu influencer des élections. C'est ce qu'on soupçonne en 2016, même ce qui a été prouvé pour l'élection de Trump, également pour le Brexit. Donc, on a vu quand même des impacts très directs sur des prises de décision de la population au travers des élections. Donc, on essaie de regarder des manipulations des réseaux sociaux. Et par exemple, en Europe, un texte a été adopté qu'on appelle le DSA, Digital Single Act, qui a pour objectif, justement, de regarder tout ce qui est modération des contenus, mais tout ce qui est aussi risque systémique dans l'utilisation des réseaux. Et ce qu'on considère comme étant un risque systémique, justement, c'est quand on voit qu'une plateforme a un grand pouvoir et que si on l'utilise de telle ou telle manière ou si on contourne certains paramètres comme, en fait, on a pu le voir au travers de Meta et de son réseau social et des petits tests et des petits quiz, des petits jeux qui ont pu être mis en œuvre pour essayer de collecter beaucoup d'informations sur les individus.

23:22Là, c'est typiquement une utilisation massive d'un outil. Et donc, il appartient à la plateforme même si ce n'est pas la plateforme elle-même qui le fait. Quand elle donne accès à ses clients à tel ou tel paramètre ou à tel ou tel compte de ses utilisateurs, c'est le genre de choses qu'on peut demander, surtout en période électorale, c'est le genre de choses qu'on surveille. Donc, on peut rendre responsable de la plateforme qui met en place des moyens, qui donne des moyens d'influencer les utilisateurs et éventuellement, ultimement, d'influencer les élections. Donc, ça, c'est le genre de choses qu'on peut faire. Et puis après, comme je le disais, il y a les procédures électorales elles-mêmes. Donc, ça, ça va vraiment beaucoup dépendre des modèles organisationnels des États. Mais quand on pense aux États-Unis, par exemple, c'est vraiment un très gros enjeu cette année, évidemment, avec les élections présidentielles, où les règles électorales sont différentes à chaque fois d'un État à un autre. Il y a vraiment toutes sortes de façons de détourner les règles, de contourner, voire même de fausser les résultats. Et donc, l'aspect numérique est vraiment regardé par exemple, si les votes électroniques sont ouverts ou pas.

24:28Comme je le disais, on a vraiment peur des manipulations. Donc, chacun essaie de répondre comme il peut, en fonction de son modèle électoral aussi, de ses capacités.

24:39Sacha: Je voudrais parler un petit peu d'un autre sujet. Je pense que c'est la semaine passée, OpenAI a publié des informations sur son nouveau modèle. Et ils mettent vraiment l'accent sur leur cadre d'évaluation des risques. Et ils font beaucoup d'efforts pour assurer les liens responsables. En lisant un petit peu leur publication, notamment des améliorations en matière de raisonnement avancé. Donc, on voit que maintenant le modèle reste réfléchi, avant de donner une réponse. Comment est-ce que vous percevez le rôle de l'entreprise comme OpenAI dans l'établissement des normes parce que c'est eux qui est structure et qui design ces applications ? Est-ce qu'ils devraient collaborer davantage avec les chercheurs comme vous et les régulateurs ?

25:21Guest 1: Oui, la réponse est forcément oui. On ne veut pas laisser aux acteurs privés quel qu'il soit le rôle, le pouvoir de définir des règles de société pour tout le monde. Ça, c'est sûr que ce n'est pas ce qu'on souhaite. Surtout qu'on comprend que les modèles de langage ou l'IA génératif de manière générale sont extrêmement influentes parce que c'est le contenu qu'on va produire demain grâce à ces outils. Donc, si on a un contenu biaisé ou par exemple négationniste, ça veut dire qu'on va être appelé à chaque fois à produire des contenus qui nieront les atrocités de la Seconde Guerre mondiale. Ce n'est pas du tout les choses qu'on veut socialement. On veut pouvoir quand même maîtriser le contenu et garder le sens de l'histoire et on ne veut pas que des acteurs privés décident du jour au lendemain que telle ou telle chose n'existe pas, n'a jamais existé ou privilégier telle ou telle opinion. On parlait de risque démocratique, ça c'est un risque démocratique important. Et donc, on commence à demander effectivement un peu plus de garantie à ces acteurs et c'est justement l'objet, un des objets du règlement IA que j'évoquais qui intègre justement les modèles à usage général. Les grands modèles de langage font partie de ces modèles à usage général et on les oblige à un petit peu plus de mesures, notamment des mesures de transparence sur la façon dont les IA ont été entraînées, sur les sources aussi de plus en plus.

26:32On comprend aussi que les utilisateurs ne peuvent pas vraiment utiliser pleinement ces outils s'ils ne connaissent pas les sources. Donc, ça fait partie aussi de la demande clientèle, si je puis dire ça comme ça, pour pouvoir s'imposer sur le marché. Et donc, de plus en plus, soit parce que le législateur leur demande de prendre en compte un certain nombre de choses et par anticipation ils commencent à le faire, soit parce qu'ils veulent aussi gagner des parts de marché et dominer le marché, ils répondent à des besoins et à la demande des utilisateurs. Donc, c'est un petit peu les deux. Quoi qu'il en soit, dans une dynamique d'amélioration de ces modèles, que ce soit par rapport à des biais ou que ce soit par rapport à l'efficacité ou la véracité, l'authenticité des informations qui pourraient être dévoilées. Donc, je pense qu'il y a quand même un effort de nettoyage des données, de qualité des données, de qualité des réponses, même si, évidemment, c'est loin d'être parfait. Mais on voit, par exemple, Google avec son modèle Gemini qui a voulu rectifier certains biais ratios, mais qui, du coup, a montré des soldats nazis noirs.

27:38Ce qui est plus qu'une contre-vérité historique, c'est quand même une atrocité de nous montrer ça. Ça n'a vraiment aucun sens. Mais on voit que, évidemment, c'est une erreur grossière de manipulation des données, mais on voit que, justement, on cherche à débiaiser certains jeux de données, mais qu'on ne sait pas encore bien le faire, on est encore maladroit. Mais il y a quand même un travail qui est fait en ce sens. Et dès qu'un modèle dérape, on le sort du marché parce que, c'est évidemment catastrophique. Donc, voilà, il y a une autorégulation du marché aussi qui joue pour ces acteurs au-delà de la législation.

28:09Guest 2: Et Céline, je ne sais pas si tu t'en rappelles, mais on s'était un peu penchés brièvement, toi et moi, sur l'aspect culturel et la langue qui est aussi mis en péril par les gros modèles de langage puis qui pourraient éventuellement disparaître. Puis la représentation des minorités aussi, également, dans les gros modèles de langage, États-Unis. Donc, ouais, c'est un autre risque qui peut aussi être envisagé.

28:38Guest 1: Absolument. Et il y a plusieurs projets de recherche en ce sens, d'ailleurs, pour protéger des langues. Il y a des projets financés pour les contenus en français, par exemple, mais aussi des langues autochtones, etc., ce qui pose d'autres enjeux d'appropriation et des enjeux identitaires. C'est encore d'autres questions, mais en effet, on se rend compte que c'est important.

28:58Guest 2: Oui, il y a beaucoup de questions et je pense que ça démontre à quel point oui, je pense qu'il y a vraiment une bonne collaboration avec les chercheurs et les experts dans le domaine.

29:06Sacha: C'est sûr. Moi, j'ai une question un petit peu naïve et c'est vraiment une question que je me pose et j'aimerais être éclairé ou avoir votre avis honnête sur la question. Peut-on vraiment réglementer quelque chose qu'on ne comprend pas totalement ?

29:21Guest 1: C'est une bonne question. Ça revient un petit peu à se demander si le juriste qui fait du droit du numérique ou du droit des technologies doit aussi être technicien et doit aussi être scientifique des données, informaticien, etc. Je ne le suis pas, donc je le dis d'emblée. Les législateurs ne sont pas non plus des connaisseurs la plupart du temps, donc c'est aussi pour ça qu'il faut travailler en collaboration. Je crois que c'est l'enjeu principal ici, la façon de s'en sortir principale, parce que personne n'est parfaitement complétant sur une approche ou sur une autre, on a besoin de tout, donc les travaux collectifs sont très importants, donc ça, on emmène beaucoup dans le milieu académique et les législateurs aussi dans les différentes commissions souvent font intervenir des académiques, des universitaires ou des experts de manière générale de différents domaines et en effet, il faut aussi bien faire venir le scientifique des données que le juriste, que le sociologue, etc. Mais en effet, il faut avoir une compréhension minimale de l'objet que l'on cherche à réglementer.

30:14Sacha: Je vais essayer de préciser encore plus ma question parce que ce n'est pas du tout pour dire ceux qui réglementent ne connaissent pas. C'est juste, même selon moi, même OpenAI, ceux qui construisent la technologie ne comprennent pas à 100% ce qu'ils sont en train de construire. C'était plus d'un point de vue comment est-ce qu'on fait pour réglementer quelque chose qu'on ne comprend pas totalement. Et j'ai vu un documentaire récemment qui met en comparaison puisque c'est sur ça que ça se bâtit, que les humains ne comprennent même pas forcément à 100% leur cerveau et pourtant on essaie de répliquer notre cerveau qui est justement les modèles de langue. Et donc, c'est pour ça que je me pose cette question. Est-ce qu'on peut vraiment réglementer quelque chose que même ceux qui le construisent ne comprennent pas à 100% ? Ce n'est pas du tout pour minimiser la compréhension des régulateurs ou autre.

31:00Guest 1: C'est un enjeu important et souvent, ce problème-là, c'est un peu ce qu'on appelle, ce qu'on a un peu simplifié, dit un peu bêtement, mais tout le monde va comprendre, c'est relatif à la question de la boîte noire, la fameuse black box. On ne comprend pas, c'est une boîte noire, etc. On ne sait pas comment ça fonctionne. Et donc, certains au début disaient il faut ouvrir la boîte, il faut qu'on puisse comprendre, etc. Et là, tout le monde dit aujourd'hui, plus personne ne dit qu'il faut l'ouvrir, en disant de toute façon, ça ne sert à rien, personne ne comprend. Par contre, ce qu'on peut faire et ce que l'on doit faire, c'est poser des obligations avant et des obligations après la boîte. Donc, avant, c'est les données, la façon dont on organise les jeux de données, qu'est-ce qu'on cherche à faire. Là, on ne comprend pas qu'il est hyper complexe et tout, mais peut-être qu'il produit des résultats socialement acceptables, il est efficace, etc. Donc, il ne faudrait pas s'en priver. Mais donc, il faut avoir un regard très fort sur les résultats qui sont produits et ce, tout au long du cycle de vie du système, puisqu'on sait qu'ils sont évolutifs, on ne comprend pas tout, etc.

32:10Donc, il faut en permanence les surveiller, en fait. Et donc, c'est plutôt ça l'enjeu aujourd'hui, c'est de se dire bon, ok, on ne comprend pas, mais tant pis. Ce qu'on sait, en tout cas, certains d'entre eux, connus. Et donc, il faut déjà au moins chercher à voir si ces risques-là ne sont pas en train de se produire à travers tel ou tel modèle ou système d'IA et rectifier dès qu'il y a un problème ou sortir du marché l'outil qui dysfonctionne, en fait. Donc, c'est comme ça qu'on s'en sort.

32:39Guest 2: Et oui, je pense que, comme Céline l'a mentionné, c'est très important, oui, avant la mise en marché, mais également après la mise en marché parce qu'on ne sait pas à quoi s'attendre, on ne sait pas ce qui va arriver dans une perspective d'un jour, dix ans, et l'évolution de la technologie et que le cadre législatif qui est mis en place puisse aussi également s'adapter à ses innovations technologiques et à son développement qui est inattendu pour le moment et qui va probablement rester inattendu pour un long moment. Et oui, donc, je crois que c'est très important et je sais qu'on avait beaucoup discuté, Céline, qu'il y avait une législation qui était particulièrement spécifique mise en marché avant la mise en marché. Est-ce que je me trompe ?

33:23Guest 1: Oui, le règlement, il y a justement, le règlement européen pose beaucoup d'obligations avant la mise sur le marché pour justement éviter un certain nombre de risques, mais on sait en effet que c'est évolutif et qu'il y aura d'autres risques potentiellement après la mise sur le marché, donc il faut continuer de surveiller. Donc, il y a un principe de surveillance du marché, surveillance des produits pendant tout le cycle de vie du produit.

33:44Sacha: J'ai une autre question qui est, il y a en fait plus ou moins deux questions. Comment est-ce qu'on fait pour ne pas être trop extrême ni d'un côté ni de l'autre quand on régule un système IA comme ça ? Donc, on ne veut pas non plus l'empêcher de répondre trop, mais on ne veut pas non plus qu'il puisse répondre tout et n'importe quoi. Comment est-ce qu'on trouve le right balance dans la régulation ?

34:09Guest 1: Je ne crois pas qu'on puisse vraiment dire qu'est-ce qui répond qu'est-ce qui ne répond pas. On ne va pas contrôler les réponses à proprement parler. Par contre, ce qu'on sait, c'est qu'on veut qu'ils respectent déjà les lois existantes, qu'ils respectent par exemple qu'il n'y ait pas d'atteinte aux personnes, qu'il n'y ait pas de propos racistes, etc. Ça, c'est déjà des lois existantes, c'est déjà des choses qu'on ne veut pas que l'humain fasse. Alors, il n'y a pas de raison qu'on veuille que les technologies le fassent. Donc, on a déjà un cadre légal et social de ce qui est acceptable et de ce qui ne l'est pas. Mais évidemment, ce n'est pas une liste de mots choses à faire ou ne pas faire. Mais en tout cas, quand on est concepteur des systèmes et quand on veut les mettre sur le marché, on doit faire un certain nombre de tests pour s'assurer qu'il n'y ait pas tel ou tel comportement illégal, injurieux, etc. Donc, on doit s'assurer du respect de la loi. Ça, c'est la base. Ce qui n'empêche pas qu'éventuellement, l'outil dégénère. On a eu plein d'exemples comme ça où l'outil au départ était très bien et puis tout à coup, il devient sexiste, raciste, etc.

35:14Il y a eu plusieurs affaires en ce sens. Mais à ce moment-là, il faut réagir et le retirer du marché. Enfin, il ne faut pas laisser faire ce genre de choses. Donc, il faut toujours, c'est un peu le lait sur le feu. Il faut toujours le surveiller et ne pas tenir pour acquis que ce qui a été vérifié au moment de la mise sur le marché est suffisant et on n'a plus rien à faire. Ça, c'est sûrement pas comme ça qu'il faut agir.

35:36Guest 2: Et je pense que qu'est-ce qui va être difficile pour apprécier la mise en marché, ça va être de garder aussi un équilibre pour protéger l'innovation, l'entrepreneuriat, qui est un équilibre qui crée des applications d'intelligence artificielle, qui les utilisent. Et donc, je pense que la difficulté, peut-être que je me trompe, si je peux me corriger au besoin, mais je crois que l'équilibre à trouver entre ne pas trop donner d'obligation, mais juste assez pour protéger et faire en sorte qu'on puisse réagir s'il arrive quelque chose de catastrophique, mais en même temps que ce ne soit pas trop lourd pour pas non plus freiner l'innovation. Donc, moi, pour ma part, c'est ça des fois qui me... qui m'engouache, je me dis, je ne sais pas comment on va pouvoir trouver le parfait équilibre pour qu'on puisse innover, mais sans non plus laisser libres les entreprises et les géants de ce monde.

36:27Sacha: J'aimerais pousser la réflexion vraiment très loin. Quand je vous entends parler, j'ai l'impression qu'on parle d'un humain. Est-ce qu'on devrait penser de l'IA génératif comme si c'était un humain? Est-ce qu'on devrait le réguler comme si c'était un humain?

36:41Guest 1: Ça, ça fait référence à un peu une image d'épinal de l'IA tellement forte que finalement, il faudrait le considérer un peu comme une personne. Du point de vue du droit, c'est quand même une aberration parce que ça reviendrait à reconnaître une personnalité juridique à ces outils-là. Pas vraiment de raison de le faire parce que ces outils ne sont pas autonomes et n'ont pas de volonté autonome à proprement parler. Ils dépendent de la programmation qui a été faite, des objectifs qui ont été faits, ils évoluent. Il y a quand même toujours quelqu'un qui les a programmés et qui les a mis sur le marché. Ils ne s'auto-construisent pas, ils ne décident pas de se développer tout seuls. Donc, il y a toujours des humains derrière. Le risque que je vois aussi avec ça, c'est que c'est une façon de déresponsabiliser les humains qu'ils mettent sur le marché. Si on dit « Ah ben non, ce n'est pas moi, c'est l'IA qui a sa propre volonté. Moi, je ne suis pas responsable de ce qui se passe », c'est un peu trop facile et du coup, que se passe-t-il en cas d'hommage commis par une IA qui serait soi-disant responsable ? Il ne se passe rien du tout parce que quand on crée une personnalité juridique, normalement, il y a un patrimoine qui est associé pour justement pouvoir réparer les éventuels problèmes.

37:44Donc, en fait, c'est déplacer le problème mais rien régler du tout. Donc, il faut plutôt rendre responsables les concepteurs et les fournisseurs des systèmes d'IA à charge pour eux, même s'ils ne peuvent pas tout savoir et tout contrôler à l'avance, à charge pour eux d'être réactifs en fait. On ne leur demande pas des obligations de résultats à ce qu'il y a soit parfaite. On comprend que la technologie est en train d'évoluer mais des obligations de moyens met en œuvre les moyens pour regarder ce qui se passe, pour faire des contrôles avant la mise sur le marché, de continuer de vérifier, etc. Et d'avoir aussi un système d'alerte des utilisateurs, tout simplement, parce que finalement, ce sont les utilisateurs qui jouent aussi avec l'IA, qui vont tester les limites et qui peuvent aller bien au-delà de ce que veulent les entreprises elles-mêmes. On le voit tous les jours, y compris par des personnes mal intentionnées qui cherchent à commettre grâce à l'IA. Donc, bien sûr que les entreprises ne veulent pas ça, mais elles mettent en marché un outil très puissant. Donc, il faut qu'elles soient capables de réagir aussi.

38:43Sacha: Parfait. J'aimerais vous laisser la place pour chacune d'entre vous partager un dernier mot. Est-ce que vous voulez vraiment le franchir?

38:55Guest 2: Je pense qu'on en a peut-être un peu moins parlé, mais je pense que moi, le but de mon invitation sur le podcast aujourd'hui, c'est un peu de faire la promotion de, oui, le droit de l'intelligence artificielle et comment c'est intéressant pour une étudiante qui a fait son baccalauréat, mais qui s'y intéresse au-delà et de la chaire, ce qu'on fait à la chaire. Donc, je pense que c'est vraiment important pour les étudiants dès leur passage au baccalauréat ou à la licence en droit civil, de s'intéresser au droit de l'intelligence artificielle, mais aussi de s'intéresser à l'utilisation qu'on en fait parce que c'est pas un secret qu'il va falloir dans toutes les professions apprendre à utiliser l'intelligence artificielle pour pas non plus offrir un service qui est pas concurrent dans le marché. Donc, je crois qu'il faut pas être de l'opinion et d'avoir peur que l'intelligence artificielle va nous remplacer, mais il faut apprendre à l'apprivoiser. Donc, oui, je pense que s'il y avait une chose à retenir, c'est d'apprendre à l'apprivoiser, mais aussi de s'intéresser de l'artiste. Merci pour l'invitation, Sacha, encore une fois.

39:54Guest 1: Voilà, je ferai du pouce sur ce que Jade vient de dire. Contactez-nous si ce sujet vous intéresse et aussi bien si vous êtes profession juridique ou future profession juridique et que vous vous intéressez, vous inquiétez des impacts sur votre métier que si vous êtes intéressé par la réglementation de l'IA. Et au-delà, bien sûr, parce qu'il faut que toutes ces questions soient débattues en interdisciplinarité. Donc, j'invite aussi toutes les personnes des autres disciplines à nous contacter et ce sera avec plaisir. Sacha, de nous donner l'opportunité d'en discuter.

40:23Sacha: Merci beaucoup, Céline. Merci beaucoup, Jeanne. Merci beaucoup, Jeanne. Merci.