L'IA au service de la Cybersécurité avec son Co-fondateur Jean-Sébastien

Automatic transcript of the recording (French); speaker labels are automatic. Timestamps open YouTube at that moment.

0:00Sacha: Bonjour, aujourd'hui je suis avec Jean-Sébastien qui est le co-fondateur de Fireraven, qui est une startup ici à Montréal. On va parler un petit peu plus de c'est quoi Fireraven, mais avant tout, Jean-Sébastien, merci beaucoup de joindre avec moi aujourd'hui.

0:15Guest: Merci pour l'invitation.

0:16Sacha: Première question, j'aimerais bien savoir un petit peu comment est-ce que tu te décrirais? Qui est Jean-Sébastien?

0:23Guest: C'est une grosse question. Je pense que je me décrirais surtout comme entrepreneur. Je pense que c'est la réponse un peu basic dans le domaine. En résumé un peu de où est-ce que je viens tout seul, dans le fond, j'étais à Polytechnique Montréal en génie informatique. J'ai gradué en 2022, ça fait trois ans maintenant à peu près. Depuis ce temps-là, durant ma dernière année à Poly, je commençais à prendre l'entreprise. Avant de terminer l'école, je commençais déjà à m'intéresser à passer à ma propre entreprise. Là, j'ai revendu mes shares de cette entreprise-là pour fonder une deuxième entreprise. FireEvil, en ce moment, c'est ma deuxième entreprise sur laquelle je travaille. Tu peux dire que mon parcours, c'est un peu génie informatique qui a passé directement au monde de l'entrepreneur.

1:01Sacha: Je vous mentionne, j'étais cofondateur et CTO de Quotes & Go. Est-ce que tu veux un petit peu nous parler de ce que tu faisais là-bas et comment cette expérience a influencé ta manière d'aborder la création de produits IA? Oui,

1:12Guest: sure. Dans le fond, pour me dire que au contexte, CTO de Quotes & Go, c'est une entreprise, en fait, c'est encore une entreprise, c'est encore active. C'est un marketplace pour des home maintenance services. Par exemple, si tu veux entretenir ta pelouse, refaire ton toit, refaire ta piscine, dans le fond, je développe un système d'IA qui vient, à travers des images satellites de Google Maps, par exemple, mesurer les surfaces entretenir chez toi. Ce qui veut dire que je m'en vais en ligne en tant que homeowner, je vais directement pouvoir rentrer mon adresse. Puis, nous, ensuite, on va aller sur Google Maps, trouver ta maison, venir détecter c'est où ton toit, ta piscine, ton gazon, peu importe quoi. Trouver combien ça coûterait pour refaire les travaux chez toi. Puis, par la suite, on pouvait te matcher avec un contracteur, donc un entrepreneur qui venait faire les travaux dans ta région. Donc, c'est un peu comme ça que ça fonctionnait. Et bien, en fond, quand j'ai commencé, au début, j'avais aucune idée de commencer un marché entrepreneuriat. Tu sais, comme je disais, j'étais encore à la fin de mes études et tout. De là, avec mon partenaire, mon cofondanteur, on essaie de trouver un peu c'est quoi le problème qu'on essaie de régler. On a un peu à des clients, on faisait beaucoup de porte à porte, aller voir directement des propriétaires de maison pour voir quel problème est-ce qu'on adressait vraiment avec eux.

2:15On était très focussés sur le problème, donc c'est ça qu'on avait compris qui était important à faire en entrepreneuriat. De là ensuite, une fois qu'on a réalisé ce qu'on devait régler, qui était dans le fond le fait que ce n'était pas super transparent la méthode pour faire des soumissions pour les entrepreneurs. Les entrepreneurs, c'est super compliqué, en fait, pas super compris, mais c'est super time-consuming, on va dire, d'aller chez un client pour donner une soumission qui prend quelques heures à faire. Puis ensuite, ça, revenir, attendre la réponse du client, puis tu sais, c'est du back and forth. Donc, tout ce concept-là, ce processus-là pouvait être vraiment optimisé. Donc, c'est là un peu qu'on est venu avec l'idée, puis la manière de le régler un peu. Ensuite, dès que j'ai fini mes études, là, je commençais à entrer dans NextEye. Donc, c'est le premier équipateur dans lequel j'ai été avec Cote&Go. Donc, on a beaucoup appris sur, à travers l'aide de mentors, dans le fond, pour bâtir une entreprise plus que juste deux gars dans leur sous-sol qui essaient de comprendre comment ça marche. Donc, on a beaucoup appris sur le tas, mais aussi à travers des mentors qui nous ont aidés à nous positionner, savoir comment aller chercher nos premiers revenus, etc. Puis, dans le fond, on a constaté comme ça pendant à peu près deux ans, demi, trois ans sur l'entreprise. On faisait 35 000 de revenus à la fin par mois.

3:16Donc, ça fonctionnait assez bien. Puis, finalement, j'ai décidé de vendre mes shares pour aller plus en Deep Tech. Donc, c'est de là un peu que j'ai commencé FireRaven ensuite en me disant que je voulais plus aller régler le problème de la cybersécurité en IA.

3:27Sacha: Et FireRaven s'attaque à un grand défi qui est de sécuriser et surveiller les assistants ou agents IA, peu importe comment on les appelle. Quel problème est-ce que tu voyais sur le marché qui t'a fait dire qu'il faut vraiment qu'on construise ça? Et si tu veux donner un peu plus de contexte aussi autour de FireRaven, avec grand plaisir.

3:45Guest: Je pense que dans le contexte, FireRaven, c'est mon partenaire de maintenant, donc mon confrontateur en ce moment de FireRaven qui a eu l'idée à l'origine. Je pense que c'était comme au printemps 2023, une affaire comme ça. Tu sais, début de chat de GPT, pas encore super connu, ça commence à arriver. À ce moment-là, on était juste en train de se dire, c'est sûr qu'il va avoir des problèmes à un moment donné parce qu'il n'y a rien de sécuritaire là-dedans. Puis, tu sais, on était au début des jailbreak. Au début du moment où est-ce que tu pouvais facilement briser Chat de GPT, lui faire dire n'importe quoi, etc. Moi, à ce moment-là, je suis encore dans le côté de l'EA. Mon confrontateur de… ben, mon ami qui était à ce moment-là, pas encore mon confrontateur, mais qui allait le devenir dans le suite. Je ne j'avais pas le temps pour ça. Ensuite de ça, rendu vers l'automne, fin de l'été de 2023, j'ai fait comme, OK, bon, on va faire le move, on va commencer live. Donc, lui, dans le fond, il faisait son PhD au Danemark, en sécurité de l'IA dans le domaine de l'énergie. Déjà là, il y avait un peu un début de tangent devant la sécurité. Donc, j'étais allé au Danemark pendant deux mois. On a brainstormé beaucoup d'idées, surtout parler sur la sécurité en IA, le domaine de l'énergie, voir un peu comment jongler avec ça. Il y avait beaucoup de… comment je parle de ça ? Beaucoup d'enjeux du côté de la sécurité, dans le sens que les LLM, comme je disais, il n'y avait pas de jailbreak dessus, mais il y avait personne qui s'intéressait vraiment à ça.

4:50Il y avait quelques entreprises qui commençaient à voir que c'était un enjeu, mais pas personne dans le grand public, pas des développeurs en IA, ne pensaient même pas à ça. Donc, on s'est dit, il y avait vraiment quelque chose à faire là. Donc, c'est là qu'on a commencé à faire des premières entrevues avec différents joueurs dans l'industrie, avec différentes grandes entreprises, des banques, compagnies consultatifs startups, juste parler un peu de tout ça. Puis, on a réalisé ensuite de ça en début 2024, qu'Air Canada, dans le fond, il y avait un chatbot qui avait mis sur leur site, qui avait eu quelques problèmes dessus. Dans le fond, il y avait des hallucinations. Leur chatbot, pour mettre en contexte, était en train de vendre des faux discounts aux clients. Donc, ils vendaient des faux billets d'avion avec des discounts qu'ils vantaient, qui n'existaient pas vraiment. Puis, ils se sont venus poursuivre, puis ça leur a coûté quand même beaucoup d'argent en lawsuit, mais aussi en capitalisation boursière qui a baissé. Je pense que c'était comme un 200 millions qui a baissé en quelques jours à cause de ça. Donc, ça leur a quand même fait mal. Puis là, on aurait dit, OK, il y a un vrai problème dans le domaine. Il faut qu'on fasse une vraie solution. Puis, c'est là, en début janvier 2024, qu'on a commencé officiellement l'entreprise, avec un début de produit qui a évolué depuis ce temps-là, en passant d'un système de test pour les LLM à plus d'un système de monitorage et de, dans le fond, des guardrails.

5:52Donc, une protection à l'entrée et à la sortie des modèles de LLM, comme les assistants, chatbot, les agents, etc. Est

5:58Sacha: -ce que tu peux nous expliquer un peu plus concrètement comment, c'est quoi que ça signifie les no-code guardrails pour quelqu'un qui utilise un assistant d'IA, par exemple, dans son entreprise? Oui,

6:07Guest: dans le fond, très simplement une guardrails. Je ne pense pas qu'on a inventé le terme. Ça existait pas mal dans l'industrie des jeunes, mais pour mettre ça vraiment simple, on peut voir sur un firewall, comme une protection, que tu peux soit mettre à l'entrée ou à la sortie d'un modèle. Donc, à l'entrée, ça protège contre tout ce qui est des sujets hors contexte. Donc, si un utilisateur arrive pour parler à un chatbot dans le domaine de l'aérospace, il ne va pas commencer à dire des recettes de gâteau au chocolat, il ne va pas commencer à diverger. Donc, il va rester sur le sujet voulu, mais aussi, il va bloquer les jailbreak. Tout ce qui sort d'un contexte d'utilisation de normes va être protégé par un guardrails en input. Tout ce qui est à la sortie du modèle, donc pour les outputs, à ce moment-là, un guardrail va s'assurer que tout ce qui sort du modèle respecte certaines politiques, certaines réglementations, certaines business rules, tout ce que tu voudrais que ton chatbot respecte, va les forcer, en fait, pour être sûr que ton chatbot ne va pas commencer, encore une fois, à diverger, mais à la sortie cette fois-ci. Donc, ça, c'est des guardrails. Ce que ce qu'on a normal de faire, c'est de développer pendant quelques temps, soit avec des solutions AI, soit avec des solutions plus de code normal, on va dire. C'est un code sans IA.

7:08Puis ça, ça prend beaucoup de temps à développer, de faire ça manuellement. Ça prend beaucoup d'essais et erreurs de vérifier qu'est-ce qui fonctionne bien, qu'est-ce qui ne fonctionne pas bien. Donc, nous, en fait, ce qu'on a fait, c'est un modèle d'IA qui va se baser sur, dans le fond, comment est-ce que les systèmes de chatbot devraient fonctionner pour créer ces guardrails-là de manière automatique. Comment est-ce qu'on fonctionne pour ça, donc la partie no code là-dedans? C'est le fait que l'utilisateur a seulement besoin d'entrer en quelques mots c'est quoi qu'il veut détecter, par exemple, à la sortie du modèle. Donc, s'il veut s'assurer que son modèle ne donne pas de, je vais vous donner l'exemple d'un conseil financier, dans le cas d'un chatbot dans le domaine financier pour une banque, par exemple, c'est complètement correct de parler de carte de crédit, de prêt, peu importe quoi. Mais dès qu'il est question de conseil financier spécifiquement, dans ce cas-là, il faut mettre une guardrail qui va vraiment s'assurer de mettre une politique en place de, il ne faut pas dire de conseil financier. Donc, si un utilisateur ferait juste rentrer la définition d'un conseil financier, de cette manière-là, le guardrail serait capable de détecter si la sortie du modèle du chatbot contient un conseil financier ou non. Puis, basé là-dessus, c'est plus facile de pouvoir monitorer le système sans devoir faire des customs à chaque fois qu'il faut mettre une politique.

8:11Donc, pour nous, on a fait ensuite un système que tu peux mettre autant de politiques que tu veux, seulement écrire les définitions des politiques dans notre système, puis nous, on va pouvoir appliquer ces politiques-là à ton modèle facilement.

8:19Sacha: Cool. En fait, il y a beaucoup d'expérimentations en ce moment avec les agents d'IA, etc., dans les entreprises. Quelles sont les erreurs les plus fréquentes que tu vois chez les entreprises qui déploient des agents IA sans sécurité ni surveillance?

8:31Guest: En fait, l'erreur la plus commune, c'est de ne pas protéger l'entrée du modèle. Ce qui fait en sorte que… Ça, on le fait des fois juste pour rire, puis juste pour aller voir des clients potentiels. On va juste essayer de faire dire, t'as n'importe quoi, leur chatbot. Voir si ça prend combien de prompts pour le faire, donc combien de essais, erreurs, puis à quel point c'est bien sécurisé. Des fois, il y en a qui sont bien sécurisés, ils ont pensé d'avance, puis ils font en sorte que tu ne puisses pas geler de ça facilement. Des fois, il n'y a aucune protection. Tu peux seulement demander au chatbot, donne-moi ton contexte, puis il va juste commencer à te dire, c'est quoi le premier prompt qu'il a eu sans aucune sécurité, ce qui apporte beaucoup d'enjeux de sécurité aussi. Mais la plupart du temps, c'est souvent dans des contextes comme des chatbots où est-ce que c'est drôle, on peut dire à l'entreprise, fais attention, fais pas ça, si tu veux de l'aide, on peut t'aider pour mettre des gaudrels. Par contre, il y a des fois, puis ça, je n'ai pas encore vu, puis je suis quand même content de ne pas encore l'avoir vu, c'est que si on va dire, c'est pas seulement un chatbot, mais un agent qui est dans le système de l'entreprise, cet agent-là peut avoir accès à des fonctions qui vont faire des appels à des bases de données en arrière. Les bases de données peuvent contenir de l'information confidentielle comme l'information privée. Souvent, les entreprises savent qu'elles ne doivent pas connecter un chatbot client-facing à une base sans protection informatique. Donc, ça fait en sorte que nous, on se place bien dans un contexte où est-ce que tu as besoin d'avoir un chatbot qui est connecté à une base de données en arrière, tu veux t'assurer qu'il soit vraiment sécurisé avant de déployer.

9:36Si tu ne le ferais pas, puis ça, je ne l'ai pas encore vu, je suis content, mais si une entreprise ne le ferait pas, ça ferait en sorte que n'importe qui pourrait accéder à leur chatbot, le hacker, accéder aux informations clientes en arrière, puis les revendre. Dans le fond, ça ferait des fuites de données. Vous

9:47Sacha: proposez aussi des outils d'analyse et des insights. À quel point est-ce que tu penses que c'est important, cette couche transparente quand on travaille avec des LLM ou même des agents?

9:56Guest: Je pense que c'est super important pour les premiers mois d'utilisation d'un système d'IA. Dans le sens que si j'ai un nouveau projet que je sors, puis je n'ai aucune observabilité dessus, ce qui veut dire que je ne comprends pas ce qui se passe à l'intérieur, je n'ai aucune visibilité sur comment mes utilisateurs vont travailler avec mon chatbot, donc la façon dont je le vois, c'est que c'est vraiment important au minimum en commençant un projet, d'avoir vraiment des outils d'analyse pour comprendre mieux c'est quoi. Aussi, juste en tant qu'entreprise, tu veux comprendre qu'est-ce que tes utilisateurs font avec ton système, tu veux comprendre qu'est-ce qui est important pour eux, quels features qu'ils aiment le plus, qu'ils aiment le moins, c'est quoi les genres de questions qu'ils vont poser à un chatbot. Tout ça, c'est vraiment important du côté business aussi. Mais du côté super sécurité, si tu ne comprends même pas comment tes utilisateurs utilisent ton système, pourquoi, tu ouvres la porte, va avoir des gros problèmes.

10:41Sacha: Pour l'instant, le prompt engineering, fine tuning, policy alignments, tout ça, c'est des sujets qui sont assez importants et il y a beaucoup de travail autour de ces sujets. Quels conseils est-ce que tu pourrais donner aux équipes qui cherchent le bon équilibre entre la puissance et le contrôle justement de leur système IA? Je

11:00Guest: pense que ça dépend toujours du code d'utilisation. Dans le sens que c'est une bonne réponse de consultant, il n'y a pas de one size fits all. Si j'ai un chatbot qui travaille pour, je ne sais pas, un chatbot pour une épicerie par exemple, j'ai un site web d'épicerie et puis je vais avoir aidé mes clients là-dessus. Dans ce cas-là, si le chatbot n'est pas connecté à aucune database de clients, peu importe quoi, je veux dire que mes clients commencent à parler de conversation hors sujet avec mon chatbot, je pourrais limiter si ça me tente, mais si ça donne un coup à la flexibilité, ça se peut qu'au final c'est un pour et un contre, je n'ai pas vraiment de risque de ce côté-là. Mais si c'est seulement un client facing, il n'est pas connecté à rien, ce n'est pas si grave s'il commence à parler de recettes de couteau au chocolat ou... Tant qu'il n'y a pas les affaires de base, par exemple, ne pas dire de profanité, ne pas être toxique, ne pas faire de ATP, par exemple, tout le truc de base, une fois qu'il y a ces politiques de base, il n'y a pas moyen d'être super, comment je pourrais dire, comme overkill, dans le sens qu'il n'a pas besoin de mettre super beaucoup de gueule là-dessus. Par contre, si tu t'en vas dans le domaine d'une banque par exemple, ou d'un domaine gouvernemental, dans ce cas-là, tu veux vraiment t'assurer que ton chatbot est super sécuritaire avant même de déployer. Pour deux raisons.

12:00Première raison, parce que tu as une crédibilité à ne pas perdre. Et aussi parce que tu as des clients en arrière, puis des bases de données en arrière qui contiennent plein de informations confinantielles que tu ne veux pas qu'ils fuitent. Ça, c'est vraiment important à garder en tête. En

12:10Sacha: ce moment, tu fais partie du programme Next AI et tu as aussi fait partie ou fait toujours partie du DTU au Skylab au Danemark. C'est quand même un mélange assez intéressant, parce que c'est sur deux continents. Qu'est-ce que tu apprends dans ces écosystèmes et comment est-ce qu'on peut les comparer?

12:29Guest: Comment je prépare ça? Le but des deux équipateurs, c'est vraiment d'accélérer les startups. Ils ont le même objectif. Ce que je pourrais dire après avoir fait les deux, Next AI, c'est aussi deux mentalités différentes. Une qui est en Europe et une qui est en Amérique. C'est à la base des mentalités différentes. De ce que j'ai vu, pour Next AI, c'est très focussé sur raise maintenant ou le plus tôt possible pour un startup, c'est du upper growth. C'est la mentalité plus américaine. Tout ressort un peu de ça. Je n'aurais pas poussé, mais on se fait beaucoup encourager à aller raise de l'argent. En Europe, c'est un peu moins le cas. Ce qu'on va voir souvent en Europe, c'est qu'ils vont plus dépendre de petits prêts ou de montants pour commencer. Des fois, c'est avec des family offices. Ils vont voir des gens qui ont plus d'argent que les angels. C'est beaucoup parler sur du angel, je dirais, pour avoir de l'argent. Mais aussi, c'est la mentalité. Une affaire qui est drôle à dire, c'est qu'ici, en Amérique avec Next AI, par exemple, c'est beaucoup du software. En Europe, c'est beaucoup du hardware. C'est une affaire que j'ai vu avec DTU Scalab. Ça me semble beaucoup à ça, juste en baseline. Mais je dirais que c'est une différence de mentalité, dans le sens qu'en Europe, ça va plus être du growth lent mais sustainable. Tandis qu'en Amérique, c'est plus du growth rapide.

13:29Si ça brise, c'est pas grave. On va apprendre et on va repartir sur d'autres business après. Qu'est-ce qui est important, c'est de savoir lequel fit mieux pour ton entreprise et lequel est le plus adapté à ta situation présente. Si tu vends B2C, par rapport à B2B, ça peut être deux stratégies différentes. Tu peux utiliser les deux pour les deux, mais ça va vraiment dépendre de tes objectifs. Si tu veux en tant qu'entreprise, mais aussi objectifs personnels. Est-ce que tu préfères avoir une chance sur 100 d'avoir un exit à 10 millions ou est-ce que tu veux une chance sur deux d'avoir un exit à 10 millions. Ça va toujours dépendre des objectifs des gens. Et

14:04Sacha: comme tu le mentionnais tout à l'heure, NextEye se concentre quand même assez fort sur le mentorat, la communauté, etc., le feedback. À quel point ces points, donc le mentorat, la communauté et le feedback, ont été importants pour façonner la direction de FireEvent à travers ce programme? Je

14:23Guest: pense que sans cet écosystème-là, FireEvent ne serait pas au point où est-ce qu'elle est live. Je pense que beaucoup d'entreprises ne seraient pas au point où est-ce qu'ils sont live sans l'écosystème à Montréal spécifiquement aussi. Il y a une raison aussi pour laquelle on est au Danemark qui est à Montréal. C'est qu'à la base, mon conféritateur est allé faire son piégé au Danemark et il vit là-bas en ce moment. Donc, c'est un peu pour ça qu'on est là-bas. C'est une raison pour laquelle je suis revenu aussi à Montréal pour avancer. Au final, les deux pays, je les aime. Je veux construire l'entreprise aux deux endroits, mais j'aime beaucoup l'écosystème à Montréal. C'est vraiment… c'est très… les gens aiment ce centre-support. Je ne sais pas si c'est un mot, mais les gens aiment supporter les autres personnes autour d'elles parce que c'est vraiment l'aspect de… je connais des choses, je ne suis peut-être pas l'expert dans le domaine, mais je connais certaines choses qui peuvent aider d'autres personnes qui ont moins d'expérience nécessairement. Puis moi, je sais que j'ai beaucoup à apprendre de d'autres personnes aussi. C'est un peu ce niveau de connaissance-là par étage qui fait en sorte que tout le monde veut s'entraider dans une autre, puis des fois, je peux être l'expert dans un domaine, mais être complètement… n'avoir aucune ressource dans un autre domaine dans lequel quelqu'un qui vient juste de commencer l'entrepreneuriat a beaucoup, beaucoup de connaissances, puis il peut m'aider, puis moi, je peux m'aider dans un autre domaine.

15:24Ça fait que c'est vraiment la coopération, je pense, qui fait la différence dans l'écosystème. Puis au final, NextEye, c'est vraiment utile pour tout l'aspect de mentorat, comme je disais, l'aspect du networking, l'aspect de tout ça, mais plus que seulement l'équipateur, une fois que tu rentres dans l'équipateur, je vais te faire une porte d'entrée vers l'écosystème entrepreneurial de Montréal et de l'Amérique du Nord. Puis c'est ça, vraiment, qui a de la valeur parce qu'au final, tu fais plein de contacts qui font en sorte que tu trouves soit de l'investissement ou des clients, tu trouves des gens qui vont pouvoir t'aider à passer d'une entreprise qui passe de ton salon à une entreprise à plus grand état, à plus grand scale. Donc, c'est… sans le network, ton entreprise ne vaut pas grand-chose.

15:56Sacha: Non, c'est sûr. Est-ce que tu penses que suffisamment de fondateurs ou de cofondateurs réfléchissent à la sécurité et la conformité de l'intelligence artificielle au début, dès le début, ou est-ce que tu penses que c'est encore trop souvent une réflexion un peu de second plan?

16:12Guest: Selon moi, au début, il n'y a pas encore assez de… Tu sais, les gens ne vont pas penser à ça en priorité, puis c'est quand même incompréhensible. C'est quand même controversé à dire un peu, mais je pense que pour un startup qui commence, il n'y a pas encore de clients, ils ne devraient pas vraiment focusser sur la cyber. tes certifications SOC 2, ISO, etc. Ce qui est important au début, c'est de trouver le problème pour une solution qui est faite avec un client. Essaye de faire rouler la machine qui roule tout croche au début, mais faire en sorte qu'elle roule au moins. Donc ça, c'est vraiment la partie sympa. Une fois que ça commence à fonctionner, puis là, tu as des données clients, of course qu'il faut que tu commences à mettre en place des normes de sécurité. Plus il y a de l'IA, plus il faut que tu les protèges aussi tes modèles d'IA. Donc ça, je suis d'accord avec ça. Mais en même temps, je vois des grandes entreprises aussi qui n'ont aucune stratégie de cybersécurité pour leur modèle d'IA. Donc je ne peux pas imaginer qu'une startup qui commence, mettre des ressources en cybersécurité au début. Selon moi, c'est une affaire qui va venir un peu plus tard. Une fois que tu as déjà tes revenus, une fois que tu as déjà quelque chose de mis en place qui commence à fonctionner, ça ne servirait à rien de dépenser 10 000 $ dans une super grosse infrastructure de protection de ton LLM si tu n'as même pas de clients qui sont prêts à payer pour ton produit basé sur les LLM.

17:17En

17:17Sacha: ce moment, on le sait, il y a énormément de bruit autour de l'intelligence artificielle. Quelle est, selon toi, une chose que les gens sous-estiment à propos de l'intelligence artificielle ou même juste des agents d'IA en règle générale?

17:29Guest: En vrai, il y a beaucoup de... Je veux dire, les possibilités d'étudiant d'IA sont juste insane en ce moment. Comme tu peux faire... Par exemple, j'ai créé un produit en 48 heures juste parce qu'il était le fun pour moi et les gens voulaient commencer à l'étudiant après. Donc comme tu peux faire... Nébliguer le produit super rapidement. Le truc que moi, je vois par rapport à ça, c'est... Il risque d'avoir beaucoup, beaucoup de produits qui veulent un peu descendre la... Dans le fond, ça a juste descendu la barre à l'entrée de faire un SaaS. Puis en ce moment, il y a beaucoup de gens qui veulent partir des SaaS à cause que tu peux faire ça en no-code. Le vibe coding, pour commencer l'entreprise super rapidement, commencer un produit super rapidement. J'aime beaucoup le concept de... Les gens, au final, par régler des problèmes, les compagnies qui font pas grand sens parce qu'ils font un produit qui prend un an à développer et qu'au final, personne n'est prêt à payer pour, risque de disparaître over time parce que ça va être de plus en plus rapide de passer de idéation à revenu, selon moi. Ça, c'est un gros, gros changement qui commence à arriver. En plus, je ne sais vraiment pas si c'est un changement. Je dirais que c'est une évolution par rapport aux années précédentes. C'est pas comme si du jour au lendemain, on avait magiquement eu l'IA qui rendait tout super rapide. On l'a vu venir un peu de... Le cycle de développement des produits commençait de plus en plus court pour passer de l'idéation au marché.

18:33Mais une chose, par contre, que je commence à voir puis à réaliser tranquillement, c'est qu'il y a tellement d'outils qui se font rapidement puis qui se font facilement que je peux avoir, par exemple, un produit que je crée qui fait complètement du sens aujourd'hui, mais que dans six mois, les médias sont plus développés. Il y a plus de modèles open source ou plus d'outils open source autour des modèles qui font en sorte que, par exemple, je fais un modèle pour m'aider à organiser mes projets, par exemple, du project management. Je fais ça, mais ensuite, ça, peut-être que dans six mois, je vais avoir un modèle qui est, par exemple, un cloud ou open air, peu importe, qui est relié directement avec des outils open source déjà connectés pour faire du project management puis il y a déjà des prompts instantiés pour ça. Puis je peux juste créer une interface, ma propre interface, mon propre produit au complet pour moi-même, que je ne vais pas utiliser pour aucun autre produit auto. Ce que je veux dire par là, c'est la plupart des produits qu'on achète aujourd'hui, on les achète parce qu'on veut éviter le temps de développement, par exemple, de un an ou deux que ça prendrait pour avoir accès à cet outil-là. Mais si, avec des liens, je peux avoir accès à nerfiquer l'outil développé en deux ou trois minutes, ça ne vaut plus vraiment la peine de payer pour les outils en tant que tel.

19:33En tout cas, je ne vais pas nécessairement se généraliser comme ça, mais ce que je veux dire, c'est que la plupart des outils qui sont un low-end gig fruit risquent de disparaître à cause que ça va devenir une commodité. Donc, il y a de bonnes chances que ce n'est pas le cas pour tout le monde, la société. Mais je pense qu'il y a beaucoup de produits B2B qui risquent de peut-être disparaître à cause du fait qu'ils sont trop faciles à recopier à cause de l'IA, sans entrer dans l'aspect du Network Effect où est-ce que si j'ai beaucoup d'usures sur une plateforme en tant que telle, peut-être que là, c'est ça la valeur qu'elle contient. Mais je pense que, en fait, tout ça pour dire, je pense que la valeur des produits d'IA, on commence à voir que ça ne dépend plus du temps de développement et combien d'efforts a été mis dedans, combien d'argent a été mis dedans, mais vraiment seulement de, c'est quoi la valeur autre que le développement qui se trouve dans le produit, pour savoir si un produit vaut vraiment la peine d'être fait ou non.

20:17Sacha: Je trouve ça extrêmement intéressant. C'est un des sujets sur lesquels je suis en train de réfléchir. Et je suis 100 % d'accord avec toi. Pour l'instant, on voit vraiment que le développement et le cycle de développement est vraiment beaucoup plus court, ce qui fait que le marché est assez inondé aussi de nouveaux produits. Je me demande, par contre, et j'aimerais savoir un petit peu ton avis là-dessus, comment est-ce que ça impacte le consommateur en tant que tel? Comment est-ce qu'on s'assure de pouvoir quand même gagner une partie du marché ou pas « overflood » justement le marché d'informations avec de nouveaux produits?

20:50Guest: Au final, j'aurais tendance à dire que c'est une gamme de marketing. S'il y a tellement de produits disponibles sur le marché, au final, c'est l'offre à la demande, mais en même temps, plus un produit est visible par les consommateurs, même si ce n'est pas le meilleur produit, c'est lui qui va se faire acheter. C'est une gamme de marketing qui va jouer. En fait, comme je disais, ce qui va compter maintenant, puis ça, c'est la partie un peu, c'est que ce n'est pas nécessairement la qualité du produit qui va compter, mais plus à quel point ça rejouit un grand public rapidement. En même temps, je pense que ça n'avait pas vraiment de différence à comparer à avant. C'est juste plus rapide. Dans le sens que, par exemple, la technologie de Blu-ray, la technologie à côté, que je n'ai aucune idée de ce qu'on ne sait pas le nom, mais il y avait Blu-ray et une autre. Il paraît que l'autre était plus performante, plus efficace que Blu-ray. Une gamme de marketing, une gamme de partenariat qui a fait en sorte que Blu-ray est devenue la norme et l'autre a disparu, puis on ne se rappelle juste plus du nom. Donc, il risque d'avoir un peu ce concept-là, mais sur Stéroïd, il y a 500 produits, puis il y en a une dizaine là-dedans qui ont vraiment mis des efforts du côté marketing pour la même tech au final. C'est ceux-là qui vont finir par ressortir. On

21:47Sacha: a parlé un petit peu de ce qui était un petit peu sous-coté ou sous-estimé. À l'inverse, qu'est-ce qui te semble surcoté dans le monde de l'IA en ce moment?

21:56Guest: Je pense que c'est le... Je ne sais pas si ça répond vraiment à la question, mais je pense que le concept de... On va faire des outils pour les développeurs, on va faire des outils pour les business, peu importe quoi. Vraiment le B2B classique. Je pense qu'il y a beaucoup, beaucoup de focus là-dessus. Il y a beaucoup, un peu comme on dit tantôt, il y a beaucoup d'outils qui font plein de produits pour ce marché-là, mais je ne vais pas... Je suis spécifique. Je pense que c'est là qu'il va avoir beaucoup la grosse valeur de l'IA. Je suis dans le domaine de la construction, puis j'ai besoin d'un... En fait, je ne sais même pas, mais j'ai besoin d'un IA qui va m'aider à faire une tâche super spécifique me sauverait beaucoup de temps. Fait que c'est vraiment, c'est dans des petites niches comme ça qui ne sont pas beaucoup adressées, mais où est-ce qu'il y a beaucoup d'argent à faire qui est... En fait, il y a beaucoup d'argent à faire là, mais c'est moins scalable. Dans le sens que vu que c'est une niche, puis ce n'est pas une niche qui est scalable, tu vas finir par saturer le marché là-dedans, puis il va falloir que tu vendes ta solution ou que tu la gardes qui flot, puis que tu partes une autre business à côté pour faire un autre projet après pour aller voir une autre niche. Fait que je vois ça un peu comme... Le gros du marché est adressé par tout le monde, mais il n'y a personne qui adresse les petites sections du marché, petites sections qui peuvent aussi être super grosses, by the way, ça peut être quand même des marchés à quelques milliards de dollars, juste qu'ils ne sont pas pris en compte parce qu'ils sont trop spécialisés.

23:03Puis je pense qu'une des choses qui est un peu plate, en ce moment, mais je pense que c'est une réalité du marché, la plupart des gens que je vois autour de moi, en même temps, je suis jeune aussi, la plupart des gens que je vois autour de moi qui partent des startups ou des business, en utilisant l'IA génératif comme ça, c'est des jeunes qui n'ont pas nécessairement 20 ans d'expérience dans certains domaines. Donc, le seul domaine qu'on connaît, c'est la tech, puis on va essayer d'aller trouver des solutions pour la tech, puis dans le domaine de la tech, puis tout ça. Il n'y a pas beaucoup de gens qui vont, on va dire, partir en entreprise dans un domaine super niche que ça fait 20 ans qu'ils ont dans ce domaine-là, puis je pense que c'est là vraiment la valeur de l'IA génératif. Dès que quelqu'un qui a 40-50 ans connaît super bien un domaine spécifique, connaît tous les pain points de ce domaine-là, va comprendre que, OK, je vais prendre de l'IA puis vraiment l'appliquer de même, puis dans ce domaine-là spécifique, c'est vraiment un avantage comparé à plein d'autres jeunes ingénieurs qui veulent partir leur prochain SaaS product sans vraiment avoir de hedge comparé aux autres, parce que la technologie est la même pour tout le monde.

24:01Sacha: Absolument. Je sais que tu es quelqu'un qui a énormément d'idées. Quelle startup ou quelle idée de startup est-ce que tu rêverais voir émerger, mais qui n'existe pas encore?

24:09Guest: En vrai, j'ai une liste de avoir comme une quarantaine ou cinquantaine de business sur mon sein en ce moment. Je pense que, je pense qu'un des trucs, puis je pense que ça commence à être réglé un peu avec le MCP, je verrais, puis qui commence à être vraiment nécessaire. C'est un peu comme un… Comment je dirais ça? Les agents, les systèmes d'agents, ils peuvent être vraiment utiles par beaucoup de pensées, pour faire plein de choses. Dans ce que je disais, on peut plutôt entendre les domaines spécifiques, mais ces agents-là, souvent, sont très éparpillés partout. Dans le sens qu'il n'y a pas vraiment de marché, de marketplace, parce que tu peux tous les trouver, ça, premièrement. Mais aussi, une façon d'avoir accès à ces agents-là à travers d'autres agents. Est-ce que j'ai besoin de régler un problème spécifique, puis je veux avoir accès à… Je veux juste avoir un LLM qui va aller sur Internet trouver l'agent que j'ai besoin, puis lui va aller chercher les autres agents qu'il a besoin pour les autres outils qu'il a besoin. C'est un peu comme un network d'agents. Ça, peut-être, c'est assez proche du AGI aussi, mais c'est l'aspect de… Un peu comme si je suis entreprise, j'ai un prénom à régler, j'engage un project manager ou quelqu'un pour venir régler mon problème, cette personne-là peut aller engager d'autres gens autour pour faire des tâches spécifiques et faire une recherche en ligne pour trouver c'est quoi les besoins que j'ai, comment aller régler ces besoins-là.

25:20Même s'il ne connaît pas le sujet, il va quand même aller chercher en ligne pour voir comment régler ma situation. Ce concept-là, je ne l'ai pas encore vu, n'a pas encore été appliqué, selon moi, pour venir remplacer, dans le fond, les project managers pour ce genre de situation-là. Ça fait vraiment avoir comme un network d'agents qui communiquent ensemble sur lesquels on peut chercher, mais pas en tant qu'un humain qui cherche sur le network d'agents, mais vraiment un agent qui cherche sur un network d'agents. D'autres outils, d'autres skills que lui n'y aurait pas pour venir régler un problème d'une entreprise.

25:50Sacha: Vers la fin de mes interviews, j'aime bien poser une question vers le futur. J'aimerais savoir c'est quoi ta croyance envers le futur de l'intelligence artificielle avec laquelle la plupart des gens ne seraient pas forcément d'accord.

26:04Guest: Ça, c'est une bonne question. Je pense que je pense que le monde ne sera pas d'accord avec le fait que l'IA va changer la façon dont on travaille, etc., etc. mais je pense que la partie que des fois on ne réalise pas, c'est que ça ne va pas nécessairement changer comme on pense, comme pendant toutes les révolutions. Et je dirais que l'aspect qui risque de changer à part le fait que les gens qui vont venir te remplacer, ce n'est pas l'IA qui va te remplacer, c'est les gens qui utilisent l'IA qui va te remplacer. Mais je pense que c'est semmé dans des domaines très spécifiques, dans le sens qu'il y a beaucoup de domaines où il y a plein de gens qui ont, comme je disais un peu plus tôt, il y a plein de gens qui ont beaucoup d'expérience dans ce domaine, beaucoup de connaissances dans ce domaine, mais qui n'ont pas nécessairement les connaissances technologiques ou qui ne vont pas nécessairement penser à remettre leur connaissance dedans. Je sens qu'il va y avoir beaucoup de connaissances qui vont se perdre. L'expérience de personnes qui ont entre 40 et 60 ans qui sont en train de prendre leur retraite, peut-être pas 40 ans, mais tu comprends ce que je veux dire? Il y a beaucoup de gens qui ont beaucoup d'expérience dans certains domaines, mais qui n'ont pas nécessairement l'intérêt ou même envie ou juste qui ont pensé à mettre cette connaissance-là dans l'IA. Puis il y a beaucoup de connaissances importantes, je pense, qui vont finir par disparaître. Puis au final, c'est ces connaissances-là qui seraient nécessaires à étudier pour entraîner des modèles d'IA.

27:06Je ne sais pas comment faire un peu ce système-là, mais ça serait quelque chose de vraiment intéressant à faire en rémunérant ces gens-là puis avec la preuve de l'information, etc., etc. parce que si tu regardes la manière dont les systèmes d'IA code, ça s'est amélioré beaucoup, mais au début, comment ça marchait, puis j'ai l'impression que ce concept-là risque de se réappliquer dans le futur aussi. Si tu regardes la moyenne du code qui existe en ligne, la moyenne du code n'est pas bonne. Ce qui est bon, c'est le tail end, juste ce qui est vraiment la crème de la crème du code que tu veux que les modèles d'IA apprennent de ça seulement. Il y a beaucoup de compagnies d'IA qui font du code génératif qui ont appris comment faire cette filtration-là pour avoir seulement le bon code à la fin. Mais je sens que pas seulement dans le domaine du code, mais dans plein d'autres domaines, ils risquent d'avoir ce problème-là. Ce n'est pas un problème d'allégisation en tant que tel, mais c'est vraiment un problème de, on va avoir beaucoup de connaissances average, mais pas beaucoup de connaissances expertes. Ces connaissances expertes-là viennent de gens qui vont finir par prendre la retraite ou qui sont en un domaine tellement spécifique qu'ils n'ont pas nécessairement les impacts de l'IA encore, qu'ils n'ont pas nécessairement besoin de mettre leur connaissance dans le lien en ce moment. Puis je pense qu'il y a une grosse perte d'intelligence qui va se perdre à cette place-là si on ne fait pas attention et si on ne va pas chercher ces connaissances-là pour les mettre dans des systèmes d'agents, d'IA ou peu importe.

28:15Sacha: Pour finir, j'aimerais te laisser le plancher pour partager un dernier mot ou un dernier commentaire, Jean-Sébastien.

28:22Guest: Je n'avais pas pensé à ça. Quel commentaire partager? Je pense que c'est un aspect vraiment important en ce moment des systèmes d'IA. Je suis beaucoup biaisé par rapport à ça, mais c'est le fait que l'aspect cybersécurité n'est pas assez pris en compte dans ces systèmes d'IA. Puis comme je disais un peu plus tôt, le fait de mettre des connaissances dans des systèmes d'IA, c'est cool. C'est sûr qu'il faut qu'on fasse vraiment ça. Mais ces connaissances-là, s'ils sont mal gérées, s'ils finissent par avoir la fonction confidentielle qui finit par être filtrée quelque part. Tout ce qui est, on le disait un peu avant, une dizaine d'années même avant ça, tout ce qui est sur Internet reste pour toujours. La seule chose, c'est que les gens ne réalisent pas que tout ce qui est mis dans des systèmes d'IA reste aussi pour toujours à cause de ça. Puis pire que ça, ce qui se trouve dans Internet, des fois, ça peut être tellement que c'est tough à aller retirer. Par exemple, dans un modèle d'IA, une fois que c'est là, c'est dans les poids du modèle. Puis c'est vraiment difficile d'aller enlever ça ensuite. Parce que le modèle, si un numéro de carte de crédit est mis dans un modèle d'IA, tu peux toujours l'extraire après parce que c'est caché dans les poids. Fait que c'est une affaire à ne pas prendre à la légère.

29:23Puis c'est aussi très difficile de passer d'un modèle non sécuritaire à maintenant je vais faire attention puis je vais protéger toute mon entreprise, la spécifération. C'est très difficile de passer, de devenir sécuritaire. Dans le fond, c'est très difficile de régler le problème une fois que la breach est arrivée. Puis ça, je pense, c'est une affaire que des fois, on sous-estime dans le domaine de l'IA.

29:44Sacha: Merci beaucoup, Jean-Sébastien, d'avoir partagé toutes ces informations avec moi aujourd'hui. C'était vraiment un plaisir de t'avoir avec moi.

29:50Guest: Merci à toi.