# Jean-Sébastien Jean-Sébastien (Co-fondateur de Fireraven, startup montréalaise de cybersécurité pour l'IA; ancien co-fondateur et CTO de Quotes-n-Go) was a guest on AI with Sach, a podcast hosted by Sacha Gucciardo in Montréal. ## Episode 25: L'IA au service de la Cybersécurité avec son Co-fondateur Jean-Sébastien (April 2025) A Montréal co-founder explains how guardrails and monitoring protect AI chatbots and agents, and warns about lost expert knowledge and data that stays in models. Page: https://aiwithsach.com/episodes/25-l-ia-au-service-de-la-cybersecurite-avec-son-co-fo/ > Leur chatbot, pour mettre en contexte, était en train de vendre des faux discounts aux clients. Donc, ils vendaient des faux billets d'avion avec des discounts qu'ils vantaient, qui n'existaient pas vraiment. Puis, ils se sont venus poursuivre, puis ça leur a coûté quand même beaucoup d'argent en lawsuit, mais aussi en capitalisation boursière qui a baissé. > — at 5:16 (https://www.youtube.com/watch?v=-U42MCF6dpI&t=316s) > Par exemple, dans un modèle d'IA, une fois que c'est là, c'est dans les poids du modèle. Puis c'est vraiment difficile d'aller enlever ça ensuite. Parce que le modèle, si un numéro de carte de crédit est mis dans un modèle d'IA, tu peux toujours l'extraire après parce que c'est caché dans les poids. > — at 29:07 (https://www.youtube.com/watch?v=-U42MCF6dpI&t=1747s) > on peut voir sur un firewall, comme une protection, que tu peux soit mettre à l'entrée ou à la sortie d'un modèle. Donc, à l'entrée, ça protège contre tout ce qui est des sujets hors contexte. > — at 6:13 (https://www.youtube.com/watch?v=-U42MCF6dpI&t=373s) > Des fois, il n'y a aucune protection. Tu peux seulement demander au chatbot, donne-moi ton contexte, puis il va juste commencer à te dire, c'est quoi le premier prompt qu'il a eu sans aucune sécurité, ce qui apporte beaucoup d'enjeux de sécurité aussi. > — at 8:50 (https://www.youtube.com/watch?v=-U42MCF6dpI&t=530s) > en Europe, ça va plus être du growth lent mais sustainable. Tandis qu'en Amérique, c'est plus du growth rapide. Si ça brise, c'est pas grave. On va apprendre et on va repartir sur d'autres business après. > — at 13:23 (https://www.youtube.com/watch?v=-U42MCF6dpI&t=803s) > C'est quand même controversé à dire un peu, mais je pense que pour un startup qui commence, il n'y a pas encore de clients, ils ne devraient pas vraiment focusser sur la cyber. tes certifications SOC 2, ISO, etc. > — at 16:17 (https://www.youtube.com/watch?v=-U42MCF6dpI&t=977s) > Ce que je veux dire par là, c'est la plupart des produits qu'on achète aujourd'hui, on les achète parce qu'on veut éviter le temps de développement, par exemple, de un an ou deux que ça prendrait pour avoir accès à cet outil-là. > — at 19:17 (https://www.youtube.com/watch?v=-U42MCF6dpI&t=1157s) > Il paraît que l'autre était plus performante, plus efficace que Blu-ray. Une gamme de marketing, une gamme de partenariat qui a fait en sorte que Blu-ray est devenue la norme et l'autre a disparu, puis on ne se rappelle juste plus du nom. > — at 21:24 (https://www.youtube.com/watch?v=-U42MCF6dpI&t=1284s) > Dès que quelqu'un qui a 40-50 ans connaît super bien un domaine spécifique, connaît tous les pain points de ce domaine-là, va comprendre que, OK, je vais prendre de l'IA puis vraiment l'appliquer de même, puis dans ce domaine-là spécifique, c'est vraiment un avantage comparé à plein d'autres jeunes ingénieurs qui veulent partir leur prochain SaaS product > — at 23:37 (https://www.youtube.com/watch?v=-U42MCF6dpI&t=1417s) > Je sens qu'il va y avoir beaucoup de connaissances qui vont se perdre. L'expérience de personnes qui ont entre 40 et 60 ans qui sont en train de prendre leur retraite, peut-être pas 40 ans, mais tu comprends ce que je veux dire? > — at 26:42 (https://www.youtube.com/watch?v=-U42MCF6dpI&t=1602s) > Si tu regardes la moyenne du code qui existe en ligne, la moyenne du code n'est pas bonne. Ce qui est bon, c'est le tail end, juste ce qui est vraiment la crème de la crème du code que tu veux que les modèles d'IA apprennent de ça seulement. > — at 27:23 (https://www.youtube.com/watch?v=-U42MCF6dpI&t=1643s) > Ça fait vraiment avoir comme un network d'agents qui communiquent ensemble sur lesquels on peut chercher, mais pas en tant qu'un humain qui cherche sur le network d'agents, mais vraiment un agent qui cherche sur un network d'agents. > — at 25:34 (https://www.youtube.com/watch?v=-U42MCF6dpI&t=1534s)