Rejoignez-nous pour découvrir comment l'alliance de notre expertise en IA, incarnée par notre Labo de Recherche THERESIS, et notre pragmatisme technique au sein de la Thales Digital Factory, repousse les limites de la cyber-sécurité. Dans un contexte où les données sensibles exigent une vigilance de tous les instants, nous avons intégré Azure OpenAI de manière stratégique à notre infrastructure cloud. Afin de maintenir un niveau de sécurité à l'état de l'art nous menons quotidiennement des études et campagnes de test de cybersecurité sur des modèles disponibles en open source, ceci dans le souci d'adopter une approche complémentaire à l'utilisation d'un LLM en "black box".
Nous aborderons les stratégies de "hacking éthique", essentielles à l'audit de sécurité de nos LLM. Ces tactiques particulières, combinées à des pratiques rigoureuses, renforcent la fiabilité de nos outils de GenAI. Vous découvrirez aussi comment les directives OWASP adaptées pour ces technologies nous ont aidées à fixer les standards de sécurité. Une invitation à envisager l'IA non comme une menace, mais comme un partenaire de la sécurité informatique.
Thales
Ingénieure-chercheure dans le laboratoire ThereSIS de Thales, Katarzyna Kapusta a plus de dix ans d’expérience dans la cybersécurité. Depuis 2022, elle pilote l’initiative « AI Friendly Hackers » ayant pour objectif de développer des outils d’évaluation de la robustesse des systèmes à base d’ Intelligence Artificielle contre les attaquants visant à exploiter les vulnérabilités intrinsèques des réseaux de neurones. Co-auteur de plusieurs brevets et publications, elle s’intéresse particulièrement à la protection de la propriété intellectuelle dans le contexte de l’IA, notamment aux techniques de filigranes de modèles d’IA. Elle intervient en tant qu’expert technique dans les projets de recherches collaboratifs et dans les groupes de standardisation européens. Elle est titulaire d'un doctorat en informatique et d'un diplôme d'ingénieur, tous deux obtenus à Télécom Paris.
Thales Digital Factory
Ingénieur en cybersécurité travaillant au sein de la redteam de Thales Digital Factory, j'ai réalisé un stage chez Thales pour étudier l'apport des solution d'IA générative dans le domaine de la cybersécurité. Ce travail m'a ainsi conduit à aider à la mise en place des normes de sécurités associés aux outils d'intelligence artificielle générative.
Thales
Romain Ferrari, actuellement en charge de plateformes d'innovation et d'expérimentation chez Thales, a su concilier une riche expérience de 12 ans dans le domaine de l'innovation avec une spécialisation marquée en cybersécurité. Acteur majeur dans l'organisation de projets de recherche collaboratifs et d'études internes, Romain se distingue par son travail sur les mécanismes de sécurisation du machine learning et l'usage des LLMs.
Thales
As a Product Owner in Generative AI, my focus is on maximizing the value delivered by the product while providing an exceptional user experience (UX). With a passion for innovation and a deep understanding of user needs, I strive to bridge the gap between cutting-edge technology and user satisfaction.
English 
Français