Stage recherche - Vérification formelle de réseaux de neurones F/H

Description de l'offre

about the role

"Vous voulez tester les limites de l'IA, rejoignez nous !"  Adam, tuteur

#IA#Recherche opérationnelle

 

Pour les systèmes d’Intelligence Artificielle (IA) doté d’un haut niveau d’autonomie utilisés pour des applications critiques, il est primordial de s’assurer qu’ils sont fiables et robustes afin d’éviter des comportements non désirés ou non souhaitables. Dans ce stage, nous considérons un système d’IA réduit à un réseau de neurones profond, connu pour être fragile aux attaques adverses, d’empoisonnement de données, de portes dérobées, vols de modèles et de données. Nous proposons de sélectionner et d’évaluer un module de vérification formelle de systèmes d’IA à base de réseaux de neurones à l’aide de techniques de Recherche Opérationnelle.

 

L’objectif du stage est de trouver des méthodes permettant de tirer des conclusions sur le comportement de tels réseaux grâce aux techniques mathématiques et de participer aux tests d’un prototype logiciel à concevoir sur des cas réels. Le stage comporte les étapes suivantes :

 

-              Synthétiser l’état de l’art sur les techniques et algorithmes de vérification formelle des systèmes d’IA, avec une attention particulière à des domaines peu couverts par les articles de synthèse déjà publiés (Référence [1], par exemple)

o    Vérification au-delà du problème de la robustesse locale

o    Vérification « frugale » (en temps et/ou ressources de calcul)

o    Vérification de réseaux non reLU (rectified linear unit)

 

-              Analyse des résultats des challenges de la manifestation Verification of Neural Networks Competition (VNN-COMP) Référence [2]

-              Sélectionner et mettre en œuvre les approches les plus prometteuses à partir de cette approche bibliographique

-              Elargir la gamme des données utilisées dans les challenges aux données tabulaires / séries temporelles et mener les expériences sur cette base élargie, en veillant à mettre en lumière les (éventuelles) complémentarités entre les approches, dans l’esprit de [3]

 

[1]        Changliu Liu, Tomer Arnon, Christopher Lazarus, Christopher Strong, Clark Barrett and Mykel J. Kochenderfer, "Algorithms for Verifying Deep Neural Networks", Foundations and Trends in Optimization (2021) Vol. 4: No. 3-4, pp 244-404. ([1903.06758] Algorithms for Verifying Deep Neural Networks (arxiv.org))

 

[2]        Christopher Brix, Stanley Bak, Changliu Liu, Taylor T. Johnson , “The Fourth International Verification of Neural Networks Competition (VNN-COMP 2023): Summary and Results” (https://arxiv.org/abs/2312.16760)

 
[3]            Matthias König and Annelot W. Bosman and Holger H. Hoos and Jan N. van Rijn, ”Critically Assessing the State of the Art in Neural Network Verification”, Journal of Machine Learning Research (2024) Vol 25, No 12, pp 1-53 (http://jmlr.org/papers/v25/23-0119.html)

about you

Ecoles d’ingénieurs ou Master BAC+5 en Recherche Opérationnelle/Intelligence Artificielle

additional information

Acquérir une triple compétence en cybersécurité, intelligence artificielle (IA) et Recherche Opérationnelle (RO). Applications concrètes des compétences acquises en IA et RO sur un cas d’usage réel en sécurité

department

Orange Innovation Recherche assure le pilotage des travaux de Recherche, en s’appuyant sur les équipes Orange Innovation Data-IA, d’Orange Innovation Networks, Orange Innovation IT et Services et Marketing & Design.

 

"L'environnement de travail est très agréable, un campus à l'américaine de haute qualité environnementale, des installations derniers cris, accessible en mobile douce (à coté de la coulée verte) ou en métro, en tram ou voiture " Adam

contract

Internship

Start date : 01 Jan 2025

Niveau d’études préparé pendant le stage

Indemnité brute selon école

Bac+5

de 1572 € à 2096 € / mois

Only your skills matter

Regardless of your age, gender, origin, religion, sexual orientation, neuroatypia, disability or appearance, we encourage diversity within our teams because it is a strength for the collective and a vector of innovation. Orange Group is a disabled-friendly company: don't hesitate to tell us about your specific needs.