Study program

• Objectives

  Ce cours vise à donner aux étudiants une compréhension des risques liés à l'intelligence artificielle ainsi que les outils nécessaires pour analyser les mécanismes d'attaques et les méthodes pour les atténuer, tout en sensibilisant aux considérations éthiques liées au développement de l'IA. Il sensibilise également aux considérations éthiques liées au développement de l'IA. À l'issue du cours, les étudiants sont capables de :

  • dentifier et analyser les principales menaces pesant sur les systèmes d'IA
  • comprendre les mécanismes d'attaques techniques (adversariales, par empoisonnement, par injection, etc.)
  • proposer des contre-mesures adaptées
  • appréhender les enjeux de gouvernance, d'éthique et d'alignement de l'IA
• Content

  • Introduction à l'AI Safety et à la sécurité des systèmes d'IA
  • Rappels et approfondissement de PyTorch (fondations pour les labs)
  • Attaques adversariales sur les CNN
  • Introduction au framework MITRE ATLAS (taxonomie des attaques sur systèmes d'IA)
  • Reinforcement Learning et enjeux d'alignement spécifiques au RL : (reward hacking, spécification gaming, goal misgeneralisation)
  • Large Language Model (LLM) : prompt injection, jailbreak, attaques multimodales
  • Transparence et explicabilité des systèmes d'IA : Mechanistic interpretability, Circuit Tracing
  • Considérations éthiques et de gouvernance : réglementation (EU AI Act), état de l'art dans les grandes entreprises, risques existentiels, alignement

Type of teaching and workload

Course specification

Evaluation methods

• Continuous assessment Written work, Practical exercises / Evaluated reports

Course grade calculation method

The continuous assessment mark corresponds to the weighted average of all of the semester's exams. In case of a revision exam, the course's final mark corresponds to the arithmetic average of the continuous assessment and the revision exam marks.

Intructor(s) and/or coordinator(s)

Philippe Joye, Jacques Supcik