Les systèmes informatisés des infrastructures critiques - aviation, ferroviaire, énergie ou spatial - sont exposés à des perturbations matérielles aléatoires, mais aussi à des erreurs de conception logicielle difficiles à anticiper. Redondance des calculateurs, codes correcteurs d'erreurs, tests ou démonstrations mathématiques : la fiabilité du numérique repose sur un empilement de protections dont les limites apparaissent parfois dans des situations inattendues. Un rappel du fait que, même dans les systèmes les plus critiques, la sûreté repose sur des compromis techniques, jamais sur des garanties absolues.

Popularisés par ChatGPT, les grands modèles de langage (LLM) ont ouvert une ère d'interactions naturelles entre humains et machines. Une nouvelle génération, les « agents LLM », va plus loin : dotés de mémoire, capables de planifier et d'agir, ils transforment les modèles de langage en moteurs d'objectifs concrets. De la réservation d'un billet de train au devis vocal pour un artisan, les usages se multiplient. Reste à surmonter les défis techniques de la planification et de l'évaluation pour franchir un nouveau cap dans l'autonomie des IA. Panorama de la situation, qui évolue très rapidement.

Un ruban, des 0 et des 1, et un défi vieux de soixante ans. À première vue, le problème du «castor affairé» semble n'être qu'un jeu abstrait pour amateurs de logique. Mais il touche aux fondements de l'informatique: que peut-on vraiment calculer ? En juillet 2024, une communauté mondiale de chercheurs, de développeurs et d'autodidactes a réussi l'impossible : démontrer rigoureusement la valeur exacte du nombre d'étapes que peut faire au maximum une machine de Turing à cinq états. Une plongée dans les limites de la calculabilité, là où les machines révèlent ce qu'aucun programme ne peut prédire.

Distinguer le faux du vrai devient difficile avec l'intelligence artificielle. L'idée de marquer numériquement les contenus créés est une piste privilégiée pour garantir la transparence. Plusieurs méthodes existent, mais elles sont encore loin d'avoir fait leurs preuves.

La démonstration est au coeur des mathématiques. Mais ce pilier du « vrai » s'est transformé au fil des siècles, jusqu'à faire appel aujourd'hui à des logiciels capables de certifier les preuves. Une question demeure toutefois : qu'est-ce que ça prouve, au juste ?

Depuis 2015, notre laboratoire étudie la circulation de l'information sur les réseaux sociaux, en particulier la désinformation sur Twitter/X. Le constat est édifiant : multiplication des campagnes de désinformation, fragmentation de l'espace informationnel, manipulation des débats publics. Et attaques ciblées. Nous y avons été confrontés lorsque nous avons lancé le projet de recherche OpenPortability et la campagne HelloQuitteX qui l'a fait connaître.