Emiliano Lorini : la modélisation du raisonnement et des décisions

L’objectif d’Emiliano Lorini est de doter les agents artificiels de capacités de raisonnement et de prises de décisions correctes, vérifiables et explicables dans un contexte d’interaction avec d’autres agents. Directeur de recherche CNRS à l’IRIT, il chapeaute le département d’intelligence artificielle. Il est spécialiste de la modélisation du raisonnement et des décisions des agents, ainsi que de leurs interactions. 

Bien qu’Emiliano Lorini soit avant tout un théoricien, ses travaux trouvent des applications dans les agents conversationnels et l’éthique des machines. Il travaille avec un focus particulier sur la cognition des agents, dont on prend alors en compte les états psychologiques : ce qu’ils croient, préfèrent ou désirent, ainsi que leurs valeurs éthiques. Plus récemment, le chercheur a orienté ses travaux vers l’étude des interactions entre apprentissage et raisonnement chez les agents artificiels, en portant un intérêt particulier à l’apprentissage par renforcement.

La recherche d’Emiliano Lorini s’inscrit dans une démarche fortement interdisciplinaire. Il collabore à la fois avec des psychologues afin de modéliser formellement les interactions entre agents humains et agents artificiels, dans le but de développer des agents artificiels dotés d’un modèle cognitif explicite de l’utilisateur humain, et avec des juristes afin de modéliser les raisonnements normatifs et causaux dans le domaine du droit.

Ces travaux ont permis à Emiliano Lorini d’obtenir plusieurs résultats marquants. Il a notamment développé plusieurs logiques formelles permettant de modéliser des agents rationnels dans des contextes stratégiques où le raisonnement sur les états cognitifs des autres agents joue un rôle central. Il a également conçu des algorithmes de raisonnement fondés sur ces logiques. Par ailleurs, il a proposé un cadre logique unifié pour modéliser les actions des agents au cours du temps, dans le contexte d’interactions répétées et complexes. Plus récemment, Emiliano Lorini a conçu un cadre logique unifié intégrant la théorie de l’argumentation et la logique épistémique. 

Il a également mené, au sein du projet ANR CoPains, des travaux sur la théorie et le cadre applicatif de la planification cognitive. Le chercheur explique qu’en IA, la planification consiste à développer des algorithmes qui établissent des plans pour atteindre un objectif. La planification classique va par exemple construire un plan et calculer une trajectoire pour qu’un robot se déplace. Dans la planification cognitive, l’objectif est de modifier l’état cognitif d’un agent cible. Par exemple, un agent peut chercher à convaincre un autre agent d’effectuer une tâche. Pour y parvenir, il doit disposer d’un modèle de l’état cognitif de cet agent ainsi que d’un langage formel lui permettant de calculer un plan d’action conduisant à l’objectif visé. L’agent cible peut être aussi bien artificiel qu’humain. Un exemple est celui d’un assistant sportif intelligent qui cherche à persuader son utilisateur de pratiquer une activité physique régulière.

À la suite du projet CoPains, il a lancé le projet ANR DeSiRes, qui vise à améliorer les capacités de raisonnement des grands modèles de langage (LLM) à l’aide de la logique. Les LLM constituent la technologie sous-jacente à des outils tels que ChatGPT. Toutefois, ces modèles restent largement opaques. Grâce à l’intégration de méthodes logiques, Emiliano Lorini cherche à rendre leurs raisonnements et leurs prises de décision plus transparents, explicables et vérifiables. 

Fort de tous ces résultats, Emiliano Lorini, qui avait obtenu la médaille de bronze du CNRS en 2014, a été nommé cet été Fellow de l’EurAI. Il se réjouit de cette importante reconnaissance de la communauté et estime que si la logique occupe aujourd’hui une place relativement marginale dans le domaine de l’intelligence artificielle, qui reste largement dominée par les approches fondées sur l’apprentissage automatique (machine learning), l’avenir réside de plus en plus clairement dans des approches hybrides intégrant l’apprentissage automatique et les méthodes logiques.