Learning to Act in Continuous Dec-POMDPs

Jilles S Dibangoye (1) , Olivier Buffet (2)

1 CHROMA - Robots coopératifs et adaptés à la présence humaine en environnements dynamiques
2 LARSEN - Lifelong Autonomy and interaction skills for Robots in a Sensing ENvironment

We address a long-standing open problem of reinforcement learning in continuous decentralized partially observable Markov decision processes. Previous attempts focused on different forms of generalized policy iteration, which at best led to local optima. In this paper, we restrict attention to plans, which are simpler to store and update than policies. We derive, under mild conditions, the first optimal cooperative multi-agent reinforcement learning algorithm. To achieve significant scalability gains, we replace the greedy maximization by mixed-integer linear programming. Experiments show our approach can learn to act optimally in many finite domains from the literature.

Nous nous attaquons au problème d'apprentissage par renforcement dans le cadre des processus décisionnels de Markov partiellement observables et décentralisés. Les tentatives précédentes ont conduit à différentes variantes de la méthode généralisée d'itération de politiques, qui dans le meilleur des cas abouties à des optima locaux. Dans ce papier, nous nous restreindrons au plans, qui sont des formes plus simples que des politiques. Nous dériverons, sous certaines conditions, le premier algorithme optimal d'apprentissage par renforcement coopératif. Afin d'accroître le passage a l'échelle de cet algorithme, nous remplacerons l'opérateur glouton traditionnel par un programme linéaire en nombre entier. Les résultats expérimentaux montrent que notre méthode est capable d'apprendre de façon optimale dans plusieurs bancs de test de la littérature.

Mots clés: Decentralized Markov Decision Partially Observable Processes; Reinforcement Learning

Mots clés: Processus décisionnels de Markov partiellement observables et décentralisés; Apprentissage par Renforcement

Domaines: Intelligence artificielle [cs.AI]

Jilles S Dibangoye, Olivier Buffet. Learning to Act in Continuous Dec-POMDPs. JFPDA 2018 - Journées Francophones sur la Planification, la Décision et l'Apprentissage pour la conduite de systèmes, Jul 2018, Nancy, France. pp.1-10. ⟨hal-01840602⟩