CONFERENCE
Learning and Optimization in Luminy (LOL2022)
Apprentissage et Optimisation
3 – 7 October 2022
Scientific Committee
Comité scientifique
Francis Bach (INRIA Paris & ENS)
Joan Bruna Estrach (New York University)
Jérôme Malick (CNRS, Université Grenoble-Aples)
Rebecca Willett (University of Chicago)
Organizing Committee
Comité d’organisation
Alexandre d’Aspremont (CNRS, ENS Paris)
Claire Boyer (Sorbonne Université)
Aymeric Dieuleveut (Ecole Polytechnique)
Thomas Moreau (INRIA Saclay)
Soledad Villar (Johns Hopkins University)
Artificial intelligence is now at the heart of society. While the empirical performance of the most recent machine learning techniques, such as deep neural networks, is undeniable, real theoretical questions are emerging and resonating in different mathematical communities. The aim of this conference is to bring together researchers from various specialties such as machine learning, statistical learning, but also optimization, computer science and statistical physics.
Three main themes have been identified:
(i) Stochastic optimization and collaborative learning. Stochastic optimization has become key to cope with the data deluge, and has undeniably deployed the power of neural networks. Stochastic optimization -of neural networks- has raised real theoretical questions, which put non-convex optimization to the test. On the other hand, collaborative learning consists in performing optimization tasks in a decentralized manner. Standard statistical techniques are no longer applicable as such, and must adapt to distributed or heterogeneous databases, with communication constraints between machines.
(ii) High-dimensional statistics. Sparse regressions, matrix completion or dictionary learning are instances of inverse problems, which have recently been challenged by the predictive capabilities of neural networks. This competition opens new avenues of reflection, and the reconstruction optimality of these two types of methods remains to be formalized and studied, especially in terms of stability and robustness.
(iii) Recent developments in machine learning: from theory to practice. If non-smooth or non-convex optimization still has several challenges to meet, it seems to us essential to bring together its best theorists as well as its best practitioners from the statistical and optimization sides.
The most influential and internationally recognized researchers in the different fields mentioned above will be invited to present their most innovative work. Finally, time slots will be specially dedicated to encourage the setting up of working groups.
L’intelligence artificielle est désormais au cœur de la société. Si les performances empiriques des plus récentes techniques d’apprentissage machine, telles que les réseaux de neurones profonds, sont indéniables, de véritables questions théoriques émergent, et résonnent dans différentes communautés mathématiques. Le but de cette conférence est de réunir des chercheurs de spécialités diverses telles que l’apprentissage automatique, l’apprentissage statistique, mais aussi la science de l’optimisation, l’informatique et la physique statistique.
Trois thématiques maîtresses ont été identifiées :
(i) l’optimisation stochastique et l’apprentissage collaboratif. L’optimisation stochastique est devenue clé pour faire face au déluge des données, et a incontestablement déployé la puissance des réseaux de neurones. L’optimisation stochastique -des réseaux de neurones- a soulevé de véritables questions théoriques, qui mettent à l’épreuve l’optimisation non-convexe. D’autre part, l’apprentissage collaboratif consiste en l’accomplissement de tâches, d’optimisation, de manière décentralisée. Les techniques statistiques standard ne sont plus applicables telles quelles, et doivent s’adapter à des bases de données distribuées ou encore hétérogènes, avec des contraintes de communication entre machines.
(ii) la statistique en grande dimension. Les régressions parcimonieuses, la complétion de matrice ou encore l’apprentissage de dictionnaire sont des instances de problèmes inverses, qui ont été récemment défiées par les capacités prédictives des réseaux de neurones. Cette compétition ouvre des axes de réflexion, et l’optimalité des reconstructions de ces deux types de méthodes reste à être formalisée et étudiée, notamment en terme de stabilité et robustesse.
(iii) développements récents en optimisation : de la théorie à la pratique. Si l’optimisation non-lisse ou non-convexe a encore plusieurs défis à relever, il nous paraît primordial de réunir ses meilleurs théoriciens ainsi que ses meilleurs praticiens.
Les chercheurs les plus influents et mondialement reconnus dans les différents domaines sus-mentionnés seront invités à présenter leurs travaux les plus innovants. Cette diffusion scientifique interdisciplinaires pourra également bénéficier les jeunes chercheurs, car doctorants et post-doctorants seront également invités. Enfin, des plages horaires seront spécialement dédiées pour favoriser la mise en place de groupes de travail.
SPEAKERS
to be announced
SPONSORS
