Conférences ML : défis logistiques et scientifiques

Les inconvénients des déplacements pour conférences

Pour ceux qui ne sont pas familiers avec le monde des conférences en recherche en apprentissage automatique (ML), voici un aperçu de la situation, légèrement abrégé. Les chercheurs en ML souhaitent généralement publier leur travail sous forme d'article lors d'une conférence. Un travail intéressant mais non publié n'a pas beaucoup de valeur, il est donc souvent question de publier ou de périr. Cependant, pour publier un article, il faut d'abord trouver un lieu approprié. Dans le domaine du ML, les principales conférences sont trois événements de premier plan : ICML, NeurIPS, et ICLR.

La Conférence Internationale sur l'Apprentissage Automatique (ICML) a été organisée pour la première fois en 1980. Pendant sa première décennie, elle était organisée sous forme d'atelier ; par la suite, elle a continué en tant que conférence à part entière. En 1987, la première Conférence sur les Systèmes de Traitement de l'Information Neurale (NeurIPS) a eu lieu à Denver, aux États-Unis. L'ICLR a rejoint ces rangs plus récemment. En 2013, des chercheurs ont fondé la Conférence Internationale sur les Représentations d'Apprentissage (ICLR).

Pour publier un article lors de l'une de ces conférences, il faut passer par le processus parfois fastidieux de révision par les pairs. D'abord, une version anonymisée de l'article est soumise, c'est-à-dire que les noms, affiliations et autres informations identifiantes sont retirés. Cette version est ensuite examinée anonymement par des pairs, idéalement plus expérimentés dans le domaine de recherche. Les chercheurs reçoivent leurs retours, ont l'occasion de clarifier ou d'améliorer l'article, puis attendent un mois ou deux de plus. En fonction de la qualité de la soumission initiale et de la manière dont les préoccupations des examinateurs ont été traitées, l'article sera soit accepté, soit rejeté.

C'est là que cela devient important : les taux d'acceptation sont faibles. En général, seulement entre 20% et 30% des articles soumis sont acceptés. C'est un jeu compétitif. Ainsi, si un chercheur parvient à publier un article lors de l'une de ces conférences, il peut se considérer comme chanceux. Il peut alors assister à la conférence elle-même, ce qui ramène au sujet de cet article.

Se rendre à la conférence

Les conférences se tiennent chaque année à différents endroits à travers le monde. Selon le lieu de résidence, une distance considérable pourrait être à parcourir. Par exemple, une personne basée en Chine et dont la conférence a lieu en Corée du Sud peut y arriver relativement rapidement. En revanche, venant d'Europe ou des États-Unis, il est probable de passer la majeure partie de la journée à voyager. La même chose s'applique en sens inverse lorsque la conférence se tient aux États-Unis.

Lors de la dernière visite à une grande conférence, l'ICLR 2024, qui s'est tenue à Vienne, l'accès était assez confortable. Le mois dernier — et cela explique le retard dans la rédaction de cette revue mensuelle — un chercheur a assisté à l'ICML en Corée du Sud. La conférence elle-même était agréable, mais le trajet a pris beaucoup de temps. Et ce n'est pas seulement le voyage qui compte. Il y a aussi la charge organisationnelle et, peut-être plus important encore, le coût d'opportunité.

Les coûts cachés des déplacements pour conférences

Tout d'abord, il faut réserver les vols et l'hôtel. En général, il est également nécessaire de respecter certaines limites de per diem, ce qui signifie qu'il y a un budget quotidien à respecter pour l'hébergement. Il faut donc examiner les hôtels proches du lieu de la conférence, vérifier s'ils correspondent au budget, obtenir une approbation, puis les réserver. La même chose s'applique aux vols. Au total, cela peut facilement prendre une demi-journée — parfois une journée entière.

Ensuite, le voyage proprement dit commence… Se rendre à l'aéroport prend du temps. Attendre à l'aéroport prend encore plus de temps. Le vol lui-même peut durer plus de dix heures. Enfin, le trajet de l'aéroport de destination à l'hôtel ajoute une ou deux heures supplémentaires. Après environ 24 heures, l'arrivée à destination est enfin là. Super.

Mais ensuite, il y a le décalage horaire. La conférence se déroule dans un autre fuseau horaire, donc le corps a besoin de temps pour s'adapter — idéalement pendant que l'on est déjà censé assister à des conférences, rencontrer des gens et présenter son travail. Sur le chemin du retour, la même chose se produit à l'envers. Une autre journée est passée à voyager vers chez soi, suivie d'une nouvelle période de décalage horaire.

Au total, deux ou trois jours ont été passés à organiser et à réaliser le voyage. À cela s'ajoutent les jours de conférence, qui peuvent ajouter trois à sept jours supplémentaires. En tout, la conférence peut occuper environ dix jours. Cela serait acceptable si le reste de la vie s'arrêtait simplement pendant ce temps. Malheureusement, ce n'est pas le cas.

Le retard qui vous attend à la maison

À son retour, le travail habituel est toujours là. Les emails se sont accumulés. Des tâches ont attendu. Des projets ont continué sans la personne — ou, peut-être pire, n'ont pas du tout avancé. C'est ce qui est arrivé à un chercheur. Après son retour, il a d'abord dû traiter son retard personnel. Il y avait des choses à gérer, des tâches à refaire, et plusieurs fils à reprendre. De plus, il a dû préparer une révision pour un journal et une réponse pour la conférence.

La conférence elle-même était terminée, mais la perturbation qui l'entourait ne l'était pas. Et c'est, pour beaucoup, le véritable inconvénient des déplacements pour conférences. Ce n'est pas seulement le long vol ou le décalage horaire. C'est cette interruption du rythme normal : la préparation en amont, le voyage lui-même, le temps passé à l'événement, et le retard qui attend ensuite.

Tout cela peut facilement tuer une semaine ou deux de progrès sur un nouveau projet de recherche. Et une ou deux semaines de plus sur un article peuvent faire une grande différence. Cela pourrait être une autre preuve, cela pourrait être le codage d'une expérience difficile, la rédaction d'un brouillon complet. Pour toutes ces choses, il est nécessaire d'avoir du temps prolongé et ininterrompu, idéalement pendant plusieurs jours consécutifs. C'est ce que l'on appelle le travail en profondeur (un sujet d'intérêt particulier pour certains, voir aussi une récente revue de 8,5 dernières années en apprentissage automatique).

Cela ne veut pas dire que les conférences sont inutiles. Non, les conférences sont précieuses. On y rencontre d'autres chercheurs, discute d'idées, découvre de nouveaux travaux, et enfin, met des visages sur des noms que l'on n'a peut-être connus que par des articles. Néanmoins, cette valeur a un coût considérable en temps et en énergie.

La leçon de ce mois-ci était donc plutôt simple : lorsque l'on planifie des déplacements pour des conférences, il ne faut pas seulement compter les jours indiqués dans le programme de la conférence. Il faut compter la préparation, le voyage, la récupération, et le travail qui attend au retour. Sinon, une conférence de cinq jours peut facilement consommer deux semaines entières sans prendre en compte les coûts d'opportunité.