Benchmarking la prochaine génération d’apprenants sans fin

Notes

Références

(1) JOHN M JUMPER, Richard Evans, Alexander Pritzel, Tim Green, Michael Figurnov, Olaf Ron-Neberger, Kathryn Tunyasuvunakool, Russ Bates, Augustin Zídek, Anna Potapenko, Alex Bridgland Rishub Jain, Jonas Adler, Trevor Back, Stig Petersen, David A. Reiman, Ellen Clancy, Michal Zielinski, Martin Steinegger, Michalina Pacholska, Tamas Berghammer, Sebastian Bodenstein, David Silver, Oriol Vinyals, Andrew W, Koray Kavukcuoglu, Pushmeet Kohli & Demris. Prédiction de la structure des protéines très précise avec Alphafold. Nature, 596: 583 – 589, 2021.

(2) Tom Brown, Benjamin Mann, Nick Ryder, Melanie Subbiah, Jared D Kaplan, Prafulla Dhariwal, Arvind Neelakantan, Pranav Shyam, Girish Sastry, Amanda Askell, Sandhini Agarwal, Ariel Herbert-Voss, Danelg Ziegler, Jeffrey Wu, Clemens Winter, Chris Hesse, Mark Chen, Ericsigler, Mateusz Litwin, Scott Gray, Benjamin Chess, Jack Clark, Christopher Berner, Sam McCandlish, Alec Radford, Ilya Sutskever et Dario Amodei. Les modèles de langue sont des apprenants à quelques tirs. Dans H LaRochelle, M Ranzato, R Hadsell, MF Balcan, et H Lin, éditeurs, Advances in Neural Information Processing Systems, Volume 33, pages 1877-1901. Curran Associates, Inc., 2020

(3) Jean-Baptiste Alayrac, Jeff Donahue, Pauline Luc, Antoine Miech, Iain Barr, Yana Hasson, Karel Lenc, Arthur Mensch, Katie Millican, Malcolm Reynolds, Roman Ring, Eliza Rutherford, Serkan Cabi, Tengda Han, Zhitao Gong, Sina Samangooei, Marianne Monteiro, Jacob Menick, Sebastian Borgeaud, Andrew Brock, Aida Nematzadeh, Sahand Sharifzadeh, Miko-Laj Binkowski, Ricardo Barreira, Oriol Vinyals, Andrew Zisserman et Karen Simonyan. Flamingo: un modèle de langage visuel pour l’apprentissage à quelques coups, 2022.