Transformers pour les données tabulaires chez Capital One avec Bayan Bruss

Aujourd’hui, nous sommes rejoints par Bayan Bruss, directeur de la recherche sur ML appliquée chez Capital One. Dans notre conversation avec Bayan, nous creusons son travail dans l’application de diverses techniques d’apprentissage en profondeur aux données tabulaires, notamment en faisant des progrès réalisés dans d’autres domaines tels que le graphique CNNS et d’autres algorithmes d’exploitation de graphiques traditionnels et les appliquant à des applications de services financiers. Nous discutons pourquoi, malgré un «inondation» d’innovation dans le domaine, les travaux sur les données tabulaires n’obtiennent pas autant de fanfare malgré son utilisation générale entre les entreprises, l’expérience de Bayan avec la difficulté de faire travailler en profondeur sur les données tabulaires et quelles opportunités ont été présentées pour le domaine avec l’émergence de modèles multi-modalités et de transformateurs. Nous explorons également une paire d’articles de l’équipe de Bayan, axés sur les transformateurs et le transfert d’apprentissage pour les données tabulaires.