REVUE PAMER: LOSKS CONTRASTIF-SEMPLATIONS

Le papier, Pertes contrastives de l’échantillon X: améliorer l’apprentissage contrastif avec les graphiques de similitude des échantillonsavec Yann LeCun en tant qu’auteur, concerne les signaux de signaux de similitude entre les signes, généralement les images. Le but est d’apprendre des représentations gonde (Zeddings) en contrastant des images similaires et différentes.

Voyons comment cela se fait habituellement. Si vous avez des images avec des étiquettes, vous emprenez une image et Augmenter Il, par exemple, par Mirror le retournant, ou en ajoutant du bruit. L’image d’origine et la forme de version augmentée de la paire de position.

Si vous avez des étiquettes de classe, des images des mêmes paires postives de formulaire de classe et des images pour diffuser des seaux Nextive Form. Notez que dans le cas MEIS et dans les cas précédents, les retarates sont binaires (Eitweave, pas entre les deux).

Maintenant, nous arrivons à l’essence du journal. Pour les images aux légendes, on peut coder les légendes (elles utilisent Sennstence-Bert Pour cela) et calculer la similitude cosinus entre eux. La mesure de la similitude, étant non binaire, permet des nuances de gris.

Revenant aux images avec les étiquettes avec des étiquettes, vous pouvez coder les étiquettes de classe (chat, chien, etc.) au lieu de légendes, et calculer la similitude. L’idée est que les incorporations de texte pour le chat et le chien seront plus proches de chaque ciel, s à nouveau ou getad les nuances de graed.

Apparemment, les représentants ont appris de cette manière uniquement Thacom (LikEtitors (Tâches LikeStream schiths, en particulier avec des moussins rlativement aviwaps disponibles.