(R) Transformateur d’anomalie adaptative Mamba avec écart d’association pour les séries chronologiques

 (R) Transformateur d’anomalie adaptative Mamba avec écart d’association pour les séries chronologiques


Lien papier à accès ouvert: Transformateur d’anomalie adaptative Mamba avec écart d’association pour les séries chronologiques – ScienceDirect
Lien github: https://github.com/ilyesbenavissa/maat

Construit sur le Transformateur d’anomalie framework (ICLR 2022) qui utilise un Association-discuscancier Critère pour repérer les anomalies.
Ils Remplacez le back-end transformateur vanille par du mambaun Modèle sélectif d’espace d’état (SSM) C’est à la fois plus rapide (temps linéaire) et mieux dans des gammes très longues.
Ajouter Attention clairsemée Pour assister uniquement aux pas de temps pertinents, la lumière du poids capture mais capture un contexte à longue portée. Et introduire un SSM sélectif en mamba dans le chemin de reconstruction avec un skip – Connection + Attention fermée Cela équilibre dynamiquement la fidélité et le codage du signal d’anomalie.

https://preview.redd.it/2iehni7wetgf1.png?width=1369&format=png&auto=webp&s=70c03e71ae52ea05c58f27ec17b34603c03176b8

🚥 Échangeait dans un Adaptive Mamba SSM + ATTENTION SPARIFIÉ dans un transformateur d’anomalie existant.
🧠 Le résultat? Un modèle plus rapide qui se généralise mieux aux ensembles de données industriels et aux capteurs et bat la SOTA précédente à tous les niveaux.
🧪 Pas seulement une métrique – le MAAT améliore la F1, le rappel, la précision du volume, etc.

soumis par / u / diricus_krukov_
(lien) (Commentaires)



Source link

Related post