Sujet: Systèmes d’auto-organisation différenciables

Comment pouvons-nous construire des systèmes d’auto-organisation robustes et généraux?
L’auto-organisation est omniprésente à toutes les échelles de la vie biologique. Des interactions complexes entre les molécules formant des structures telles que les protéines aux colonies cellulaires atteignant des objectifs mondiaux tels que l’exploration au moyen des cellules individuelles collaborant et communiquant, aux humains formant des collectifs dans la société tels que les tribus, les gouvernements ou les pays. Le vieil adage «le tout est supérieur à la somme de ses parties», souvent attribué à Aristote, sonne vrai partout où nous regardons.
Les articles de ce fil se concentrent sur les moyens pratiques de concevoir des systèmes auto-organisés. En particulier, nous utilisons la programmation différenciable (optimisation) pour apprendre les politiques au niveau de l’agent qui satisfont les objectifs au niveau du système. La nature interdisciplinaire de ce fil vise à faciliter l’échange d’idées entre la ML et les communautés de biologie du développement.
Articles et commentaires
Distill a invité plusieurs chercheurs à publier un «fil» d’articles courts explorant des systèmes d’auto-organisation différents, entrecoupés de commentaires critiques de plusieurs experts dans les domaines adjacents. Le fil sera un document vivant, avec de nouveaux articles ajoutés au fil du temps. Des articles et des commentaires sont présentés ci-dessous dans l’ordre chronologique:
Automates cellulaires neuraux en croissance
Construire leur propre corps est la toute première compétence que toutes les créatures vivantes possèdent. Comment concevoir des systèmes qui se développent, se maintiennent et se répartissent en régénérant les dommages? Ce travail étudie la morphogenèse, le processus par lequel les créatures vivantes auto-assemblent leur corps. Il propose un modèle d’automates cellulaires différenciable de morphogenèse et montre comment un tel modèle apprend un ensemble de dynamique robuste et persistant pour développer toute structure arbitraire à partir d’une seule cellule.
Lire l’article complet
Esclassement des chiffres MNIST
Ce travail présente un suivi de la CAS neuronale croissante, en utilisant un modèle de calcul similaire pour l’objectif de «l’auto-classification» du chiffre. Les auteurs montrent comment les CAS neuronaux peuvent classifier l’auto-classifier le chiffre MNIST qu’ils forment. Le CAS résultant peut être interagi en modifiant dynamiquement le chiffre sous-jacent. Le CAS réagit aux perturbations avec un comportement de classification auto-corrigé.
Lire l’article complet
Textures d’auto-organisation
Ici, les auteurs appliquent des automates cellulaires neuraux à un nouveau domaine: la synthèse de texture. Ils commencent par former NCA à imiter une série de textures tirées des images de modèle. Ensuite, en s’inspirant des camouflages adversaires qui apparaissent dans la nature, ils utilisent la NCA pour créer des textures qui excitent au maximum les neurones dans un modèle de vision pré-entraîné. Ces résultats révèlent qu’un modèle simple combiné à des objectifs bien connus peut conduire à des comportements robustes et inattendus.
Lire l’article complet
Reprogrammation contradictoire des automates cellulaires neuraux
Ce travail prend des modèles de CA neuronaux existants et montre comment ils peuvent être reprogrammés de manière adversaire pour effectuer de nouvelles tâches. MNIST CA peut être trompé en sortie de classifications incorrectes et les modèles de CA en croissance peuvent être faits pour que leur forme et leur couleur modifient.
Lire l’article complet
Ceci est un document vivant
Attendez-vous à plus d’articles sur ce sujet, ainsi que des commentaires critiques d’experts.
S’impliquer
Le thread de systèmes auto-organisés est ouvert aux articles explorant des systèmes auto-organisés différenciables. Les commentaires critiques et la discussion des articles existants sont également les bienvenus. Le fil est organisé par l’ouverture #selforg
canal sur le
Distiller le mou. Des articles peuvent y être suggérés et seront inclus à la discrétion des auteurs précédents dans le fil, ou en cas de désaccord par un éditeur non impliqué.
Si vous souhaitez vous impliquer mais que vous ne savez pas par où commencer, de petits projets peuvent être disponibles si vous demandez dans la chaîne.
À propos du format de fil
Une partie du mandat de Distill est d’expérimenter de nouvelles formes d’édition scientifique. Nous pensons que la réconciliation des approches plus rapides et plus continues de la publication avec revue et discussion est un problème ouvert important dans l’édition scientifique.
Les fils sont des collections d’articles courts, des expériences et des commentaires critiques autour d’un sujet de recherche étroit ou inhabituel, ainsi qu’un canal Slack pour la discussion et la collaboration en temps réel. Ils sont destinés à être antérieurs à un document de distill complet et permettent une publication, une rétroaction et une discussion plus fluides. Nous espérons également qu’ils permettront une participation plus large. Pensez à un croisement entre un fil Twitter, un atelier académique et un livre d’essais collectés.
Les threads sont vraiment une expérience. Nous pensons qu’il est possible qu’ils soient un excellent format, et aussi possibles sont terribles. Nous prévoyons d’essayer deux de ces fils, puis de réévaluer notre pensée sur le format.
Note éditoriale
Une partie du mandat de Distill est d’expérimenter de nouvelles formes d’édition scientifique. Nous croyons que quelque chose dans le sens de ce format «fil» pourrait être prometteur, mais le voyez beaucoup comme une expérience. Nous prévoyons d’essayer deux de ces fils, puis de réévaluer notre pensée sur le format.
Informations sur la citation
Si vous souhaitez citer ce fil dans son ensemble, les informations de citation peuvent être trouvées ci-dessous. L’ordre de l’auteur est tous des participants au fil dans l’ordre alphabétique. Puisqu’il s’agit d’un document vivant, la citation peut ajouter des auteurs supplémentaires au fur et à mesure qu’il évolue. Vous pouvez également citer des articles individuels en utilisant les informations de citation fournies au bas de l’article correspondant.
Mises à jour et corrections
Si vous voyez des erreurs ou souhaitez suggérer des modifications, veuillez Créer un problème sur Github.
Réutilisation
Les diagrammes et le texte sont sous licence Creative Commons Attribution CC-BY 4.0 avec Source disponible sur githubsauf indication contraire. Les chiffres qui ont été réutilisés à partir d’autres sources ne relèvent pas de cette licence et peuvent être reconnus par une note dans leur légende: «figure de…».
Citation
Pour l’attribution dans des contextes académiques, veuillez citer ce travail comme
Mordvintsev, et al., "Thread: Differentiable Self-organizing Systems", Distill, 2020.
Citation bibtex
@article{mordvintsev2020thread:, author = {Mordvintsev, Alexander and Randazzo, Ettore and Niklasson, Eyvind and Levin, Michael and Greydanus, Sam}, title = {Thread: Differentiable Self-organizing Systems}, journal = {Distill}, year = {2020}, note = {https://distill.pub/2020/selforg}, doi = {10.23915/distill.00027} }