Nuevo trabajo
Difundir la culpa
comprueba una restricción estricta de la biología:
principio de dale
.
En un cerebro real, una neurona normalmente no “mezcla roles”: es excitadora o inhibidora. Y en las redes neuronales ordinarias, la misma unidad puede tener fácilmente pesos salientes tanto positivos como negativos. Conveniente para aprender, pero biológicamente extraño.
Los autores crean una arquitectura de doble flujo: flujos excitadores/inhibidores separados y solo matrices de peso no negativos. El signo de la conexión no está determinado por el peso en sí, sino por el tipo de población.
El backprop clásico requiere copias transpuestas casi exactas de los pesos hacia adelante en el pase hacia atrás, pero tal mecanismo no es visible en biología.
En cambio se utiliza
Difusión de errores
: La señal de error global va directamente a las capas ocultas. La principal adición del artículo es
enrutamiento de errores de módulo
, que extiende ED de tareas binarias a multiclase.
Resultados:
*
96,7%
en MNIST
*
61,7%
en CIFAR-10
* ED-PPO probado en RL en locomoción Brax y Craftax
* en HalfCheetah ED-PPO incluso supera al BP-PPO normal en su experimento
* en tareas más complejas como Craftax, el resultado es más débil, pero sigue siendo competitivo con DFA
Curiosamente, una red con una restricción biológica estricta aún puede aprender de imágenes y tareas de RL sin tener que transportar pesos.
Papel:
https://arxiv.org/abs/2606.31700
@análisis_datos_ml