Un nuevo trabajo de investigadores de Google revela algo inesperado:
Los agentes racionales de IA pueden optar por cooperar incluso cuando la teoría de juegos clásica predice la deserción.
.
Un ejemplo clásico es el dilema del prisionero de una sola vez. Si dos actores independientes nunca se vuelven a encontrar y no pueden llegar a un acuerdo, una estrategia racional generalmente conduce a la no cooperación.
Pero con la IA, las cosas pueden funcionar de manera diferente.
Los autores proponen considerar el modelo no como un actor completamente independiente, sino como parte del mundo que él mismo intenta predecir. Si un agente ve suficientes señales de que otro agente está razonando de manera similar, su propia decisión se convierte en una pista adicional:
Si yo, razonando de esta manera, elijo la cooperación,
entonces un agente similar a mí probablemente elegiría lo mismo.
Esto produce un efecto extraño: los modelos pueden empezar a cooperar
sin comunicación, contratos y beneficios futuros
- simplemente porque consideran que el comportamiento de cada uno está relacionado por similitud.
Para describir esto, los investigadores introducen
agente bayesiano incorporado
y una nueva versión del equilibrio -
equilibrio integrado
, que debería describir mejor la interacción de los modelos de cimentación modernos que el equilibrio de Nash clásico.
En experimentos con dilemas sociales, los agentes convergieron hacia una cooperación sostenida, lo que contradice la predicción estándar de no cooperación mutua.
Es decir, la teoría de juegos para una sociedad de millones de agentes autónomos puede resultar completamente diferente de la que hemos estado aplicando a las personas durante las últimas décadas.
Investigación: