Durante años ha sido una voz más moderada en la industria: pronósticos cautelosos, menos grandes promesas, más ciencia y prueba de resultados. Por eso su nuevo texto suena especialmente contundente.
Hassabis escribe que AGI no se puede comparar con Internet o los teléfonos inteligentes. Tiene una escala más cercana a la electricidad o el fuego. Una tecnología que cambia no una industria separada, sino la lógica misma del desarrollo de la civilización.
Estima que el efecto podría ser diez veces mayor que el de la revolución industrial y ocurrir diez veces más rápido.
Sí, la AGI puede acelerar drásticamente la medicina, la física, la biología, los materiales y la energía. Pero Hassabis habla directamente del otro lado: los riesgos cibernéticos ya son reales, pueden aparecer más amenazas en áreas biológicas y otras áreas sensibles, y un problema aparte son los sistemas de agentes, que se están volviendo cada vez más autónomos.
La carrera por las oportunidades es más rápida que nuestra comprensión de cómo controlarla de forma segura.
Cuando una persona del nivel de Hassabis dice que se necesita una infraestructura regulatoria seria en los próximos años, suena completamente diferente a otra publicación sobre la singularidad.