🚨Alguien que lleva tres años entrenando modelos dentro de OpenAI y dentro de Anthropic acaba de dimitir esta madrugada y se fue dejando un hilo que da bastante más miedo que la dimisión Es Jacob Coxon. Investigación de pretraining. Las dos casas. Lo que dice, punto por punto: → Ninguna de las dos empresas está actuando de forma responsable. Van directas a una superinteligencia que se mejora a sí misma, y se están jugando nuestra vida en ello → No subestimes lo que viene: sistemas sobrehumanos capaces de hackear cualquier cosa, de revolucionar cualquier campo de un día para otro y de acumular poder y recursos reales. Y el progreso no se está frenando → La gente que construye esto cree de verdad que podría matarnos a todos antes de que acabe la década. No es marketing. En prensa lo suavizan para sonar sensatos, pero en privado dice oír a esas mismas personas hablar con miedo → Entonces por qué siguen. En OpenAI, dice, mucha gente no ha interiorizado lo que hay en juego. En Anthropic sí lo entienden, pero están atrapados en la carrera: creen que nadie más lo hará con cuidado, así que tienen que llegar ellos primero → Su frase demoledora: entrar en el "endgame" es una apuesta soberbia, y no debería lanzarse desde el Slack de una empresa privada → No es todo pesimismo. Avisos como el ataque a Hugging Face han hecho más viables los acuerdos de ritmo entre los laboratorios de EE. UU. Pero frenar la carrera global costaría caro, incluso una prohibición temporal de seguir mejorando capacidades Y el cierre no va dirigido a nosotros, va a sus excompañeros: ¿de verdad quieres lanzar un entrenamiento superinteligente sin entender con rigor la mente que estás creando? Lo que me deja frío no es que dimita porque haya visto algo. Es que dimite después de tres años viéndolo todo.