Félix de Bedout@fdbedout · Sep 9, 2026Jacob Coxon es un investigador de OpenAI, especializado en seguridad. Renunció esta noche a Anthropic. Dice que las…
Summary
Jacob Coxon, investigador de seguridad en OpenAI, renunció a Anthropic advirtiendo que las compañías de IA avanzan hacia una superinteligencia que pronto podría hackear sistemas y potencialmente matar a la humanidad antes de fin de década. Evan Hubinger, líder de pruebas de Anthropic, confirmó estas preocupaciones sobre riesgos existenciales de la IA.
Summarized by ThreadOut AI from the full thread. May miss nuance — read the thread below.
- #1
Jacob Coxon es un investigador de OpenAI, especializado en seguridad. Renunció esta noche a Anthropic. Dice que las compañías van en camino de una súper inteligencia que muy pronto podrá hackear todo. “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”. Aquí pueden leer completo el hilo 🧵 de su denuncia. Pueden usar el traductor de Twitter si lo necesitan. Feliz noche y felices sueños para todos.
Jacob Coxon@hilbertspaess · Sep 9, 2026I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
- #2
Evan Hubinger. Líder de pruebas de estrés de Anthropic reafirma lo denunciado por Jacob Coxon: “Creemos con sinceridad que la IA podría matar a todos los humanos, dentro de la próxima década”.
Evan Hubinger@EvanHub · Sep 9, 2026Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.
