Explosiva renuncia de un exinvestigador de Anthropic y OpenAI: acusa a las empresas de saber que la IA “podría matarnos a todos para finales de la década” – Clarín | 09/09/26

Jacob Coxon, investigador británico de 27 años que trabajó durante los últimos tres años en preentrenamiento de inteligencia artificial en OpenAI y luego en Anthropic, renunció a la industria y acusó a ambas compañías de avanzar irresponsablemente hacia una superinteligencia capaz de mejorarse a sí misma, pese a conocer los potenciales riesgos. Coxon sostuvo que quienes desarrollan estos sistemas creen que la IA podría provocar la muerte de todos los humanos antes de finales de la década y advirtió que ninguna empresa debería desarrollar una tecnología superior a las capacidades humanas sin intervención gubernamental o una desaceleración coordinada. Sus preocupaciones fueron respaldadas por empleados de Anthropic: el responsable de seguridad Evan Hubinger estimó personalmente en más de 10% el riesgo de que la IA mate a todos los humanos durante la próxima década y afirmó que todavía no existe un plan para resolver el problema del alineamiento de una eventual superinteligencia, mientras Samuel Marks señaló que desarrolladores del sector creen que la tecnología podría causar la extinción humana u otros resultados igualmente graves. El temor se concentra especialmente en la denominada “automejora recursiva”, escenario en el que un modelo podría diseñar a su propio sucesor fuera del control humano. En febrero, Anthropic retiró de su carta de seguridad el compromiso de detener el desarrollo de modelos si no lograba controlar sus riesgos y, a fines de julio, más de mil trabajadores de la industria —incluido el CEO de Anthropic, Dario Amodei— reclamaron a Washington impulsar mecanismos técnicos y de gobernanza que permitan desacelerar el desarrollo de la IA ante riesgos emergentes. Coxon considera que las empresas permanecen atrapadas en una carrera competitiva por desarrollar primero estos sistemas y llamó a los investigadores a cuestionar esa dinámica y exigir condiciones diferentes, al considerar que avanzar hacia una superinteligencia sin comprender adecuadamente su funcionamiento representa una apuesta demasiado riesgosa. Link a Artículo