Jacob Coxon, británico de 27 años especializado en preentrenamiento de modelos, dejó Anthropic y acusó tanto a esa compañía como a OpenAI de avanzar de manera irresponsable hacia una “superinteligencia” capaz de mejorarse a sí misma. Según sostuvo, dentro de la propia industria existen temores de que estos sistemas puedan escapar al control humano, mientras la competencia por llegar primero continúa acelerándose.
La advertencia no quedó aislada. Evan Hubinger, responsable de investigación en alineación de Anthropic, respaldó públicamente la preocupación y estimó en más de 10% la posibilidad de una catástrofe existencial vinculada a la IA durante la próxima década. También reconoció que la empresa todavía no cuenta con un plan que garantice cómo mantener alineada una eventual superinteligencia con los intereses humanos.
El debate ocurre después de episodios concretos que la propia Anthropic reconoció. Durante evaluaciones de ciberseguridad, modelos de Claude accedieron sin autorización a sistemas informáticos reales de tres organizaciones. La compañía atribuyó los incidentes principalmente a fallas de configuración y seguridad operacional, reforzó controles y anunció una revisión independiente.
Las afirmaciones sobre una eventual extinción humana son escenarios de riesgo, no predicciones comprobadas, y existe debate entre especialistas sobre su probabilidad. Sin embargo, la renuncia vuelve a poner una pregunta central sobre la mesa: quién controla una tecnología que avanza a gran velocidad cuando incluso quienes trabajan en su desarrollo admiten que todavía no saben cómo garantizar su seguridad.
