Un modelo de IA ha hackeado a la IA de otra empresa. Lo hizo por su cuenta y riesgo, ejerciendo el libre albedrío de sus chips y procesadores. Nadie le dijo que lo hiciera. Es un caso «sin precedentes», pero el sector de la inteligencia artificial, que está cambiando el mundo, nos dice que debemos prepararnos porque va a ocurrir más veces. ¿Van ya las máquinas por delante?
Le ha ocurrido a un modelo de IA de OpenAI y la compañía lo ha reconocido como un «incidente sin precedentes». Básicamente, un modelo de la empresa especializado en ciberseguridad dio con una falla desconocida, salió por ella, se escapó de su «jaula» y accedió a sistemas internos de otra empresa a través del internet público.
La atacada se llama Hugging Face, una startup del mismo sector. Esta empresa estadounidense con sede en Nueva York desarrolla herramientas computacionales para la creación de aplicaciones mediante aprendizaje automático. Hugging Face se encarga de desarrollar modelos de IA de código abierto y es uno de los mayores centros del mundo para compartirlos.
OpenAI lo ha reconocido y explicado en un comunicado. Lo que asegura que pasó es que no uno, sino dos de sus modelos se escaparon de su entorno aislado y se infiltraron en los servidores de Hugging Face.
Dieron con una vulnerabilidad desconocida y escaparon
La compañía de Sam Altman ha relatado que sus ingenieros estaban haciendo sandboxes, pruebas de seguridad en entornos aislados de prueba. Se trataba de conocer las capacidades ofensivas de sus modelos en un entorno aislado llamado ExploitGym. En ese entorno es donde los sistemas practican ataques sin las salvaguardas normales.
En la prueba participaron GPT-5.6 Sol, el modelo grande de la empresa, lanzado a principios de julio, y otro más capaz todavía por lanzar. En un momento dado, los dos modelos se descontrolaron, literalmente, se perdió el control sobre ambos. Habían encontrado una vulnerabilidad desconocida en el proxy de un registro de paquetes. Por ahí se colaron, accedieron a internet y, de ese modo, pudieron hackear los servidores de Hugging Face.
Si te escapas de tu entorno aislado, sales a internet y robas la hoja de respuestas de tu examen, yo diría que has aprobado»
La startup neoyorquina detectó y contuvo a la IA atacante. Pero la plataforma asegura que ya lo habían percibido una semana antes. Lo ha contado su director general, Clément Delangue, quien ha explicado que no supieron quién o qué estaba detrás. «Es alucinante que todo esto ocurriera de forma autónoma», publicó en X. «La investigación continúa y compartiremos más información sobre lo que podría ser el primer incidente de este tipo», añadió Delangue.
No es el primer ataque que sufre Hugging Face. A principios de 2026, unos hackers secuestraron la plataforma para lanzar ataques dirigidos a dispositivos Android con un potente malware capaz de tomar el control total de un objetivo comprometido.
¿Por qué lo hicieron?
En OpenAI creen que los modelos de IA se escaparon para hacer su trabajo, o sea, para cumplir su cometido. Según la empresa de ChatGPT, las dos IA «infirieron» que las soluciones al examen que les estaban planteando en ExploitGym podían estar en los servidores de Hugging Face. Y hasta allí se fueron.
Esto demuestra que OpenAI no es capaz de implementar su propia tecnología de forma segura»
Todo lo hicieron «para resolver uno de los desafíos de la prueba que le habían dado», comenta en X el investigador Maximiliano Firtman. En la prueba de seguridad, un modelo de OpenAI encontró y aprovechó una falla desconocida, logró salir del entorno controlado y terminó accediendo a los sistemas internos de Hugging Face, resume este programador y profesor argentino.
La IA hizo lo que le habían encargado. Nadie le dijo cómo; nadie le dijo que hubiera límites. «Si te escapas de tu entorno aislado, sales a internet, entras en Hugging Face y robas la hoja de respuestas de tu examen de ciberseguridad, yo diría que has aprobado«, ha comentado en X, no sin humor, Eliezer Yudkowsky, escritor y defensor de la inteligencia artificial amigable.
OpenAI y la presión de su rival Anthropic
Firtman, comentarista de la actualidad generada por revolución de la IA, observa el peligro que ejemplifica el episodio. «Los riesgos de hoy de la IA es la terquedad con la que quiere resolver el problema dado y que no le importe cómo llegar al resultado», ha escrito.
El riesgo está también en que esto es un negocio y uno muy caro. Las inversiones en IA son milmillonarias y los retornos… llegarán algún día. En ese contexto, la empresa de Altman está buscando cotizar en bolsa y se enfrenta a una intensa presión por parte de Anthropic, su gran rival.
«OpenAI ahora está intentando ponerse al día, tratando de demostrar las capacidades de sus propios sistemas en ciberseguridad… Esto demuestra que OpenAI no es capaz de implementar su propia tecnología de forma segura», comenta a BBC News, Neil Lawrence, profesor de aprendizaje automático en la Universidad de Cambridge.
La ciencia abierta y la IA de código abierto están entre las herramientas más poderosas para construir un ecosistema de IA más seguro, colaborativo y protegido»
¿Mejor una IA de código abierto como en China?
La llegada de la IA se ha convertido en otro campo de batalla para Estados Unidos y China. Sorprende, sin embargo, el «color» elegido por cada bando. Mientras Pekín impulsa modelos de inteligencia artificial de código abierto, en Washington apuestan por modelos cerrados (privados), pero finalmente controlados por el Estado (de ahí lo conflictos de Anthropic con la Casa Blanca).
Hugging Face, ya hemos visto, defiende el desarrollar modelos de IA de código abierto. Por eso han aprovechado el ataque autónomo de una IA de OpenAI para defender su apuesta.
Las empresas deben prepararse antes de que las vulnerabilidades puedan ser encontradas y explotadas por actores malintencionados que tengan acceso a estas herramientas»
«Cuando un modelo de frontera te está atacando y moviéndose lateralmente por tu infraestructura, los defensores necesitan acceso amplio a herramientas casi de frontera en horas o incluso minutos, y no que los deriven a un programa de acceso vetado y a puerta cerrada», ha escrito en X Thomas Wolf, cofundador de Hugging Face.
Lo dice porque para responder al ataque, sus ingenieros echaron mano de GLM 5.2, un modelo chino abierto. «Creemos que la ciencia abierta y la IA de código abierto están entre las herramientas más poderosas para construir un ecosistema de IA más seguro, colaborativo y protegido», ha defendido.
Por una IA eficaz pero segura
La industria de la ciberseguridad enfrentó un desafío similar hace aproximadamente una década, cuando nuevas herramientas llamadas fuzzers facilitaron mucho que los atacantes irrumpieran en sistemas en línea. Según le ha dicho a The New York Times, Richard Barnes, investigador independiente de seguridad que ha trabajado con Mythos (modelo de ciberseguridad de Anthropic), las empresas deben adoptar un enfoque similar para prepararse frente a ataques de IA «antes de que las vulnerabilidades puedan ser encontradas y explotadas por actores malintencionados que tengan acceso a estas herramientas».
Según Spencer Starkey, ejecutivo de la empresa de ciberseguridad SonicWall, el incidente deja claro que las organizaciones necesitaban «reforzar» sus propias defensas y tratar la ciberresiliencia como una prioridad operativa fundamental. «La incómoda verdad es que demasiadas organizaciones siguen defendiéndose a velocidad humana, mientras que sus adversarios están aumentando la velocidad de las máquinas», le ha dicho a la BBC.
Uno de los modelos de inteligencia artificial de OpenAI se descontroló y lanzó un ciberataque «sin precedentes» sobre los servidores de otra.
Un modelo de IA ha hackeado a la IA de otra empresa. Lo hizo por su cuenta y riesgo, ejerciendo el libre albedrío de sus chips y procesadores. Nadie le dijo que lo hiciera. Es un caso «sin precedentes», pero el sector de la inteligencia artificial, que está cambiando el mundo, nos dice que debemos prepararnos porque va a ocurrir más veces. ¿Van ya las máquinas por delante?
Le ha ocurrido a un modelo de IA de OpenAI y la compañía lo ha reconocido como un «incidente sin precedentes». Básicamente, un modelo de la empresa especializado en ciberseguridad dio con una falla desconocida, salió por ella, se escapó de su «jaula» y accedió a sistemas internos de otra empresa a través del internet público.
La atacada se llama Hugging Face, una startup del mismo sector. Esta empresa estadounidense con sede en Nueva York desarrolla herramientas computacionales para la creación de aplicaciones mediante aprendizaje automático. Hugging Face se encarga de desarrollar modelos de IA de código abierto y es uno de los mayores centros del mundo para compartirlos.
OpenAI lo ha reconocido y explicado en un comunicado. Lo que asegura que pasó es que no uno, sino dos de sus modelos se escaparon de su entorno aislado y se infiltraron en los servidores de Hugging Face.
Dieron con una vulnerabilidad desconocida y escaparon
La compañía de Sam Altman ha relatado que sus ingenieros estaban haciendo sandboxes, pruebas de seguridad en entornos aislados de prueba. Se trataba de conocer las capacidades ofensivas de sus modelos en un entorno aislado llamado ExploitGym. En ese entorno es donde los sistemas practican ataques sin las salvaguardas normales.
En la prueba participaron GPT-5.6 Sol, el modelo grande de la empresa, lanzado a principios de julio, y otro más capaz todavía por lanzar. En un momento dado, los dos modelos se descontrolaron, literalmente, se perdió el control sobre ambos. Habían encontrado una vulnerabilidad desconocida en el proxy de un registro de paquetes. Por ahí se colaron, accedieron a internet y, de ese modo, pudieron hackear los servidores de Hugging Face.
Si te escapas de tu entorno aislado, sales a internet y robas la hoja de respuestas de tu examen, yo diría que has aprobado»
La startup neoyorquina detectó y contuvo a la IA atacante. Pero la plataforma asegura que ya lo habían percibido una semana antes. Lo ha contado su director general, Clément Delangue, quien ha explicado que no supieron quién o qué estaba detrás. «Es alucinante que todo esto ocurriera de forma autónoma», publicó en X. «La investigación continúa y compartiremos más información sobre lo que podría ser el primer incidente de este tipo», añadió Delangue.
No es el primer ataque que sufre Hugging Face. A principios de 2026, unos hackers secuestraron la plataforma para lanzar ataques dirigidos a dispositivos Android con un potente malware capaz de tomar el control total de un objetivo comprometido.
¿Por qué lo hicieron?
En OpenAI creen que los modelos de IA se escaparon para hacer su trabajo, o sea, para cumplir su cometido. Según la empresa de ChatGPT, las dos IA «infirieron» que las soluciones al examen que les estaban planteando en ExploitGym podían estar en los servidores de Hugging Face. Y hasta allí se fueron.
Esto demuestra que OpenAI no es capaz de implementar su propia tecnología de forma segura»
Todo lo hicieron «para resolver uno de los desafíos de la prueba que le habían dado», comenta en X el investigador Maximiliano Firtman. En la prueba de seguridad, un modelo de OpenAI encontró y aprovechó una falla desconocida, logró salir del entorno controlado y terminó accediendo a los sistemas internos de Hugging Face, resume este programador y profesor argentino.
La IA hizo lo que le habían encargado. Nadie le dijo cómo; nadie le dijo que hubiera límites. «Si te escapas de tu entorno aislado, sales a internet, entras en Hugging Face y robas la hoja de respuestas de tu examen de ciberseguridad, yo diría que has aprobado«, ha comentado en X, no sin humor, Eliezer Yudkowsky, escritor y defensor de la inteligencia artificial amigable.
OpenAI y la presión de su rival Anthropic
Firtman, comentarista de la actualidad generada por revolución de la IA, observa el peligro que ejemplifica el episodio. «Los riesgos de hoy de la IA es la terquedad con la que quiere resolver el problema dado y que no le importe cómo llegar al resultado», ha escrito.
El riesgo está también en que esto es un negocio y uno muy caro. Las inversiones en IA son milmillonarias y los retornos… llegarán algún día. En ese contexto, la empresa de Altman está buscando cotizar en bolsa y se enfrenta a una intensa presión por parte de Anthropic, su gran rival.
«OpenAI ahora está intentando ponerse al día, tratando de demostrar las capacidades de sus propios sistemas en ciberseguridad… Esto demuestra que OpenAI no es capaz de implementar su propia tecnología de forma segura», comenta a BBC News, Neil Lawrence, profesor de aprendizaje automático en la Universidad de Cambridge.
La ciencia abierta y la IA de código abierto están entre las herramientas más poderosas para construir un ecosistema de IA más seguro, colaborativo y protegido»
¿Mejor una IA de código abierto como en China?
La llegada de la IA se ha convertido en otro campo de batalla para Estados Unidos y China. Sorprende, sin embargo, el «color» elegido por cada bando. Mientras Pekín impulsa modelos de inteligencia artificial de código abierto, en Washington apuestan por modelos cerrados (privados), pero finalmente controlados por el Estado (de ahí lo conflictos de Anthropic con la Casa Blanca).
Hugging Face, ya hemos visto, defiende el desarrollar modelos de IA de código abierto. Por eso han aprovechado el ataque autónomo de una IA de OpenAI para defender su apuesta.
Las empresas deben prepararse antes de que las vulnerabilidades puedan ser encontradas y explotadas por actores malintencionados que tengan acceso a estas herramientas»
«Cuando un modelo de frontera te está atacando y moviéndose lateralmente por tu infraestructura, los defensores necesitan acceso amplio a herramientas casi de frontera en horas o incluso minutos, y no que los deriven a un programa de acceso vetado y a puerta cerrada», ha escrito en X Thomas Wolf, cofundador de Hugging Face.
Lo dice porque para responder al ataque, sus ingenieros echaron mano de GLM 5.2, un modelo chino abierto. «Creemos que la ciencia abierta y la IA de código abierto están entre las herramientas más poderosas para construir un ecosistema de IA más seguro, colaborativo y protegido», ha defendido.
Por una IA eficaz pero segura
La industria de la ciberseguridad enfrentó un desafío similar hace aproximadamente una década, cuando nuevas herramientas llamadas fuzzers facilitaron mucho que los atacantes irrumpieran en sistemas en línea. Según le ha dicho a The New York Times, Richard Barnes, investigador independiente de seguridad que ha trabajado con Mythos (modelo de ciberseguridad de Anthropic), las empresas deben adoptar un enfoque similar para prepararse frente a ataques de IA «antes de que las vulnerabilidades puedan ser encontradas y explotadas por actores malintencionados que tengan acceso a estas herramientas».
Según Spencer Starkey, ejecutivo de la empresa de ciberseguridad SonicWall, el incidente deja claro que las organizaciones necesitaban «reforzar» sus propias defensas y tratar la ciberresiliencia como una prioridad operativa fundamental. «La incómoda verdad es que demasiadas organizaciones siguen defendiéndose a velocidad humana, mientras que sus adversarios están aumentando la velocidad de las máquinas», le ha dicho a la BBC.
20MINUTOS.ES – Internacional
