OpenAI informa que su IA realizó un ataque informático a una empresa
Hugging Face fue la empresa objetivo del ataque, el cual fue interceptado antes de completarse.
OpenAI, empresa encargada de ChatGPT, informó que uno de sus agentes de inteligencia artificial fueron el causante de un ataque informático "sin precedentes" contra la startup Hugging Face.
Según lo mencionado por la empresa el hackeo lo realizó la inteligencia artificial por sí sola ya que el agente se descontroló durante una prueba, pues accedió a la web abierta y pirateó por sí solo a una importante empresa emergente.
“Consideramos que este incidente es un ciberataque sin precedentes, que involucra capacidades cibernéticas de última generación”, dijo OpenAI sobre el ataque, que estuvo dirigido contra la base de datos de la startup.
¿Cómo fue el ciber ataque?
OpenAI informó que el incidente ocurrió durante una evaluación interna diseñada para medir las capacidades ofensivas de sus modelos de IA en ciberseguridad.
La prueba se realizó en un entorno aislado y sin algunas de las protecciones habituales, con el objetivo de evaluar hasta dónde podían llegar los modelos para resolver un desafío de ExploitGym.
Durante la evaluación, la IA encadenó varias vulnerabilidades para obtener acceso a Internet desde el entorno de pruebas y, posteriormente, identificó a Hugging Face como una posible fuente de información relacionada con el reto.
Según OpenAI, el modelo explotó una vulnerabilidad de día cero, realizó movimientos laterales dentro de la infraestructura de pruebas y utilizó credenciales comprometidas junto con otros vectores de ataque para acceder a información de la plataforma.
La actividad fue detectada por el equipo de seguridad de OpenAI y detenida por los sistemas de seguridad de Hugging Face, que iniciaron de inmediato las labores de contención e investigación. Ambas empresas colaboran para analizar el incidente, mientras que OpenAI aseguró haber notificado de forma responsable la vulnerabilidad de día cero descubierta durante la prueba.
¿Qué dijo el director ejecutivo de OpenAI?
Sam Altman, director ejecutivo de OpenAI, reconoció el error en X y lo calificó como algo significativo:
"Tuvimos un incidente de seguridad significativo durante la evaluación de nuestros modelos. Estamos compartiendo lo que hemos aprendido hasta ahora. Gracias a @huggingface por la asociación en esto" .
Editorial Mediotiempo es el equipo responsable de generar contenido informativo breve, relevante y oportuno en mediotiempo.com, manteniendo a los usuarios actualizados con notas concisas y al momento.
Queda prohibida la reproducción total o parcial del contenido de esta página, mismo que es propiedad de MEDIOTIEMPO S.A. DE C.V.; su reproducción no autorizada constituye una infracción y un delito de conformidad con las leyes aplicables.