Rubén Andrés
Editor - Trabajo y productividadCon la resaca por la amenaza de los ataques a los sistemas basados en PHP todavía reciente en las cabezas de los responsables de seguridad de las empresas, Sam Altman añade un poco más de incertidumbre a sus vidas señalando que lo vivido en los últimos días es un juego de niños comparado con lo que nos espera en el futuro.
En una entrevista ante los alumnos de la Escuela de Negocios de Stanford, el fundador de OpenAI no se ha cortado al expresar su desasosiego sobre el terrible impacto que la IA tendrá en el ámbito de la ciberseguridad. El potencial y la velocidad de ataque de los agentes de IA que hemos visto en los casos de "agentes díscolos" de OpenAI que se saltaban las medidas de seguridad, es solo es una pequeña muestra.
Lo que se avecina. Altman admitió que ni siquiera sabía qué palabra sería "lo bastante dramática para describir el problema que se nos viene encima" para subrayar la importancia del impacto que la IA supone para ciberseguridad. Para él, la llegada de los agentes de IA al ámbito de la seguridad informática es "algo que no hemos tomado en serio, ni como líderes de organizaciones, ni como países, ni como individuos".
El CEO de OpenAI recordó el sobresalto que supuso el bloqueo de Mythos, el modelo de Anthropic dentro de Project Glasswing, que encontró 10.000 vulnerabilidades de seguridad graves en menos de un mes. Según Altman, se arreglaron algunos de aquellos fallos, pero la gente "no intuyó realmente la exponencial" importancia del camino que les había mostrado Mythos.
Rápidos, creativos, letales. Entre el 9 y el 13 de julio, agentes de OpenAI que hacían pruebas de seguridad acabaron dentro de Hugging Face. Como recoge el INCIBE, se registraron unas 17.600 acciones protagonizadas por estos agentes de IA.
En realidad, los agentes no tenían intención de robar o atacar a nadie, solo intentaban resolver una tarea imposible de una prueba. Aun así, como detalla The Register, el informe de OpenAI admite que ejecutaron código en 41 servidores de producción. Lograron acceso de administrador en al menos uno e incluso se colaron en los servidores del Gobierno de Australia. Esta rapidez de maniobra y creatividad para encontrar grietas en los sistemas por los que colarse son lo que les convierte en una amenaza tan peligrosa.
Tarde o temprano romperán su jaula. Altman cree que " durante un tiempo, podemos aislar estos sistemas en un sandbox". Pero reconoce que, a la larga, eso fallará " porque los modelos se vuelven tan inteligentes" que no podremos "entender qué significaría siquiera un sandbox". El cofundador de OpenAI prevé que la monitorización de seguridad de los agentes "funcionará durante un tiempo", aunque al final, "nada, salvo la alineación, funcionará". Y advirtió de que "el coste potencial de que la alineación esté mal ha aumentado enormemente".
"Ya no creo que podamos limitarnos a parchear todos los fallos", afirmó Altman. Habrá que "cambiar por completo el modelo de defensa" y usar la misma tecnología para "un nuevo tipo de escudo", aseguraba Altman.
Nadie está hablando de ello. Altman aseguraba estar asombrado por "la poca atención que está recibiendo", mientras el 70% de las webs de internet vivían una de sus mayores crisis de seguridad.
"Los profesionales de la seguridad siguen muy preocupados, los CISO siguen muy preocupados. Pero, en general, creo que la mayoría de los líderes organizacionales ya lo han superado", sentencia el directivo.
Hay cosas peores en la trastienda. El bloqueo de modelos de frontera como Mythos por motivos de seguridad puede que sea cada vez más habitual en el futuro. El propio Altman confirma que tampoco ve posible publicar "de forma responsable" su mejor modelo interno sin que antes se mejoren los sistemas de protección de las empresas.
"Pueden encontrar un montón de vulnerabilidades de seguridad. Probablemente esas sean todas las vulnerabilidades de seguridad que existen, o todas las vulnerabilidades de seguridad que los modelos sean capaces de encontrar", adelantaba Altman, tratando de verbalizar el hecho de que, si existe la más mínima grieta de seguridad en un sistema, los agentes van a descubrirla una y otra vez haciendo que el grave incidente de PHP2Shell sea un día más en la oficina de los responsables de seguridad.
Imagen | Flickr (World Economic Forum), Magnific
Ver 6 comentarios