Alas de cristal

En la ficción de la saga cinematográfica Terminator, el famoso organismo cibernético comunicaba a los protagonistas humanos, Sarah y John Connor, el momento clave en el que un sistema de defensa automatizado basado en inteligencia artificial denominado Skynet, que aprendía a un ritmo geométrico, tomaría conciencia de sí mismo. El cyborg les aseguraba que ese instante ocurriría a las 2:14 a.m., hora de Este en Estados Unidos, el 29 de agosto de 1997, y que acto seguido se desencadenaría el Día del Juicio, debido a que Skynet llevaría a cabo el lanzamiento de misiles nucleares contra su enemigo, los seres humanos, lo que crearía sin duda un universo distópico.

En las últimas semanas estamos siendo testigos de algo que podría ser el guión de un relato fantasioso. Se trata del desarrollo de un modelo avanzado de inteligencia artificial que está cambiando de forma radical el panorama global de la ciberseguridad: Claude Mythos. Creado por la empresa Anthropic, este modelo ha sido clasificado por sus propios diseñadores como un sistema de IA altamente peligroso, pues posee capacidades extremas mucho más avanzadas que otros modelos comerciales.

El Proyecto Glasswing, que se fundó hace escasamente un par de meses, reúne a un selecto grupo de empresas globales con el objetivo de proteger el software más crítico, antes de que los nuevos modelos de inteligencia artificial puedan usarse en su contra. Su nombre se inspiró en la mariposa homónima, una de las criaturas más fascinantes del mundo natural pues posee unas alas tan finas que son prácticamente transparentes y de ahí que se la conozca como la mariposa de alas de cristal.

Pero ¿de qué es realmente capaz Mythos? Diseñado específicamente para la ciberseguridad y la programación de software crítico, posee razonamiento de alta fidelidad, es decir, no solo predice texto, sino que simula la lógica interna de los programas. Gracias a su autonomía agéntica puede formular hipótesis, validarlas y construir cadenas de explotación sin intervención humana directa. Cuando decimos que una inteligencia artificial es agéntica nos referimos a que no solo responde sino que actúa para lograr un objetivo. Es decir, toma decisiones por su cuenta, planifica y ejecuta acciones sin que el humano tenga que guiar cada movimiento y evalúa resultados, reajustando lo que hace.

Es capaz, por tanto, de descubrir vulnerabilidades complejas en sistemas operativos y navegadores, con un nivel de precisión superior a los expertos humanos y a cualquier inteligencia artificial en la detección de fallos de software.

Los miembros del consorcio Glasswing lo han estado probando de forma exclusiva y han constatado que Claude Mythos puede detectar de manera autónoma miles de vulnerabilidades de severidad alta o crítica en algunos de los componentes del software que sostiene la infraestructura actual de internet. O también que es capaz de revelar vulnerabilidades complejas que habían pasado desapercibidas durante décadas por los sistemas de escaneo tradicionales.

Hasta ahora la ciberseguridad estaba limitada por la rapidez en encontrar nuevas vulnerabilidades; en el futuro inminente lo estará por la rapidez en corregirlas, habida cuenta de la ingente cantidad de puntos débiles que modelos como Claude Mythos serán capaces de detectar.

Entonces ¿qué hacer? De forma muy resumida, la estrategia de resiliencia debe enfocarse en la gestión de los activos y de la infraestructura de IA, evitando el llamado Shadow AI -es decir, entornos de desarrollo en la sombra, sin conocimiento de los departamentos de tecnología-, radicalizar las políticas de confianza cero, aplicar señuelos para desviar la atención de los malos, simular ataques de forma recurrente y centralizar todos los hallazgos de seguridad.

Pero, sobre todo, debe centrarse en la ocultación o invisibilización, al igual que hacen las mariposas de alas de cristal.

Aunque suene muy lejano para una pequeña empresa o un autónomo, hay que confiar en las grandes compañías tecnológicas aliadas en torno a iniciativas como Glasswing, en los reguladores nacionales e internacionales y, finalmente, en que los avances y el desarrollo de la ciberseguridad sean incorporados progresivamente en nuestro día a día.

Temática: Innovación y Tecnología

Autor: Felipe González de Mesa Ponte

Felipe González de Mesa Ponte es Director de Tecnología en Cajasiete. Inició su carrera en el Área de Informática del Ayuntamiento de Santa Cruz de Tenerife. Posteriormente trabajó en Accenture cinco años y en 1999 se incorporó a Cajasiete. A lo largo de estos años ha continuado su formación en diversas especialidades entre las que destaca la Gestión y Dirección de Empresas, Big Data, Inteligencia de Negocio, Banca Digital y Fintech.

LinkedIn

Leer más...