Zürcher Nachrichten - La IA Mythos enciende alarmas: ¿advertencia fundada o truco de marketing?

La empresa es una de las competidoras en la feroz carrera de la IA. Promocionar la capacidad asombrosa de la propia tecnología de Anthropic impulsa el negocio y aumenta su atractivo en caso de que, como prevén analistas, salga a bolsa en breve.

Según Anthropic y sus socios, Mythos puede analizar de forma autónoma grandes cantidades de códigos de programación para detectar vulnerabilidades de seguridad hasta ahora desconocidas en todo tipo de software, desde sistemas operativos hasta navegadores web.

Lo más importante, advierten, es que esto se puede hacer a una velocidad y a una escala que ningún ser humano puede igualar, lo que significa que podría utilizarse para paralizar bancos, hospitales o infraestructuras nacionales en cuestión de horas.

"El mundo no tiene más remedio que tomarse en serio la amenaza cibernética asociada con Mythos", afirmó David Sacks, empresario e inversor que preside el consejo de asesores en tecnología de Donald Trump.

"Pero es difícil ignorar que Anthropic tiene un historial de tácticas alarmistas", añadió.

Mythos ha despertado el temor de que los hackers puedan dirigir ejércitos de agentes de IA capaces de burlar las defensas informáticas con facilidad.

En la conferencia HumanX AI celebrada esta semana en San Francisco, Alex Stamos, de la startup Corridor —dedicada a la seguridad en la IA—, reconoció la existencia de una amenaza real por parte de los hackers "agentes".

Y bromeó sobre lo que denominó el "truco de marketing" de Anthropic.

"Tienen estos adorables y cursis dibujos animados sobre esos productos que son tan increíblemente peligrosos que ni siquiera dejan que la gente los use", dijo Stamos sobre la startup con sede en San Francisco.

"Es como si el Proyecto Manhattan hubiera anunciado la bomba nuclear en un lindo y pequeño dibujo animado de Calvin y Hobbes", agregó.

Los directores de los mayores bancos de Estados Unidos se reunieron esta semana con el presidente de la Reserva Federal, Jerome Powell, y el secretario del Tesoro, Scott Bessent, para evaluar las posibles amenazas a su seguridad de Claude Mythos, según informaron medios locales el viernes.

"El modelo Mythos apunta a algo mucho más trascendental que otro salto en la inteligencia artificial", dijo el cofundador y director ejecutivo de Cato Networks, Shlomo Kramer, en una publicación de blog.

"Señala un cambio que podría redefinir el equilibrio entre atacantes y defensores en el ciberespacio", aseguró.

Esta semana se compartió con organizaciones asociadas una vista previa estrictamente restringida de Mythos, en el marco de una iniciativa llamada Proyecto Glasswing. Entre ellas estaban Amazon, Apple, Microsoft, Google, Cisco, CrowdStrike y JPMorgan Chase.

"Lo que antes requería especialistas de élite ahora puede ser realizado por agentes de software", advirtió Kramer sobre las capacidades de Mythos.

"Las consecuencias inmediatas serán un aumento en el descubrimiento de vulnerabilidades".

- "Guerra de agente a agente" -

En HumanX, el consenso aparente era que tiene sentido que los agentes de IA que ya son expertos en codificación se destaquen en encontrar debilidades en el software.

"No estamos en una era en la que los seres humanos puedan escribir código cuando contamos con modelos de IA sobrehumanos que luego van a encontrar errores en él", argumentó Stamos.

"Simplemente no es posible".

Stamos predijo que la dinámica que se avecina implicará que los humanos supervisen a los agentes de IA para proteger las redes contra los hackers que utilicen esa misma tecnología para atacar.

Se refirió a ello como una "guerra de agente a agente", con los humanos al margen dando consejos.

Wendy Whitmore, de la empresa de ciberseguridad Palo Alto Networks, espera "algún tipo de ataque catastrófico" este año relacionado con las capacidades de los agentes de IA.

"Lo que me quita el sueño es que nos enfrentamos a una avalancha de nuevas vulnerabilidades que serán descubiertas por la IA", afirmó Adam Meyers, de CrowdStrike.

Meyers consideró que incrustar un pequeño modelo de IA directamente en el código malicioso que infecta las redes es una táctica natural que los hackers van a explorar.

"El arma definitiva sería un malware que no tenga programación previa", dijo Meyers. "Podría hacer lo que se le pidiera".

W.Odermatt--NZN