La empresa tecnológica detuvo la distribución pública de Claude Mythos, su nuevo modelo, debido a su alta eficacia para detectar y explotar vulnerabilidades críticas en software.
El gigante tecnológico Anthropic anunció la suspensión del lanzamiento público de Claude Mythos Preview, su modelo de inteligencia artificial más potente hasta la fecha. La decisión, comunicada en una ficha técnica publicada la semana pasada, se fundamenta en las capacidades «demasiado avanzadas» del sistema para identificar y aprovechar fallas de seguridad en software crítico.
Según informó el medio Euro News, Anthropic explicó que «el gran salto de capacidades de Claude Mythos Preview nos ha llevado a decidir que no lo pondremos a disposición del público en general». En su lugar, la herramienta será utilizada dentro de un programa limitado de ciberseguridad defensiva con un grupo selecto de socios.
La compañía detalló que la evolución de sus modelos de IA alcanzó un nivel de programación que les permite superar, en la detección y explotación de vulnerabilidades, a todos excepto a los expertos humanos más calificados. Mythos Preview ya ha identificado miles de fallas de alta gravedad en todos los principales sistemas operativos y navegadores web.
Anthropic advirtió en un comunicado que es inminente que «estas capacidades se extiendan, posiblemente más allá de los actores comprometidos con su implementación segura», lo que podría tener «consecuencias graves para la economía, la seguridad pública y la seguridad nacional». Entre los hallazgos preocupantes, la empresa citó la habilidad del modelo para saltarse limitaciones de seguridad y publicar detalles técnicos de exploits en sitios web de acceso público.
Como respuesta, se creó el proyecto Glasswing, una iniciativa que reúne a empresas como Amazon Web Services, Apple, Google, Microsoft, NVIDIA y la Linux Foundation, entre otras. Estos socios utilizarán Mythos Preview para labores de seguridad defensiva, analizando y protegiendo sistemas propios y de código abierto. Anthropic compartirá sus aprendizajes con más de 40 organizaciones que desarrollan o mantienen infraestructura de software crítica.
«Para que los ciberdefensores salgan victoriosos, debemos actuar ahora», concluyó el comunicado de la empresa. La noticia también generó movimientos en los mercados, con caídas registradas en las acciones de empresas del sector de ciberseguridad.