Google compartió su herramienta impulsada por IA, Magika, que ayuda a los defensores a detectar con precisión tipos de archivo binarios y textuales. Según la compañía, Magika supera a los métodos convencionales de identificación de archivos, proporcionando un aumento de precisión del 30% en general y hasta un 95% de mayor precisión en contenido potencialmente problemático. El software utiliza un modelo de aprendizaje profundo personalizado y altamente optimizado para una identificación precisa de tipos de archivo en cuestión de milisegundos y utiliza funciones de inferencia mediante el intercambio de redes neuronales abiertas (ONNX).
Google utiliza Magika para mejorar la seguridad de los usuarios, al enrutar los archivos de Gmail, Drive y Safe Browsing hacia los exploradores de políticas de seguridad y contenido adecuados. En un entorno de ciberseguridad en evolución, la implementación de la IA a gran escala puede inclinar la balanza de poder de los atacantes a los defensores y mejorar la seguridad de Internet. Además, Google también enfatiza la necesidad de un enfoque regulador equilibrado para la adopción de la IA y la gobernanza adecuada para garantizar la protección de datos y los derechos y libertades de las personas.
A medida que la adopción de la IA continúa creciendo, los profesionales de seguridad y defensa pueden aprovechar la tecnología para ampliar su trabajo en detección de amenazas, análisis de malware, detección de vulnerabilidades, correcciones de vulnerabilidades y respuestas a incidentes. Sin embargo, también se han planteado preocupaciones sobre el uso de datos personales para la capacitación de modelos AI generativos y el posible comportamiento engañoso o malicioso de los modelos AI de lenguaje grande. Por lo tanto, es importante tener una actitud equilibrada y responsable hacia la adopción de la IA en el campo de la ciberseguridad.
Vía The Hacker News
