El gobierno de EE. UU. ha publicado nuevas pautas de seguridad para proteger la infraestructura crítica contra amenazas relacionadas con la inteligencia artificial (IA).
Según el Departamento de Seguridad Nacional (DHS), estas pautas están informadas por la evaluación de los riesgos de la IA en los dieciséis sectores de infraestructura crítica.
El DHS está trabajando para facilitar el uso seguro, responsable y confiable de la tecnología de IA sin infracciones a la privacidad, los derechos civiles y las libertades civiles.
Las nuevas pautas enfatizan el uso de la IA para aumentar y escalar ataques a la infraestructura crítica, la manipulación adversarial de sistemas de IA y deficiencias en tales herramientas que podrían resultar en consecuencias no deseadas.
Se centran en cuatro funciones a lo largo del ciclo de vida de la IA: establecer una cultura organizativa de gestión de riesgos de la IA, comprender el contexto individual de uso de la IA, desarrollar sistemas para evaluar, analizar y rastrear los riesgos de la IA, y priorizar y actuar sobre los riesgos de la IA para la seguridad.
La agencia destaca que los propietarios y operadores de infraestructura crítica deben considerar su propio uso de la IA específico al evaluar los riesgos y seleccionar las medidas de mitigación adecuadas.
Estas pautas llegan después de que la alianza de inteligencia Five Eyes (FVEY) publicara una hoja de información sobre ciberseguridad que destacaba la configuración cuidadosa requerida para implementar sistemas de IA.
Entre las mejores prácticas recomendadas se incluye garantizar una arquitectura robusta del entorno de implementación, proteger los pesos del modelo, aplicar controles de acceso estrictos, realizar auditorías externas e implementar un registro sólido.
Manifestaron que los sistemas de IA son vulnerables a una amplia gama de ataques de inyección de comandos, incluida una técnica llamada Crescendo, utilizada para crear señuelos de phishing efectivos.
Los estudios también han revelado que los agentes de IA se pueden utilizar para explotar de manera autónoma vulnerabilidades de un día en sistemas del mundo real.
Este conjunto de pautas tiene como objetivo preparar a los propietarios y operadores de infraestructura crítica para afrontar los desafíos que plantea el uso de la IA en un entorno de ciberseguridad en constante evolución.
Vía The Hacker News
