Google lanza Cloud Security AI Workbench, una suite de ciberseguridad impulsada por inteligencia artificial generativa

La inteligencia artificial generativa está abriendo un nuevo camino en el ámbito de la ciberseguridad, y Google es una de las empresas que busca aprovechar esta tendencia.

En la RSA Conference 2023, Google presentó Cloud Security AI Workbench, una suite de ciberseguridad impulsada por un modelo de lenguaje de inteligencia artificial especializado en seguridad llamado Sec-PaLM. Este modelo es una derivación del modelo PaLM de Google, pero está "ajustado para casos de uso de seguridad", incorporando inteligencia de seguridad como investigaciones sobre vulnerabilidades de software, malware, indicadores de amenazas y perfiles de actores de amenazas.

Cloud Security AI Workbench incluye una serie de herramientas impulsadas por inteligencia artificial, como Threat Intelligence AI de Mandiant, que utilizará Sec-PaLM para encontrar, resumir y actuar sobre las amenazas de seguridad. VirusTotal, otra propiedad de Google, utilizará Sec-PaLM para ayudar a los suscriptores a analizar y explicar el comportamiento de los scripts maliciosos.

Además, Sec-PaLM ayudará a los clientes de Chronicle, el servicio de ciberseguridad en la nube de Google, a buscar eventos de seguridad e interactuar "conservadoramente" con los resultados. Los usuarios de Security Command Center AI de Google, por su parte, recibirán explicaciones "legibles por humanos" sobre la exposición a ataques, incluyendo activos afectados, mitigaciones recomendadas y resúmenes de riesgos para hallazgos de seguridad, cumplimiento y privacidad.

"Si bien la inteligencia artificial generativa ha capturado recientemente la imaginación, Sec-PaLM se basa en años de investigación de inteligencia artificial fundamental de Google y DeepMind, y en la profunda experiencia de nuestros equipos de seguridad", escribió Google en una publicación de blog. "Apenas hemos comenzado a darse cuenta del poder de aplicar la inteligencia artificial generativa a la seguridad, y esperamos seguir aprovechando esta experiencia para nuestros clientes y avanzar en la comunidad de seguridad".

Estas son ambiciones bastante audaces, especialmente considerando que VirusTotal Code Insight, la primera herramienta de Cloud Security AI Workbench, solo está disponible en una vista previa limitada en este momento. No está claro cuán bien funciona Sec-PaLM en la práctica. Si bien las "mitigaciones recomendadas y los resúmenes de riesgos" suenan útiles, ¿son las sugerencias mucho mejores o más precisas porque las produjo un modelo de inteligencia artificial?

Después de todo, los modelos de lenguaje de inteligencia artificial, por muy avanzados que sean, cometen errores. Y son susceptibles a ataques como la inyección de comandos, que pueden hacer que se comporten de manera no deseada.

Sin embargo, esto no detiene a las grandes empresas tecnológicas. En marzo, Microsoft lanzó Security Copilot, una nueva herramienta que tiene como objetivo "resumir" y "dar sentido" a la inteligencia de amenazas utilizando modelos de inteligencia artificial generativa de OpenAI, incluido GPT-4. En los materiales de prensa, Microsoft, al igual que Google, afirmó que la inteligencia artificial generativa equiparía mejor a los profesionales de la seguridad para combatir nuevas amenazas.

El veredicto todavía está por verse. En realidad, la inteligencia artificial generativa para la ciberseguridad podría resultar ser más hype que otra cosa, ya que hay una escasez de estudios sobre su efectividad. Con suerte, veremos los resultados pronto, pero mientras tanto, es mejor tomar las afirmaciones de Google y Microsoft con una pizca de sal.