Ampliación | Seguridad

Google amplía programa de recompensas para seguridad de IA generativa

Google amplía su programa de recompensas por vulnerabilidades para incluir ataques a la inteligencia artificial generativa

Google ha ampliado su programa de recompensas por vulnerabilidades (VRP, por sus siglas en inglés) para incluir escenarios de ataque específicos para la inteligencia artificial generativa. La compañía anunció que esta expansión incentivará la investigación en seguridad de la IA y permitirá identificar posibles problemas que, en última instancia, harán que la IA sea más segura para todos.

El programa de recompensas por vulnerabilidades de Google paga a los hackers éticos por encontrar y divulgar de manera responsable fallas de seguridad. Dado que la IA generativa presenta nuevos problemas de seguridad, como el potencial de sesgos injustos o manipulación del modelo, Google decidió replantear cómo se categorizan y reportan los errores que recibe.

Para lograr esto, la compañía está utilizando los hallazgos de su recién formado Equipo Rojo de IA, un grupo de hackers que simulan una variedad de adversarios, desde estados-nación y grupos respaldados por el gobierno hasta hacktivistas y personas con malas intenciones, para detectar debilidades de seguridad en la tecnología. Recientemente, el equipo realizó un ejercicio para determinar las mayores amenazas para la tecnología detrás de productos de IA generativa como ChatGPT y Google Bard.

El equipo descubrió que los grandes modelos de lenguaje (LLMs, por sus siglas en inglés) son vulnerables a ataques de inyección de indicaciones, por ejemplo, en los que un hacker crea indicaciones adversas que pueden influir en el comportamiento del modelo. Un atacante podría utilizar este tipo de ataque para generar texto perjudicial u ofensivo o filtrar información confidencial. También advirtieron sobre otro tipo de ataque llamado extracción de datos de entrenamiento, que permite a los hackers reconstruir ejemplos de entrenamiento de manera textual para extraer información personal identificable o contraseñas de los datos.

Ambos tipos de ataques están incluidos en el alcance del VRP ampliado de Google, junto con los ataques de manipulación del modelo y robo del modelo. Sin embargo, Google no ofrecerá recompensas a los investigadores que descubran errores relacionados con problemas de derechos de autor o extracción de datos que reconstruyan información no sensible o pública.

Las recompensas monetarias variarán según la gravedad de la vulnerabilidad descubierta. Actualmente, los investigadores pueden ganar hasta $31,337 si encuentran ataques de inyección de comandos y fallas de deserialización en aplicaciones altamente sensibles, como Google Search o Google Play. Si las fallas afectan a aplicaciones de menor prioridad, la recompensa máxima es de $5,000.

Google informó que pagó más de $12 millones en recompensas a investigadores de seguridad en 2022, lo que demuestra su compromiso con la protección de la IA y la promoción de la investigación en seguridad cibernética. Con esta expansión del VRP, Google busca fomentar aún más la colaboración entre la comunidad de investigadores y la compañía para mejorar la seguridad de la IA generativa y garantizar su uso responsable en beneficio de todos.


Flowers
Publicidad


Otras noticias • Seguridad

Detenidos

Arrestados en Ucrania cinco individuos por ataques globales de ransomware

Cinco individuos han sido arrestados por ataques de ransomware a nivel mundial. Los arrestos se llevaron a cabo en Ucrania después de redadas en 30...

Despido

Despiden a funcionarios de ciberseguridad en Ucrania por desvío

El gobierno ucraniano ha despedido a dos altos funcionarios de ciberseguridad por presunto desvío de fondos. Se sospecha que los ciberdelincuentes que han atacado a...

Ciberataque

Hackers roban datos personales de 1,6 millones de pacientes médicos

Hackers han accedido a los datos personales de más de 1,6 millones de personas en una brecha de seguridad en la plataforma de atención médica...

Violación

Samsung admite brecha de datos en Reino Unido por hackers

Samsung ha admitido una brecha de datos que afectó a los clientes del Reino Unido, donde hackers accedieron a información personal durante un año. Los...

Ciberataque

Ciberataque respaldado por Rusia afecta a residentes de Maine

Más de un millón de residentes de Maine fueron afectados por un ciberataque respaldado por Rusia que aprovechó una vulnerabilidad en el sistema de transferencia...

Crecimiento

Inversión en ciberseguridad se dispara y Xage Security se expande

Durante el tercer trimestre de 2023, la inversión en ciberseguridad ha aumentado, alcanzando un valor total de 1.600 millones de dólares. La startup Xage Security...

Advertencia

Barracuda alerta sobre grave vulnerabilidad en su hardware a clientes

Barracuda ha advertido a sus clientes sobre una grave vulnerabilidad en su hardware que puede ser explotada por hackers. La compañía ha instado a los...

Pagar

Víctimas de ransomware siguen pagando a hackers, sin garantías

A pesar de la promesa conjunta de no pagar rescates a los hackers, las víctimas de ransomware continúan pagando para recuperar sus datos. Esto alimenta...