Google amplía su programa de recompensas por vulnerabilidades para incluir ataques a la inteligencia artificial generativa
Google ha ampliado su programa de recompensas por vulnerabilidades (VRP, por sus siglas en inglés) para incluir escenarios de ataque específicos para la inteligencia artificial generativa. La compañía anunció que esta expansión incentivará la investigación en seguridad de la IA y permitirá identificar posibles problemas que, en última instancia, harán que la IA sea más segura para todos.
El programa de recompensas por vulnerabilidades de Google paga a los hackers éticos por encontrar y divulgar de manera responsable fallas de seguridad. Dado que la IA generativa presenta nuevos problemas de seguridad, como el potencial de sesgos injustos o manipulación del modelo, Google decidió replantear cómo se categorizan y reportan los errores que recibe.
Para lograr esto, la compañía está utilizando los hallazgos de su recién formado Equipo Rojo de IA, un grupo de hackers que simulan una variedad de adversarios, desde estados-nación y grupos respaldados por el gobierno hasta hacktivistas y personas con malas intenciones, para detectar debilidades de seguridad en la tecnología. Recientemente, el equipo realizó un ejercicio para determinar las mayores amenazas para la tecnología detrás de productos de IA generativa como ChatGPT y Google Bard.
El equipo descubrió que los grandes modelos de lenguaje (LLMs, por sus siglas en inglés) son vulnerables a ataques de inyección de indicaciones, por ejemplo, en los que un hacker crea indicaciones adversas que pueden influir en el comportamiento del modelo. Un atacante podría utilizar este tipo de ataque para generar texto perjudicial u ofensivo o filtrar información confidencial. También advirtieron sobre otro tipo de ataque llamado extracción de datos de entrenamiento, que permite a los hackers reconstruir ejemplos de entrenamiento de manera textual para extraer información personal identificable o contraseñas de los datos.
Ambos tipos de ataques están incluidos en el alcance del VRP ampliado de Google, junto con los ataques de manipulación del modelo y robo del modelo. Sin embargo, Google no ofrecerá recompensas a los investigadores que descubran errores relacionados con problemas de derechos de autor o extracción de datos que reconstruyan información no sensible o pública.
Las recompensas monetarias variarán según la gravedad de la vulnerabilidad descubierta. Actualmente, los investigadores pueden ganar hasta $31,337 si encuentran ataques de inyección de comandos y fallas de deserialización en aplicaciones altamente sensibles, como Google Search o Google Play. Si las fallas afectan a aplicaciones de menor prioridad, la recompensa máxima es de $5,000.
Google informó que pagó más de $12 millones en recompensas a investigadores de seguridad en 2022, lo que demuestra su compromiso con la protección de la IA y la promoción de la investigación en seguridad cibernética. Con esta expansión del VRP, Google busca fomentar aún más la colaboración entre la comunidad de investigadores y la compañía para mejorar la seguridad de la IA generativa y garantizar su uso responsable en beneficio de todos.
Otras noticias • Seguridad
Vulnerabilidad en TeleMessage expone datos sensibles de funcionarios
La vulnerabilidad en TeleMessage, una aplicación de mensajería utilizada por funcionarios de alto nivel, expone datos sensibles a hackers. La falta de transparencia y respuesta...
Ciberataque al Co-op revela vulnerabilidad en comercio minorista británico
El ciberataque al Co-op ha expuesto la vulnerabilidad del comercio minorista en el Reino Unido, afectando a 6,5 millones de clientes. La falta de ciberseguridad...
Malware chino Massistant amenaza la privacidad de usuarios móviles
El malware Massistant, utilizado por las autoridades chinas, permite extraer datos de teléfonos móviles confiscados, planteando serias preocupaciones sobre la privacidad. Su instalación es sencilla...
Exsoldado detenido por extorsión cibernética en telecomunicaciones
Cameron John Wagenius, exsoldado estadounidense, fue detenido por infiltrarse en empresas de telecomunicaciones y extorsionarlas con datos robados. Su caso resalta la creciente amenaza del...
Trump destina 1.000 millones a ciberofensivas y genera críticas
La administración Trump destina 1.000 millones de dólares a operaciones cibernéticas ofensivas, generando críticas por recortes en ciberdefensa. Legisladores y expertos advierten sobre la falta...
Ciberataque a Episource expone datos de 5.4 millones de pacientes
Un ciberataque a Episource ha comprometido la información personal y médica de más de 5.4 millones de pacientes en EE. UU. Este incidente resalta las...
Paragon enfrenta dilemas éticos tras escándalo de software espía
Paragon, empresa de software espía, enfrenta dilemas éticos tras su escándalo en Italia y un contrato con ICE. La presión internacional por el respeto a...
Bitchat de Dorsey enfrenta críticas por inseguridad y vulnerabilidades
El lanzamiento de Bitchat por Jack Dorsey ha generado críticas por la falta de pruebas de seguridad y vulnerabilidades en su diseño. Aunque promete mensajería...
Lo más reciente
- 1
Vulnerabilidades del SS7 amenazan privacidad en el Medio Oriente
- 2
Tensiones en Europa por regulación de IA y desarrollo tecnológico
- 3
Perplexity se asocia con Airtel para expandir IA en India
- 4
Usuarios de Claude Code frustrados por restricciones y falta de comunicación
- 5
Microsoft aumenta emisiones de carbono y lucha por sostenibilidad
- 6
Diarrha N’Diaye-Mbaye cierra Ami Colé ante desafíos empresariales
- 7
Hadrian recauda 260 millones para revitalizar manufactura en EE. UU