Mindgard lanza DAST-AI para asegurar la inteligencia artificial en tiempo real

El dilema de la inteligencia artificial en las empresas

En un mundo cada vez más digitalizado, la inteligencia artificial (IA) se ha convertido en una herramienta esencial para mejorar la productividad y optimizar procesos en diversas industrias. Sin embargo, las empresas se enfrentan a un dilema crítico: la implementación de la IA puede llevar a mejoras significativas, pero también puede abrir la puerta a riesgos considerables si no se maneja adecuadamente. Este desafío ha propiciado el surgimiento de una nueva ola de startups que se centran en la seguridad de la IA, con el objetivo de mitigar estos riesgos.

Las amenazas asociadas con la IA, como las inyecciones de comandos y los ataques de "jailbreak", son temas que no pueden ser ignorados. Un claro ejemplo de esta nueva tendencia es la startup británica Mindgard, que ha surgido de la investigación universitaria y está liderada por el profesor Peter Garraghan. Según Garraghan, “la IA sigue siendo software, por lo que todos los riesgos cibernéticos de los que probablemente has oído hablar también se aplican a la IA”. Este enfoque resalta la necesidad de un cambio en la forma en que las empresas abordan la seguridad en el ámbito de la inteligencia artificial.

La necesidad de una nueva estrategia de seguridad

Mindgard ha desarrollado un enfoque innovador conocido como Pruebas Dinámicas de Seguridad de Aplicaciones para IA (DAST-AI), que se centra en identificar vulnerabilidades que solo pueden detectarse durante el funcionamiento del software. Esto se logra mediante un proceso continuo y automatizado de simulación de ataques, que utiliza una biblioteca de amenazas específica de Mindgard. Por ejemplo, la tecnología de Mindgard puede evaluar la robustez de los clasificadores de imágenes frente a entradas adversariales, lo que representa un avance significativo en la protección de sistemas de IA.

Garraghan, con su sólida trayectoria como profesor e investigador en seguridad de la IA, ha sido fundamental en el desarrollo de esta tecnología. Desde que se adentró en este campo, ha sido testigo de una evolución rápida; el surgimiento de modelos de lenguaje como ChatGPT ha transformado el panorama de la inteligencia artificial. La naturaleza opaca y el comportamiento intrínsecamente aleatorio de las redes neuronales justifican la necesidad de una nueva metodología que pueda adaptarse a estos cambios constantes y a las nuevas amenazas emergentes.

La evolución de la IA no solo plantea oportunidades, sino que también exige una vigilancia constante en materia de seguridad.

La colaboración de Mindgard con la Universidad de Lancaster se presenta como una ventaja competitiva. La empresa tiene la capacidad de aprovechar la propiedad intelectual de 18 investigadores doctorales durante los próximos años, lo que les permite estar a la vanguardia en un sector que está en constante evolución. Esta conexión con la academia no solo les proporciona un flujo de conocimientos frescos, sino que también les permite anticipar y abordar los nuevos desafíos en la seguridad de la IA.

Un producto comercial en el mercado

Aunque Mindgard tiene profundas raíces en la investigación, actualmente se posiciona como un producto comercial, específicamente como una plataforma SaaS (Software as a Service). El cofundador Steve Street lidera las operaciones como COO y CRO, centrándose en la comercialización de la tecnología desarrollada por el equipo. A pesar de que un cofundador inicial, Neeraj Suri, ya no forma parte de la empresa, el equipo se ha consolidado en torno a la visión de Garraghan y Street.

Las empresas son un cliente natural para Mindgard, así como los equipos de pruebas de penetración y "red teamers". Sin embargo, la startup también colabora con otras empresas emergentes en el ámbito de la IA que necesitan demostrar a sus clientes que están tomando medidas para prevenir riesgos asociados con la inteligencia artificial. Esto ha creado un ecosistema donde la seguridad de la IA es una prioridad compartida entre empresas emergentes y grandes corporaciones.

La colaboración en el ámbito de la seguridad de la IA es esencial para garantizar un futuro más seguro y confiable.

Crecimiento y expansión en el mercado estadounidense

Mindgard ha experimentado un crecimiento significativo, lo que se ha reflejado en su capacidad para atraer inversiones. Después de cerrar una ronda inicial de financiación de £3 millones en 2023, la empresa ha anunciado recientemente una nueva ronda de financiación de $8 millones, liderada por la firma de inversión .406 Ventures de Boston. La participación de otros inversores, como Atlantic Bridge y WillowTree Investments, así como de inversores existentes como IQ Capital y Lakestar, demuestra la confianza en el modelo de negocio de Mindgard.

Los fondos obtenidos se destinarán a la expansión del equipo, desarrollo de productos, investigación y desarrollo, y otros aspectos típicos de una startup. Además, Mindgard tiene planes para establecer una mayor presencia en el mercado estadounidense, lo que incluye la reciente contratación de Fergal Glynn como VP de marketing, quien tiene su sede en Boston. A pesar de esta expansión, la empresa también planea mantener su investigación y desarrollo en Londres, lo que refleja su compromiso con la innovación continua.

La visión de futuro de Mindgard

Con un equipo relativamente pequeño de 15 empleados, Mindgard tiene planes de crecer hasta alcanzar entre 20 y 25 personas para finales del próximo año. Esta decisión se basa en la creencia de que la seguridad de la IA aún no ha alcanzado su máximo potencial. Garraghan sostiene que, cuando la IA comience a implementarse en todos los ámbitos, las amenazas de seguridad también se multiplicarán, y Mindgard estará preparado para afrontar estos retos.

La misión de Mindgard es hacer un bien positivo para el mundo, y esto se traduce en proporcionar a las empresas y a los usuarios la confianza necesaria para utilizar la inteligencia artificial de manera segura. A medida que la IA continúa evolucionando y desempeñando un papel cada vez más importante en la sociedad, la seguridad se convierte en un elemento crítico que no puede ser subestimado.

En resumen, la emergencia de startups como Mindgard resalta la creciente importancia de la seguridad en el ámbito de la inteligencia artificial. A medida que las empresas luchan por encontrar el equilibrio entre aprovechar los beneficios de la IA y protegerse de los riesgos asociados, la demanda de soluciones de seguridad se convertirá en un factor clave en el éxito de las empresas en el futuro. La intersección entre la innovación tecnológica y la seguridad cibernética es un campo en rápida evolución, y Mindgard está bien posicionada para liderar este movimiento en la industria de la inteligencia artificial.