IA | Vanguardia

Clarity lidera la lucha contra deepfakes con inteligencia artificial

Clarity: La empresa de ciberseguridad que lucha contra las deepfakes

Las deepfakes se han convertido en una preocupación cada vez mayor, ya que las herramientas para crearlas se vuelven más fáciles y baratas de usar. Según una encuesta reciente del Pew Center, aproximadamente dos tercios de los estadounidenses (66%) afirman que a veces se encuentran con videos e imágenes alteradas que pretenden engañar, y el 15% se encuentra con ellos con frecuencia. En otra encuesta realizada por Axios y la Universidad de Syracuse a expertos en inteligencia artificial, el 62% dijo que la desinformación será el mayor desafío para mantener la autenticidad y credibilidad de las noticias en la era del contenido generado por IA.

Ante este panorama, empresas como Clarity están trabajando para desarrollar herramientas de detección de deepfakes. Clarity fue fundada en 2022 por Michael Matias, especialista en ciberseguridad y CEO de la compañía, junto con Gil Avriel y Natalie Fridman. Su objetivo principal es desarrollar tecnología para detectar medios manipulados por IA, principalmente imágenes.

Clarity se encuentra entre las muchas empresas que compiten por desarrollar herramientas de detección de deepfakes. Otros competidores incluyen Reality Defender, que ofrece una plataforma para aislar deepfakes de texto, video e imagen, y Sentinel, que se enfoca en imágenes y videos manipulados por IA.

Clarity ofrece una herramienta de escaneo disponible a través de una aplicación y una API que utiliza varios modelos de IA para comparar los medios cargados, ya sean videos, imágenes o audio, con una base de datos de deepfakes e imágenes generadas por IA. Además, Clarity proporciona una forma de marca de agua que los clientes pueden utilizar para indicar que su contenido es legítimo.

Sin embargo, según Matias, lo que distingue a Clarity no se encuentra en la superficie, sino en su capacidad de respuesta rápida a nuevos tipos de deepfakes. "En su núcleo, Clarity utiliza IA pero opera como una empresa de ciberseguridad", dijo Matias. "Clarity trata los deepfakes como virus, actuando como patógenos que se ramifican y replican rápidamente. Como tal, su solución también se diseñó para ramificarse y replicarse para mantener la adaptabilidad y resiliencia... El equipo construyó infraestructura y modelos de IA dedicados a lograr esta tarea".

A pesar de los avances en la detección de deepfakes, es un objetivo en constante movimiento. Incluso con la mejor experiencia y tecnología, es un juego imposible de ganar considerando la velocidad a la que las aplicaciones de IA para crear deepfakes están mejorando. Es por eso que algunas empresas importantes, como Google, Microsoft y AWS, están adoptando técnicas más sofisticadas de marca de agua y metadatos de procedencia como medidas alternativas, aunque imperfectas, para combatir los deepfakes.

A pesar de estos desafíos, Clarity ha logrado atraer respaldo. Recientemente, la startup con sede en Nueva York, que cuenta con 13 empleados, cerró una ronda de financiación de 16 millones de dólares, liderada por Walden Catalyst Ventures y Bessemer Venture Partners, con la participación de Secret Chord Ventures, Ascend Ventures y Flying Fish Partners.

Inicialmente, Clarity buscaba clientes en editoriales de noticias y el sector público, incluido el gobierno de Israel. Matias afirma que Clarity está ayudando a autenticar y verificar videos relacionados con el conflicto entre Israel y Hamás. Sin embargo, la empresa ha expandido su alcance a proveedores de verificación de identidad y otras "grandes empresas" no reveladas.

"Esta es una carrera armamentista acelerada, al igual que la ciberseguridad tradicional", dijo Matias. "Cualquier empresa que quiera enfrentarse a los deepfakes debe moverse tan rápido como aquellos que los crean y difunden". Con su enfoque en la ciberseguridad y su capacidad de respuesta rápida, Clarity se está posicionando como un actor clave en la lucha contra los deepfakes.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Inversión estratégica

Meta invierte 14.3 mil millones en Scale AI para potenciar IA

Meta ha invertido 14.3 mil millones de dólares en Scale AI, adquiriendo un 49% de la empresa. Esta colaboración busca reforzar la posición de Meta...

Inversión significativa

Meta invierte 14.300 millones en Scale AI para etiquetado

Scale AI ha recibido una inversión de 14.300 millones de dólares de Meta, valorando la startup en 29.000 millones. Esta colaboración busca mejorar la calidad...

Privacidad comprometida

Meta AI genera inquietudes por riesgos de privacidad y seguridad

La aplicación Meta AI ha generado preocupaciones sobre la privacidad, permitiendo la divulgación involuntaria de información sensible. A pesar de su popularidad, la falta de...

Robo comercial

Tesla demanda a exingeniero por robo de secretos comerciales

Tesla ha demandado a su exingeniero Zhongjie “Jay” Li por presunto robo de secretos comerciales relacionados con su robot Optimus. Li, que fundó la startup...

Innovaciones decepcionantes

Apple lanza innovaciones en IA pero decepciona con Siri

Apple ha presentado innovaciones en inteligencia artificial, como "Visual Intelligence" para análisis de imágenes, "Workout Buddy" como asistente de ejercicio, y traducción en tiempo real....

Juguetes interactivos

Mattel y OpenAI revolucionan juguetes con inteligencia artificial interactiva

Mattel se asocia con OpenAI para integrar inteligencia artificial en sus juguetes, buscando crear experiencias interactivas y personalizadas. Esta colaboración, centrada en la seguridad y...

Contenido inapropiado

Meta demanda a Joy Timeline HK por generar imágenes inapropiadas

Meta ha demandado a Joy Timeline HK por la app Crush AI, que genera imágenes de desnudos sin consentimiento. La empresa busca frenar anuncios inapropiados...

Mejora creativa

Apple mejora Image Playground con ChatGPT para potenciar creatividad

Image Playground de Apple ha evolucionado tras críticas iniciales, incorporando ChatGPT para mejorar la calidad de las imágenes y ofrecer estilos variados. La actualización, prevista...