Vanguardia | IA

Clarity lidera la lucha contra deepfakes con inteligencia artificial

Clarity: La empresa de ciberseguridad que lucha contra las deepfakes

Las deepfakes se han convertido en una preocupación cada vez mayor, ya que las herramientas para crearlas se vuelven más fáciles y baratas de usar. Según una encuesta reciente del Pew Center, aproximadamente dos tercios de los estadounidenses (66%) afirman que a veces se encuentran con videos e imágenes alteradas que pretenden engañar, y el 15% se encuentra con ellos con frecuencia. En otra encuesta realizada por Axios y la Universidad de Syracuse a expertos en inteligencia artificial, el 62% dijo que la desinformación será el mayor desafío para mantener la autenticidad y credibilidad de las noticias en la era del contenido generado por IA.

Ante este panorama, empresas como Clarity están trabajando para desarrollar herramientas de detección de deepfakes. Clarity fue fundada en 2022 por Michael Matias, especialista en ciberseguridad y CEO de la compañía, junto con Gil Avriel y Natalie Fridman. Su objetivo principal es desarrollar tecnología para detectar medios manipulados por IA, principalmente imágenes.

Clarity se encuentra entre las muchas empresas que compiten por desarrollar herramientas de detección de deepfakes. Otros competidores incluyen Reality Defender, que ofrece una plataforma para aislar deepfakes de texto, video e imagen, y Sentinel, que se enfoca en imágenes y videos manipulados por IA.

Clarity ofrece una herramienta de escaneo disponible a través de una aplicación y una API que utiliza varios modelos de IA para comparar los medios cargados, ya sean videos, imágenes o audio, con una base de datos de deepfakes e imágenes generadas por IA. Además, Clarity proporciona una forma de marca de agua que los clientes pueden utilizar para indicar que su contenido es legítimo.

Sin embargo, según Matias, lo que distingue a Clarity no se encuentra en la superficie, sino en su capacidad de respuesta rápida a nuevos tipos de deepfakes. "En su núcleo, Clarity utiliza IA pero opera como una empresa de ciberseguridad", dijo Matias. "Clarity trata los deepfakes como virus, actuando como patógenos que se ramifican y replican rápidamente. Como tal, su solución también se diseñó para ramificarse y replicarse para mantener la adaptabilidad y resiliencia... El equipo construyó infraestructura y modelos de IA dedicados a lograr esta tarea".

A pesar de los avances en la detección de deepfakes, es un objetivo en constante movimiento. Incluso con la mejor experiencia y tecnología, es un juego imposible de ganar considerando la velocidad a la que las aplicaciones de IA para crear deepfakes están mejorando. Es por eso que algunas empresas importantes, como Google, Microsoft y AWS, están adoptando técnicas más sofisticadas de marca de agua y metadatos de procedencia como medidas alternativas, aunque imperfectas, para combatir los deepfakes.

A pesar de estos desafíos, Clarity ha logrado atraer respaldo. Recientemente, la startup con sede en Nueva York, que cuenta con 13 empleados, cerró una ronda de financiación de 16 millones de dólares, liderada por Walden Catalyst Ventures y Bessemer Venture Partners, con la participación de Secret Chord Ventures, Ascend Ventures y Flying Fish Partners.

Inicialmente, Clarity buscaba clientes en editoriales de noticias y el sector público, incluido el gobierno de Israel. Matias afirma que Clarity está ayudando a autenticar y verificar videos relacionados con el conflicto entre Israel y Hamás. Sin embargo, la empresa ha expandido su alcance a proveedores de verificación de identidad y otras "grandes empresas" no reveladas.

"Esta es una carrera armamentista acelerada, al igual que la ciberseguridad tradicional", dijo Matias. "Cualquier empresa que quiera enfrentarse a los deepfakes debe moverse tan rápido como aquellos que los crean y difunden". Con su enfoque en la ciberseguridad y su capacidad de respuesta rápida, Clarity se está posicionando como un actor clave en la lucha contra los deepfakes.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Lanzamiento

Ex cofundador de OpenAI lanza Safe Superintelligence Inc. en Palo Alto

Ilya Sutskever, ex cofundador de OpenAI, ha lanzado Safe Superintelligence Inc. (SSI) con un enfoque en la seguridad de la IA. La empresa, con sede...

Redes

Snap presenta modelo de difusión de imágenes en tiempo real

Snap ha presentado un modelo de difusión de imágenes en tiempo real para dispositivos que genera experiencias de realidad aumentada vívidas. También ha lanzado herramientas...

Innovación

DeepMind crea tecnología V2A para bandas sonoras automáticas en videos

DeepMind, laboratorio de IA de Google, desarrolla tecnología V2A para generar bandas sonoras automáticas para videos. La herramienta sincroniza música, efectos de sonido y diálogos...

Innovación

Perplexity y Tako revolucionan búsqueda con resultados visuales directos

Perplexity mejora su motor de búsqueda con resultados visuales directos para consultas factuales como el tiempo y la conversión de divisas. La startup colabora con...

Tecnología

TikTok presenta avatares de IA generativa para creadores y marcas

TikTok presenta avatares de IA generativa para creadores y marcas, incluyendo avatares personalizados y de stock, así como una herramienta de doblaje de IA para...

Éxito

Tempus, empresa de pruebas genómicas debuta con éxito en Nasdaq

Tempus, empresa de pruebas genómicas fundada por Eric Lefkosky, debutó en Nasdaq con éxito a pesar de una valoración reducida. Se enfoca en inteligencia artificial...

Nombramiento

Paul Nakasone se une al consejo de OpenAI por ciberseguridad

El exjefe de la NSA, Paul Nakasone, se unirá al consejo de OpenAI para aportar su experiencia en seguridad y protección. Su incorporación refleja el...

Fraude

Accionistas de Tesla demandan a Elon Musk por desviar recursos

Accionistas de Tesla demandan a Elon Musk por iniciar xAI y desviar talento y recursos de la empresa hacia la nueva startup, violando sus deberes...