IA | Antibots

Cloudflare lanza herramienta gratuita para combatir bots de IA

Cloudflare lanza herramienta para combatir bots de IA que escanean sitios web

Cloudflare, el proveedor de servicios en la nube cotizado en bolsa, ha lanzado una nueva herramienta gratuita para evitar que los bots escaneen sitios web alojados en su plataforma en busca de datos para entrenar modelos de IA.

Algunos proveedores de IA, como Google, OpenAI y Apple, permiten a los propietarios de sitios web bloquear los bots que utilizan para el escaneo de datos y el entrenamiento de modelos modificando el archivo robots.txt de su sitio, el archivo de texto que indica a los bots qué páginas pueden acceder en un sitio web. Pero, como señala Cloudflare en una publicación anunciando su herramienta de combate a los bots, no todos los raspadores de IA respetan esto.

"Los clientes no quieren que los bots de IA visiten sus sitios web, y especialmente aquellos que lo hacen de manera deshonesta", escribe la empresa en su blog oficial. "Temos miedo de que algunas empresas de IA que intentan eludir las reglas para acceder al contenido persistirán en adaptarse para evadir la detección de bots".

Por lo tanto, en un intento por abordar el problema, Cloudflare analizó el tráfico de bots de IA y rastreadores para ajustar los modelos automáticos de detección de bots. Los modelos consideran, entre otros factores, si un bot de IA podría estar intentando evadir la detección imitando la apariencia y el comportamiento de alguien que utiliza un navegador web.

"Cuando los actores malintencionados intentan rastrear sitios web a gran escala, generalmente utilizan herramientas y marcos que podemos identificar", escribe Cloudflare. "Basándonos en estas señales, nuestros modelos pueden marcar adecuadamente el tráfico de los bots de IA evasivos como bots".

Cloudflare ha establecido un formulario para que los anfitriones informen sobre bots de IA y rastreadores sospechosos y dice que continuará incluyendo en una lista negra manualmente a los bots de IA con el tiempo.

El problema de los bots de IA ha cobrado gran relevancia a medida que el auge de la IA generativa alimenta la demanda de datos para el entrenamiento de modelos.

Muchos sitios, desconfiados de los proveedores de IA que entrenan modelos con su contenido sin alertarles o compensarles, han optado por bloquear los raspadores y rastreadores de IA. Alrededor del 26% de los 1.000 principales sitios web han bloqueado el bot de OpenAI, según un estudio; otro encontró que más de 600 editores de noticias habían bloqueado el bot.

Bloquear no es una protección infalible, sin embargo. Como se mencionó anteriormente, algunos proveedores parecen estar ignorando las reglas estándar de exclusión de bots para obtener una ventaja competitiva en la carrera de la IA. El motor de búsqueda de IA Perplexity fue acusado recientemente de suplantar visitantes legítimos para escanear contenido de sitios web, y se dice que OpenAI y Anthropic han ignorado en ocasiones las reglas de robots.txt.

En una carta a los editores el mes pasado, la startup de licencias de contenido TollBit dijo que, de hecho, ve "muchos agentes de IA" ignorando el estándar robots.txt.

Herramientas como la de Cloudflare podrían ayudar, pero solo si demuestran ser precisas en la detección de bots de IA clandestinos. Y no resolverán el problema más intratable de los editores que arriesgan sacrificar el tráfico de referencia de herramientas de IA como las Visiones Generales de IA de Google, que excluyen sitios de la inclusión si bloquean rastreadores de IA específicos.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Innovación ética

Meta acelera innovación en IA pese a críticas éticas

Meta busca superar a competidores en inteligencia artificial, como OpenAI, a través de la rápida innovación, pero enfrenta críticas por prácticas éticamente cuestionables, especialmente en...

Revolución podcasts

Inteligencia artificial transforma podcasts con interacciones dinámicas y éticas

La inteligencia artificial está revolucionando los podcasts con herramientas como NotebookLM, que permiten interacciones más dinámicas. La nueva función "Modo Interactivo" facilita la participación de...

Nuevo miembro

OpenAI nombra a Adebayo Ogunlesi en su junta directiva

OpenAI ha nombrado a Adebayo Ogunlesi, ejecutivo de BlackRock, como nuevo miembro de su junta directiva. Su experiencia en finanzas y compromiso con la ética...

Contabilidad automatizada

Pryce Yebesi lanza Open Ledger para optimizar contabilidad empresarial

Pryce Yebesi, tras vender su empresa Utopia Labs a Coinbase, lanza Open Ledger, una plataforma de contabilidad automatizada. Su objetivo es ayudar a las empresas...

Conectividad IA

Apple se une a consorcio para desarrollar estándar UALink

Apple se une al Ultra Accelerator Link Consortium para desarrollar UALink, un estándar de conectividad para chips de IA en centros de datos. Esta colaboración...

Gestión tareas

ChatGPT introduce gestión de tareas y recordatorios personalizados

OpenAI ha lanzado una función de gestión de tareas en ChatGPT, permitiendo a los usuarios establecer recordatorios personalizados. Esta innovación mejora la interacción con la...

Sostenibilidad tecnológica

Biden impulsa centros de datos de IA con energías renovables

La orden ejecutiva de Biden permite a empresas de IA construir centros de datos en terrenos federales, exigiendo el uso de energías renovables. Esta estrategia...

Transformación tecnológica

Startups impulsan computación cuántica para revolucionar la tecnología

La computación cuántica, impulsada por startups como SEEQC, promete transformar la industria tecnológica al mejorar la eficiencia del procesamiento de datos. La colaboración con grandes...