Startup Intrinsic lanza una plataforma de moderación de contenido basada en IA para prevenir el comportamiento abusivo en línea
Intrinsic, una startup fundada por los ingenieros Karine Mellata y Michael Lin, ha desarrollado una plataforma de moderación de contenido basada en inteligencia artificial (IA) para ayudar a prevenir el comportamiento abusivo en línea. La empresa acaba de recaudar $3.1 millones en una ronda de financiación inicial que contó con la participación de Urban Innovation Fund, Y Combinator, 645 Ventures y Okta.
La plataforma de Intrinsic está diseñada para moderar tanto el contenido generado por usuarios como el generado por IA, brindando la infraestructura necesaria para que las empresas de redes sociales y los mercados de comercio electrónico detecten y tomen medidas contra el contenido que viola sus políticas. Intrinsic se enfoca en la integración de productos de seguridad, orquestando automáticamente tareas como la prohibición de usuarios y la identificación de contenido para su revisión.
Según Mellata, cofundadora de Intrinsic, la plataforma es completamente personalizable y puede adaptarse a diferentes casos de uso. Por ejemplo, puede ayudar a una empresa editorial a evitar dar consejos financieros en sus materiales de marketing, lo cual puede tener implicaciones legales. También puede ayudar a los mercados a detectar listados de productos ilegales en diferentes jurisdicciones.
Mellata destaca dos características clave que diferencian a Intrinsic de sus competidores: la explicabilidad y las herramientas ampliadas. La plataforma permite a los clientes "preguntarle" sobre los errores que comete en sus decisiones de moderación de contenido y ofrece explicaciones sobre su razonamiento. Además, cuenta con herramientas de revisión y etiquetado manuales que permiten a los clientes ajustar los modelos de moderación según sus propios datos.
La startup ha logrado atraer a clientes empresariales establecidos que han firmado contratos en el rango de "seis cifras" en promedio. Sin embargo, la precisión de los modelos de moderación de Intrinsic no ha sido auditada por terceros, por lo que es difícil determinar su nivel de exactitud y si están sujetos a los sesgos que afectan a otros modelos de moderación de contenido.
En el corto plazo, Intrinsic planea expandir su equipo de tres personas y ampliar su tecnología de moderación para cubrir no solo texto e imágenes, sino también video y audio. La startup se encuentra en una posición única debido al creciente interés en la automatización de la seguridad y confianza en línea, impulsado por la necesidad de reducir costos y riesgos.
A medida que las regulaciones exigen a las empresas centralizar sus respuestas a problemas de confianza y seguridad, la plataforma de Intrinsic ofrece una solución flexible y adaptable. Mellata destaca que los equipos de confianza y seguridad con recursos limitados buscan cada vez más la ayuda de proveedores externos para reducir costos de moderación sin comprometer los estándares de seguridad.
Con su enfoque en la inteligencia artificial y la moderación de contenido, Intrinsic está posicionada para liderar el mercado de seguridad en línea y ayudar a construir un internet más seguro para todos.
Otras noticias • IA
Midjourney lanza V1, revolucionando vídeos y desafiando derechos de autor
Midjourney ha lanzado V1, un modelo de generación de vídeos que transforma imágenes en secuencias de cinco segundos, ampliando las posibilidades creativas. Sin embargo, enfrenta...
OpenAI termina colaboración con Scale AI, incertidumbre en la industria
OpenAI ha finalizado su colaboración con Scale AI, buscando proveedores de datos más especializados. Esto genera incertidumbre en la industria del etiquetado de datos, mientras...
OpenAI revela hallazgos sobre comportamientos desalineados en IA
Investigadores de OpenAI han descubierto características ocultas en modelos de IA que corresponden a comportamientos desalineados, como la toxicidad. Este hallazgo permite ajustar y redirigir...
xAI en el ojo del huracán por turbinas sin permisos
La empresa xAI enfrenta controversia en Memphis por operar turbinas de gas natural sin permisos, lo que podría agravar la calidad del aire y la...
Google presenta "Search Live" para búsquedas interactivas y fluidas
Google ha lanzado "Search Live", una funcionalidad que permite a los usuarios interactuar con la IA de forma conversacional y fluida, facilitando la búsqueda de...
Digg renace con IA y recompensas para comunidades auténticas
La revitalización de Digg busca crear comunidades online auténticas, alejadas de bots y desinformación. Con una nueva aplicación en fase alpha, incorpora inteligencia artificial y...
Desafíos éticos en la búsqueda de inteligencia artificial general
La búsqueda de la inteligencia artificial general (AGI) plantea desafíos éticos y de gobernanza. Iniciativas como "The OpenAI Files" destacan la necesidad de transparencia y...
Meta ofrece hasta 100 millones por talento en IA
Meta compite ferozmente por talento en inteligencia artificial, ofreciendo hasta 100 millones de dólares en compensación. A pesar de sus esfuerzos, OpenAI retiene a sus...
Lo más reciente
- 1
Explosión de Starship en Texas genera dudas sobre vuelos futuros
- 2
Borderless impulsa inversiones de la diáspora africana en startups
- 3
Spotify aún no lanza audio sin pérdidas tras cuatro años
- 4
Wix adquiere Base44 por 80 millones, éxito en apps sin código
- 5
Paternidad y AI: desafíos y oportunidades en la crianza moderna
- 6
Multiplier revoluciona servicios profesionales con adquisición y AI
- 7
Base44, la startup israelí que brilla en el ecosistema tecnológico