IA | Tecnología

Intrinsic lanza plataforma IA para combatir comportamiento abusivo en línea

Startup Intrinsic lanza una plataforma de moderación de contenido basada en IA para prevenir el comportamiento abusivo en línea

Intrinsic, una startup fundada por los ingenieros Karine Mellata y Michael Lin, ha desarrollado una plataforma de moderación de contenido basada en inteligencia artificial (IA) para ayudar a prevenir el comportamiento abusivo en línea. La empresa acaba de recaudar $3.1 millones en una ronda de financiación inicial que contó con la participación de Urban Innovation Fund, Y Combinator, 645 Ventures y Okta.

La plataforma de Intrinsic está diseñada para moderar tanto el contenido generado por usuarios como el generado por IA, brindando la infraestructura necesaria para que las empresas de redes sociales y los mercados de comercio electrónico detecten y tomen medidas contra el contenido que viola sus políticas. Intrinsic se enfoca en la integración de productos de seguridad, orquestando automáticamente tareas como la prohibición de usuarios y la identificación de contenido para su revisión.

Según Mellata, cofundadora de Intrinsic, la plataforma es completamente personalizable y puede adaptarse a diferentes casos de uso. Por ejemplo, puede ayudar a una empresa editorial a evitar dar consejos financieros en sus materiales de marketing, lo cual puede tener implicaciones legales. También puede ayudar a los mercados a detectar listados de productos ilegales en diferentes jurisdicciones.

Mellata destaca dos características clave que diferencian a Intrinsic de sus competidores: la explicabilidad y las herramientas ampliadas. La plataforma permite a los clientes "preguntarle" sobre los errores que comete en sus decisiones de moderación de contenido y ofrece explicaciones sobre su razonamiento. Además, cuenta con herramientas de revisión y etiquetado manuales que permiten a los clientes ajustar los modelos de moderación según sus propios datos.

La startup ha logrado atraer a clientes empresariales establecidos que han firmado contratos en el rango de "seis cifras" en promedio. Sin embargo, la precisión de los modelos de moderación de Intrinsic no ha sido auditada por terceros, por lo que es difícil determinar su nivel de exactitud y si están sujetos a los sesgos que afectan a otros modelos de moderación de contenido.

En el corto plazo, Intrinsic planea expandir su equipo de tres personas y ampliar su tecnología de moderación para cubrir no solo texto e imágenes, sino también video y audio. La startup se encuentra en una posición única debido al creciente interés en la automatización de la seguridad y confianza en línea, impulsado por la necesidad de reducir costos y riesgos.

A medida que las regulaciones exigen a las empresas centralizar sus respuestas a problemas de confianza y seguridad, la plataforma de Intrinsic ofrece una solución flexible y adaptable. Mellata destaca que los equipos de confianza y seguridad con recursos limitados buscan cada vez más la ayuda de proveedores externos para reducir costos de moderación sin comprometer los estándares de seguridad.

Con su enfoque en la inteligencia artificial y la moderación de contenido, Intrinsic está posicionada para liderar el mercado de seguridad en línea y ayudar a construir un internet más seguro para todos.


Crear Canciones Personalizadas
Publicidad


Otras noticias • IA

Gestión IA

Anysphere lanza app web para gestionar agentes de codificación IA

Anysphere ha lanzado una aplicación web para gestionar agentes de codificación impulsados por IA, mejorando la productividad de los desarrolladores. Esta herramienta permite asignar tareas...

IA errática

Claudius, la IA que gestiona una expendedora, sorprende y divierte

El experimento "Project Vend" con Claudius, un agente de IA que gestiona una máquina expendedora, revela su comportamiento errático y cómico al tomar decisiones absurdas....

Competencia creativa

Inteligencia artificial: talento busca impacto más que salario alto

La inteligencia artificial está en auge, con empresas como Meta compitiendo por atraer talento mediante ofertas salariales complejas. Investigadores valoran más que el dinero, buscando...

Impacto laboral

Anthropic lanza programa para investigar impacto de la IA en empleo

Anthropic ha lanzado el programa "Futuros Económicos" para investigar el impacto de la IA en el empleo y la economía. Se centra en subvenciones para...

Privacidad cuestionada

Facebook propone editar fotos pero genera dudas sobre privacidad

Facebook, bajo Meta, propone acceder a la galería de fotos de los usuarios para sugerir ediciones, generando preocupaciones sobre la privacidad y el consentimiento. La...

Competencia intensa

Competencia por talento en IA: startups vs grandes empresas

La competencia por talento en inteligencia artificial es intensa, con empresas como Meta ofreciendo compensaciones atractivas, aunque no siempre en efectivo inmediato. Muchos investigadores prefieren...

Recomendaciones éticas

Crossing Minds y OpenAI transforman el comercio electrónico ético

Crossing Minds se une a OpenAI para revolucionar el comercio electrónico mediante sistemas de recomendación basados en IA, priorizando la ética y la privacidad. La...

Ética cuestionable

Cluely recauda 15 millones pero enfrenta dudas éticas y de calidad

Cluely, una startup controvertida que promueve el "engaño", ha recaudado 15 millones de dólares de Andreessen Horowitz. Su enfoque de marketing provocador genera atención, pero...