CalypsoAI recauda $23 millones para su plataforma de monitoreo de IA generativa

CalypsoAI recauda $23 millones para su software de monitoreo de inteligencia artificial generativa

Cada vez más empresas están adoptando la inteligencia artificial generativa, pero no están considerando todos los bloqueadores y desafíos que vienen junto con la implementación de esta tecnología en sus flujos de trabajo existentes. Según una encuesta reciente de KPMG, el 90% de las empresas afirmó tener "preocupaciones moderadas a altamente significativas" sobre los riesgos de usar la inteligencia artificial generativa y dudas sobre cómo mitigar esos riesgos. Solo el 6%, mientras tanto, dijo que sentía que su empresa tenía un programa de gobierno de inteligencia artificial maduro en su lugar.

Es por estas razones que Neil Sereybrany fundó CalypsoAI, una startup que desarrolla software para probar, validar y monitorear aplicaciones de inteligencia artificial desarrolladas internamente y de terceros antes de su implementación. La plataforma de CalypsoAI permite a las empresas monitorear y dar forma al uso de grandes modelos de lenguaje, como ChatGPT, a través de paneles que muestran estadísticas relacionadas con la toxicidad de los modelos, el compromiso del usuario y más.

CalypsoAI afirma que sus herramientas, implementadas como contenedores dentro de la infraestructura de una organización, permiten a las empresas prevenir la compartición de datos confidenciales en los modelos, al tiempo que identifican los ataques provenientes de herramientas de inteligencia artificial generativa. "Al implementar CalypsoAI, los líderes de CISO y TI pueden comenzar a considerar seriamente la implementación de soluciones de inteligencia artificial generativa en toda su organización de manera segura y protegida, lo que les permite introducir eficiencias en su negocio sin el riesgo adicional", dijo Sereybrany.

La demanda en el sector empresarial de soluciones de protección de inteligencia artificial generativa es alta. Empresas como Apple, JPMorgan Chase y Verizon han prohibido o restringido el uso de herramientas similares a ChatGPT internamente por temor a que los empleados puedan exponer accidentalmente información patentada. Muchas de estas mismas empresas también son cautelosas con respecto a la toxicidad y la desinformación de la inteligencia artificial generativa, que continúan afectando incluso a los mejores modelos disponibles en la actualidad.

CalypsoAI recaudó $23 millones en una ronda de financiación de la Serie A-1 liderada por Paladin Capital Group, con la participación de Lockheed Martin Ventures, Hakluyt Capital y Expeditions Fund. Además, notables ángeles contribuyeron a la ronda, incluida la ex CEO de YouTube, Susan Wojcicki, y su hermana, la cofundadora de 23andMe, Anne Wojcicki. Hasta la fecha, CalypsoAI ha recaudado $38,2 millones.

Sereybrany dijo que CalypsoAI utilizará los fondos de la última ronda para impulsar el desarrollo de productos, la contratación y las iniciativas de marketing de la compañía. Actualmente, CalypsoAI cuenta con 35 empleados y recientemente abrió una oficina en Dublín como parte del plan de la compañía de duplicar su fuerza laboral en los próximos dos años. "Al asociarnos con inversores que comparten nuestra visión y objetivos, podemos seguir innovando y haciendo avanzar nuestro negocio", dijo Sereybrany.