Datumo impulsa la seguridad y ética en inteligencia artificial

La creciente preocupación por la seguridad en la inteligencia artificial

La inteligencia artificial (IA) ha avanzado a pasos agigantados en los últimos años, revolucionando la manera en que las empresas operan y toman decisiones. Sin embargo, este rápido desarrollo también ha suscitado inquietudes en torno a la seguridad y la ética de su uso. Según un reciente informe de McKinsey, la mayoría de las organizaciones no se sienten completamente preparadas para utilizar la IA generativa de manera segura y responsable. La falta de preparación plantea riesgos significativos que deben ser abordados con urgencia.

El informe revela que un 40% de los encuestados considera que la falta de explicabilidad —la capacidad de entender cómo y por qué la IA toma ciertas decisiones— es un riesgo considerable. A pesar de esto, solo un 17% está tomando medidas activas para mitigar esta preocupación. Esta situación pone de manifiesto la necesidad de un enfoque más riguroso en la implementación de la IA en el ámbito empresarial.

La falta de preparación para el uso seguro de la IA genera un entorno propenso a decisiones erróneas y sesgadas.

La respuesta del sector: Datumo y la seguridad en la IA

En medio de este panorama de incertidumbre, surgen iniciativas como la de Datumo, una startup surcoreana que ha decidido abordar estas preocupaciones de manera innovadora. Fundada en 2018 por David Kim y un grupo de alumni del Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST), Datumo comenzó como una empresa de etiquetado de datos, pero ha evolucionado para ofrecer herramientas y datos que facilitan la creación de modelos de IA más seguros.

Recientemente, Datumo logró recaudar 15,5 millones de dólares en una ronda de financiación que eleva su total a aproximadamente 28 millones. Este capital proviene de importantes inversores, incluyendo Salesforce Ventures y KB Investment, entre otros. El objetivo de esta inversión es potenciar la investigación y el desarrollo de herramientas de evaluación automatizada para la IA empresarial.

La idea original de Kim surgió de su frustración con el tedioso proceso de etiquetado de datos. Su solución fue una aplicación basada en recompensas que permite a cualquier persona etiquetar datos en su tiempo libre y recibir una compensación por ello. Esta propuesta fue validada en una competición de startups, donde Datumo obtuvo un considerable interés incluso antes de que la aplicación estuviera completamente desarrollada.

Crecimiento y expansión en el mercado de la IA

En su primer año, Datumo superó el millón de dólares en ingresos y consiguió varios contratos clave. A día de hoy, la startup cuenta con más de 300 clientes en Corea del Sur, incluyendo gigantes como Samsung y Hyundai. Sin embargo, la demanda ha evolucionado, y las empresas han comenzado a solicitar servicios más allá del etiquetado de datos. Esto llevó a Datumo a explorar áreas como la evaluación de modelos de IA, un campo que han abordado sin siquiera haberlo planeado inicialmente.

Michael Hwang, cofundador de Datumo, explica que los clientes comenzaron a pedirles que evaluaran las salidas de sus modelos de IA, lo que llevó a la startup a desarrollar el primer conjunto de datos de referencia en Corea centrado en la confianza y la seguridad en la IA. Esta evolución ha sido clave para posicionar a Datumo en un mercado cada vez más competitivo.

La demanda de soluciones de evaluación de IA ha crecido, reflejando la necesidad de un enfoque más riguroso en la supervisión de la tecnología.

Innovaciones y diferenciación en el mercado

Lo que distingue a Datumo de sus competidores es su enfoque en conjuntos de datos licenciados, especialmente aquellos obtenidos de libros publicados. Según Kim, estos datos ofrecen un razonamiento humano estructurado que, aunque difícil de limpiar, proporciona una base rica para el entrenamiento de modelos de IA. Además, Datumo ha lanzado una plataforma de evaluación completa llamada Datumo Eval, que permite a los equipos de política, confianza y seguridad evaluar las respuestas de la IA sin necesidad de conocimientos técnicos.

Este enfoque integral es particularmente atractivo para empresas que buscan implementar IA de manera segura, ya que elimina la necesidad de scripting manual y permite un análisis más eficiente de los modelos de IA. La propuesta de valor de Datumo es clara: facilitar la creación de modelos de IA responsables y seguros.

El impacto de la inversión en el futuro de la IA

La reciente ronda de financiación de Datumo no solo servirá para mejorar sus capacidades de investigación y desarrollo, sino que también les permitirá expandir sus operaciones en mercados internacionales, incluyendo Japón y Estados Unidos. Esta expansión es crucial, ya que el mercado de la IA está experimentando una creciente competencia, evidenciada por la reciente inversión de Meta en Scale AI.

La conexión de Datumo con inversores como Salesforce Ventures se consolidó tras un evento donde Kim tuvo la oportunidad de dialogar con Andrew Ng, fundador de DeepLearning.AI. Este tipo de networking es esencial en el mundo de las startups, donde las relaciones pueden abrir puertas a oportunidades significativas de crecimiento y colaboración.

La expansión de Datumo a nivel internacional marca un hito en su trayectoria y en la evolución del sector de la IA.

La ética y el futuro de la IA generativa

A medida que la inteligencia artificial continúa evolucionando, las cuestiones éticas se vuelven cada vez más relevantes. La capacidad de los modelos de IA para tomar decisiones que afectan la vida de las personas implica una responsabilidad que las empresas deben asumir con seriedad. La falta de explicabilidad y la posibilidad de sesgos en las decisiones automatizadas son preocupaciones que deben ser abordadas de manera proactiva.

Las herramientas que ofrece Datumo, como su plataforma de evaluación, son un paso en la dirección correcta. Permiten a las empresas no solo cumplir con las regulaciones, sino también generar confianza en sus usuarios. A medida que la demanda de soluciones de IA responsables crece, startups como Datumo tienen el potencial de liderar el camino hacia un futuro donde la IA no solo sea eficiente, sino también ética y segura.

El desarrollo de la IA generativa plantea desafíos sin precedentes, y la industria debe adaptarse a un entorno en constante cambio. Las empresas deben ser conscientes de la importancia de implementar sistemas de control y evaluación para garantizar que sus modelos de IA operen de manera justa y responsable. La colaboración entre startups, inversores y empresas establecidas será fundamental para lograr un equilibrio entre la innovación y la ética en el uso de la IA.