OpenAI se asocia con Common Sense Media para garantizar la seguridad de los jóvenes en el uso de IA
OpenAI ha anunciado una asociación estratégica con Common Sense Media, una organización sin fines de lucro que evalúa la idoneidad de diferentes medios y tecnologías para niños, preadolescentes y adolescentes. El objetivo de esta colaboración es desarrollar pautas y materiales educativos sobre inteligencia artificial (IA) dirigidos a padres, educadores y jóvenes adultos, con el fin de minimizar los riesgos y daños asociados con el uso de tecnología y medios digitales por parte de los más jóvenes.
Creando aplicaciones de chatbot seguras
Como parte de esta asociación, OpenAI trabajará en conjunto con Common Sense Media para seleccionar y curar aplicaciones de chatbot "amigables para la familia" en la GPT Store de OpenAI, el mercado de aplicaciones basadas en los modelos GenAI de OpenAI. Estas aplicaciones estarán diseñadas de acuerdo con los estándares de calificación y evaluación de Common Sense Media, con el objetivo de ofrecer a las familias y adolescentes herramientas seguras y confiables.
Sam Altman, CEO de OpenAI, enfatizó la importancia de esta asociación para fortalecer el trabajo de seguridad de OpenAI y brindar confianza a las familias y adolescentes en el uso de sus herramientas de IA. Altman destacó los beneficios que la IA puede ofrecer a las familias y adolescentes, y afirmó que esta colaboración permitirá aprovechar al máximo dichos beneficios.
Una etiqueta de nutrición para aplicaciones de IA
La colaboración entre OpenAI y Common Sense Media surge después de que OpenAI se comprometiera a participar en el nuevo marco de Common Sense Media para la evaluación y calificación de productos de IA, lanzado en septiembre. Este marco tiene como objetivo proporcionar una "etiqueta de nutrición" para las aplicaciones basadas en IA, evaluando aspectos como la seguridad, transparencia, uso ético e impacto de dichos productos.
James Steyer, cofundador y CEO de Common Sense Media, destacó que los padres de hoy en día suelen tener menos conocimientos sobre las herramientas GenAI, como el chatbot ChatGPT de OpenAI, en comparación con las generaciones más jóvenes. Por lo tanto, esta asociación se enfocará en educar a las familias y educadores sobre el uso seguro y responsable de estas herramientas de IA, evitando así cualquier consecuencia no deseada del uso de esta tecnología emergente.
La presión regulatoria sobre OpenAI
OpenAI se encuentra bajo presión regulatoria para demostrar que sus aplicaciones impulsadas por GenAI, incluido ChatGPT, son beneficiosas para la sociedad en general y no perjudiciales. En el verano pasado, la Comisión Federal de Comercio de Estados Unidos abrió una investigación sobre OpenAI para determinar si ChatGPT dañó a los consumidores a través de la recopilación de datos y la publicación de declaraciones falsas sobre las personas. Las autoridades europeas de protección de datos también han expresado su preocupación por el manejo de información privada por parte de OpenAI.
Uso creciente de herramientas de IA por parte de los jóvenes
A pesar de las limitaciones y sesgos inherentes a las herramientas de IA de OpenAI, los niños y adolescentes cada vez las utilizan más para obtener ayuda no solo en tareas escolares, sino también para problemas personales. Según una encuesta del Center for Democracy and Technology, el 29% de los niños afirma haber utilizado ChatGPT para lidiar con la ansiedad o problemas de salud mental, el 22% para problemas con amigos y el 16% para conflictos familiares.
La asociación entre OpenAI y Common Sense Media busca abordar estos desafíos y garantizar que la IA tenga un impacto positivo en la vida de los jóvenes y las familias. Al proporcionar pautas claras y materiales educativos, se espera que los padres y educadores puedan comprender mejor el uso seguro y responsable de las herramientas de IA, evitando así posibles consecuencias negativas y maximizando los beneficios que estas tecnologías pueden ofrecer.
Otras noticias • IA
Inteligencia artificial transforma búsqueda online, plantea dilemas éticos
La búsqueda en Internet ha evolucionado con la inteligencia artificial, la personalización y la búsqueda de voz, mejorando la relevancia y la interacción. Sin embargo,...
Inteligencia artificial generativa enfrenta desafíos de censura y ética
La inteligencia artificial generativa ha revolucionado la creación de contenido, pero enfrenta desafíos de censura que limitan la libertad de expresión y el acceso a...
Robots domésticos transforman rutinas y mejoran calidad de vida
La robótica en el hogar avanza gracias a simulaciones y tecnologías accesibles, permitiendo a los robots adaptarse a entornos únicos. Estos dispositivos prometen transformar nuestras...
Avances en inteligencia artificial enfrentan desafíos y prometen futuro ético
La inteligencia artificial ha avanzado significativamente, mejorando su capacidad de aprendizaje y aplicaciones en diversos sectores. Sin embargo, enfrenta desafíos como la "alucinación" y la...
La búsqueda en Internet evoluciona con inteligencia artificial generativa
La búsqueda en Internet está evolucionando hacia modelos generativos impulsados por inteligencia artificial, que ofrecen respuestas rápidas y personalizadas. Sin embargo, surgen desafíos como la...
Las 5 Mejores Herramientas para Crear Artículos para Blogs
La creación de artículos completos y de calidad para blogs es esencial para mantener a tu audiencia comprometida y atraer nuevos lectores. A continuación, presentamos...
Inteligencia artificial generativa: oportunidades y retos en inversión masiva
La inteligencia artificial generativa está revolucionando múltiples sectores, impulsando una inversión masiva en startups. Sin embargo, enfrenta desafíos legales, altos costos de entrenamiento y la...
Inteligencia artificial transforma redes sociales, desafíos y oportunidades surgen
La inteligencia artificial ha transformado las redes sociales mediante algoritmos de recomendación, moderación de contenido y personalización de experiencias. Aunque ofrece ventajas, también presenta desafíos...
Lo más reciente
- 1
Pagos digitales transforman comercio y gestión de impuestos
- 2
Inteligencia artificial transforma tecnología y plantea dudas sobre privacidad
- 3
Inteligencia artificial transforma sectores y plantea desafíos éticos
- 4
TikTok transforma la promoción musical con su nueva función
- 5
Seguridad en criptomonedas: claves para proteger tus inversiones
- 6
Seguridad en lanzamientos espaciales: clave para el futuro exploratorio
- 7
Inteligencia artificial y privacidad: un desafío para las redes sociales