OpenAI tiene como objetivo ganar la confianza de los padres mediante la colaboración con organizaciones que trabajan en la reducción de los daños de la tecnología y los medios de comunicación en niños.
La empresa emergente de inteligencia artificial anunció una colaboración con Common Sense Media, una organización sin ánimo de lucro que revisa y clasifica la adecuación de los medios y tecnologías para niños.
El objetivo de esta asociación es colaborar en el desarrollo de directrices de inteligencia artificial y materiales educativos para padres, maestros y jóvenes.
OpenAI está colaborando con Common Sense Media para regular y clasificar los GPTs adecuados para la familia en la Tienda GPT, siguiendo las pautas de clasificación y evaluación de la organización Common Sense Media.
La empresa afirmó que «la inteligencia artificial ofrece grandes beneficios para las familias y los adolescentes, y nuestra asociación con Common Sense Media nos ayuda a fortalecer nuestro trabajo en el área de la seguridad, garantizando que las familias y los adolescentes puedan usar nuestras herramientas con confianza».
El lanzamiento de la asociación se produce después de que OpenAI haya anunciado su participación en el nuevo marco de Common Sense Media para evaluaciones y reseñas diseñadas para evaluar la seguridad, transparencia, ética y el impacto de los productos de inteligencia artificial.
El objetivo del marco de trabajo de Common Sense Media es proporcionar etiquetas informativas para las aplicaciones que utilizan inteligencia artificial con el fin de resaltar los contextos en los que se utilizan las aplicaciones y aclarar las áreas de oportunidades y posibles riesgos en comparación con un conjunto de principios de sentido común.
OpenAI está bajo presión de las entidades regulatorias para demostrar que sus aplicaciones son beneficiosas para la sociedad y no perjudiciales.
El verano pasado, la Comisión de Comercio Federal de los Estados Unidos inició una investigación sobre OpenAI para determinar si ChatGPT había causado daño a los consumidores al recopilar datos y difundir información falsa sobre individuos.
Las autoridades de datos europeas expresaron su preocupación sobre el manejo de la información personal por parte de OpenAI.
Las herramientas de OpenAI tienden a inventar cosas con confianza y a tener una comprensión equivocada de los hechos fundamentales, mostrando un sesgo que se alinea con los datos de entrenamiento.
Los niños y los adolescentes recurren a estos recursos para obtener ayuda con sus tareas escolares y problemas personales.
La compañía espera que esta asociación beneficie a los niños que no pueden acceder a la inteligencia artificial, y ha declarado que parte de su misión es proporcionar inteligencia artificial útil de forma gratuita.
