Los principales desarrolladores de modelos de inteligencia artificial, como OpenAI, Microsoft y Google, están centrados en el desarrollo de agentes de IA capaces de tomar decisiones y realizar acciones por los usuarios. Un estudio reciente demuestra que estos agentes pueden crear convenciones sociales y lingüísticas de manera autónoma, lo que podría alinear mejor la IA con valores humanos y objetivos sociales. Sin embargo, los investigadores advierten que estas convenciones pueden generar sesgos colectivos no detectables individualmente, lo que plantea riesgos éticos significativos. Experimentos basados en el «juego de los nombres» han ilustrado cómo los agentes desarrollan convenciones lingüísticas espontáneas sin instrucciones explícitas, revelando dinámicas interesantes de sesgo colectivo. Aunque estos hallazgos son prometedores, expertos señalan que tales experimentos no capturan completamente la complejidad de las convenciones sociales humanas.
Leer noticia completa en El Pais.
Agentes de IA: Creando Convenciones Sociales y Lingüísticas Propias
Más artículos como esteRelacionados
Optimizando el Futuro: Startups Climáticas Potencian sus Modelos con Amazon SageMaker HyperPod
En un contexto donde los desastres climáticos causan estragos...
Renuncia de Chapu Apaolaza a ‘Mañaneros 360’ tras límite de tolerancia a insultos
El periodista Chapu Apaolaza abandonó en vivo el programa...
Diversidad y Unidad: Multitud Rechaza Recortes de Milei en Masiva Protesta Callejera
Este miércoles, en el Congreso argentino, la oposición ocupó...
Portugal se abre camino a la final de la Nations League tras emocionante remontada frente a Alemania, aguardando rival entre España y Francia.
Wirtz abrió el marcador para el equipo local, pero...