Los principales desarrolladores de modelos de inteligencia artificial, como OpenAI, Microsoft y Google, están centrados en el desarrollo de agentes de IA capaces de tomar decisiones y realizar acciones por los usuarios. Un estudio reciente demuestra que estos agentes pueden crear convenciones sociales y lingüísticas de manera autónoma, lo que podría alinear mejor la IA con valores humanos y objetivos sociales. Sin embargo, los investigadores advierten que estas convenciones pueden generar sesgos colectivos no detectables individualmente, lo que plantea riesgos éticos significativos. Experimentos basados en el «juego de los nombres» han ilustrado cómo los agentes desarrollan convenciones lingüísticas espontáneas sin instrucciones explícitas, revelando dinámicas interesantes de sesgo colectivo. Aunque estos hallazgos son prometedores, expertos señalan que tales experimentos no capturan completamente la complejidad de las convenciones sociales humanas.
Leer noticia completa en El Pais.
