Los principales desarrolladores de modelos de inteligencia artificial, como OpenAI, Microsoft y Google, están centrados en el desarrollo de agentes de IA capaces de tomar decisiones y realizar acciones por los usuarios. Un estudio reciente demuestra que estos agentes pueden crear convenciones sociales y lingüísticas de manera autónoma, lo que podría alinear mejor la IA con valores humanos y objetivos sociales. Sin embargo, los investigadores advierten que estas convenciones pueden generar sesgos colectivos no detectables individualmente, lo que plantea riesgos éticos significativos. Experimentos basados en el «juego de los nombres» han ilustrado cómo los agentes desarrollan convenciones lingüísticas espontáneas sin instrucciones explícitas, revelando dinámicas interesantes de sesgo colectivo. Aunque estos hallazgos son prometedores, expertos señalan que tales experimentos no capturan completamente la complejidad de las convenciones sociales humanas.
Leer noticia completa en El Pais.
Agentes de IA: Creando Convenciones Sociales y Lingüísticas Propias
Más artículos como esteRelacionados
Los Optimist, Snipe y Ok Dinghy Enriquecen la Regata Audax Marina con su Participación
En la segunda jornada del Trofeo Audax Marina en...
Claudia Sheinbaum destaca la corrupción como traición fundamental a los valores ante la Armada
En el marco del 204 aniversario de la Armada,...
Israel pausar operaciones en Ciudad de Gaza con esperanza de retorno inminente de rehenes
Donald Trump ha logrado reactivar la negociación en la...
Siete Claves para Detectar si un Texto es Creación de una IA, Según una Experta
La inteligencia artificial (IA) generativa está transformando radicalmente la...