El pasado 1 de agosto, entró en vigor la nueva legislación europea sobre inteligencia artificial, conocida como la EU AI Act, un marco regulador que busca prevenir potenciales violaciones de derechos vinculadas al uso de esta tecnología. Esta normativa clasifica las aplicaciones de inteligencia artificial en función del nivel de riesgo que representen para la sociedad y los individuos, prohibiendo aquellas que sean consideradas de «riesgo inaceptable». Un ejemplo de tales tecnologías son los «deadbots», herramientas emergentes que desafían tanto nuestros conceptos tradicionales sobre el duelo como las fronteras éticas.
Los «deadbots» son chatbots diseñados para recrear la personalidad de una persona fallecida, utilizando su huella digital, como mensajes de texto, publicaciones en redes sociales y correos electrónicos. El objetivo es permitir a familiares y amigos mantener conversaciones con estos bots, emulando la esencia del ser querido perdido. A pesar de que esta premisa suena propia de la ciencia ficción, la realidad es que su desarrollo está avanzando rápidamente y podría estar pronto disponible.
La doctora Belén Jiménez, experta en la mediación tecnológica del duelo e investigadora del grupo CareNet de la Universitat Oberta de Catalunya, destaca la necesidad de reflexionar sobre los aspectos bioéticos que plantean estas tecnologías. Jiménez señala que, aunque los «deadbots» todavía no están disponibles en el mercado, su normalización podría ser similar a la de otras tecnologías actualmente populares, como las aplicaciones de citas. Estas herramientas forman parte de la «digital afterlife industry», un sector en crecimiento que busca digitalizar la memoria y presencia de los difuntos, planteando implicaciones éticas y sociales significativas.
Desde un punto de vista psicológico, los «deadbots» juegan con los «lazos continuos», un concepto que describe la necesidad humana de mantener conexión emocional con los seres queridos fallecidos. Esta práctica, según Jiménez, no necesariamente indica patología; sin embargo, la falta de regulación puede dar pie a estrategias cuestionables por parte de las empresas desarrolladoras, cuyo interés comercial puede no coincidir con el uso terapéutico potencial de estos bots.
Belén Jiménez ha señalado que la actitud de los dolientes hacia los «deadbots» es ambivalente: si bien pueden desear mantener vínculos con sus seres queridos, también les inquieta entablar comunicación con un programa informático que simula al fallecido. Los posibles efectos negativos, como la dependencia emocional o el dolor ante una «segunda pérdida» si el chatbot fallara, subrayan la necesidad de un análisis crítico.
La nueva legislación europea se enfoca en promover la transparencia de las tecnologías de IA, algo crucial en contextos tan sensibles como el duelo. Los «deadbots», aunque considerados de «riesgo limitado», requieren un escrutinio exhaustivo en sus posibles aplicaciones, especialmente en la salud mental de los usuarios. Las empresas deberán cumplir con estándares estrictos de auditoría y transparencia, con multas significativas para quienes no se adhieran a la regulación.
Finalmente, Jiménez aboga por una normativa específica para los «deadbots», priorizando el respeto y dignidad de los fallecidos y garantizando el bienestar psicológico de los usuarios en duelo. Con el avance de la tecnología y el creciente interés en la «digital afterlife industry», la regulación y el debate ético en torno a estas nuevas formas de interacción se vuelven cada vez más urgentes y necesarios.
