OpenAI ha dado un paso significativo al anunciar el desarrollo de un sistema de predicción de edad y nuevos controles parentales para ChatGPT, orientados a salvaguardar a los adolescentes en el entorno digital. Esta iniciativa pone a la empresa en el epicentro de un debate sobre cómo proteger a los menores en internet sin sacrificar su privacidad ni libertad digital.
La propuesta de OpenAI se centra en adaptar la experiencia de usuario según la edad, identificando automáticamente si alguien es menor de 18 años. Para estos usuarios, se impondrán restricciones que bloquearán contenidos explícitos y temas de autolesión, con la posibilidad de alertar a los padres o incluso a las autoridades en situaciones críticas. En contraste, los adultos mantendrán acceso pleno, a menos que la verificación de edad no sea concluyente, caso en el cual se aplicará un modo restringido hasta que puedan demostrar su mayoría de edad.
Esta estrategia de «precaución por defecto» busca priorizar la seguridad de los jóvenes, incluso si eso significa comprometer la privacidad de algunos usuarios adultos. OpenAI reconoce que aunque las tecnologías avanzadas pueden fallar, la seguridad debe prevalecer.
Esta no es una acción aislada. En todo el mundo se están implementando medidas similares. En Estados Unidos, la discusión sobre la Kids Online Safety Act (KOSA) resalta la necesidad de que plataformas como TikTok e Instagram verifiquen activamente la edad de sus usuarios. En Europa, la Ley de Servicios Digitales (DSA) ya obliga a adoptar medidas estrictas para proteger a menores. Paralelamente, plataformas como YouTube y Twitch han intensificado las prácticas de verificación de edad mediante el uso de documentación oficial.
Sin embargo, la implementación de estos sistemas de verificación de edad no está exenta de críticas. Expertos en privacidad advierten sobre los riesgos potenciales, como la posible exposición de datos sensibles o errores en la clasificación de usuarios, que podrían restringir la libertad digital de los adultos mientras que menores queden expuestos a contenido inapropiado. Además, existe el riesgo de que estas medidas normalicen la vigilancia masiva en línea.
El dilema es evidente: se busca proteger a los adolescentes, pero a qué costo. Las preguntas sobre la prevalencia de la seguridad frente a la privacidad, cómo involucrar a las autoridades en situaciones de riesgo y hasta dónde debe llegar el control parental, continúan sin respuestas claras ni consenso global.
La tendencia de OpenAI refleja un impulso creciente en la regulación tecnológica para proteger a los menores a cualquier precio, aunque plantea el desafío de equilibrar seguridad, privacidad y libertad en la era de la inteligencia artificial. Encontrar un camino que garantice la seguridad de los adolescentes sin convertir el internet en un espacio altamente vigilado es el verdadero reto para el futuro digital.
