En el dinámico entorno empresarial de hoy, las organizaciones están avanzando en la segmentación de sus operaciones de inteligencia artificial (IA), delegando roles a equipos especializados con el fin de optimizar tanto el desarrollo como la implementación de modelos. En el centro de esta optimización se encuentra una división estratégica de funciones: el equipo de investigación de IA, que se dedica a la mejora continua de modelos mediante técnicas sofisticadas de entrenamiento y ajuste, y el equipo de hospedaje, responsable de desplegar estos modelos en diferentes entornos de desarrollo, validación y producción.
Para facilitar esta colaboración, Amazon Bedrock ha introducido una herramienta valiosa: el Custom Model Import, que permite al equipo de hospedaje importar y servir modelos personalizados basados en arquitecturas con soporte, como Meta Llama 2 y Mistral. Todo esto, con un sistema de precios On-Demand que potencia la flexibilidad organizacional. Con esta innovación, los equipos pueden importar modelos con pesos en el formato de Hugging Face safetensors desde plataformas como Amazon SageMaker o Amazon S3, asegurando así una integración fluida con los modelos base ya existentes en Amazon Bedrock.
A pesar de estas facilidades, no todo es sencillo. Un desafío importante es el acceso a los artefactos de modelo que, frecuentemente, residen en cuentas de AWS independientes entre sí. Los resultados del proceso de entrenamiento, principalmente los pesos del modelo, se almacenan en S3, dentro de la cuenta del equipo de investigación. Y el equipo de hospedaje necesita acceso a estos componentes críticos para completar el despliegue. Aquí es donde el soporte para acceso entre cuentas de Amazon Bedrock Custom Model Import entra en juego, permitiendo la configuración de accesos entre los buckets de S3 y las cuentas de hospedaje, lo que optimiza el flujo operativo al tiempo que mantiene la seguridad intacta.
Un caso destacado es el de Salesforce, donde el equipo de plataforma de IA ha señalado cómo la implementación de esta funcionalidad ha simplificado significativamente la configuración, al mismo tiempo que ha reducido la carga operativa, permitiendo que los modelos se mantengan seguros en su ubicación original.
Para garantizar la máxima eficiencia y minimizar riesgos, se recomienda seguir ciertos pasos para configurar el acceso entre cuentas. Esto incluye obtener los permisos necesarios entre los roles de IAM, así como configurar políticas de recursos tanto en los buckets de S3 como en las claves de AWS KMS, asegurando de esta manera la integridad de los datos. Estas configuraciones son críticas no solo para permitir que el equipo de hospedaje acceda a los modelos necesarios, sino también para asegurar que cada equipo conserve su autonomía y mantenga estrictos controles de seguridad.
A medida que herramientas como Amazon Bedrock continúan expandiéndose en uso, este enfoque de segmentación y optimización de accesos se está convirtiendo en un estándar para organizaciones que aspiran a maximizar el potencial de la inteligencia artificial, al tiempo que garantizan una alta seguridad y eficiencia operativa.
