Amazon ha dado un nuevo paso en el camino de la innovación tecnológica con el lanzamiento oficial de los filtros de contenido de imagen en Amazon Bedrock Guardrails. Esta herramienta pionera en la moderación de contenido no solo cubre texto, sino también imágenes, integrando un control más exhaustivo en aplicaciones de inteligencia artificial generativa. Con su llegada, se revoluciona la manera en que las organizaciones pueden gestionar la información generada por la inteligencia artificial.
Según afirmó Tero Hottinen, vicepresidente de Alianzas Estratégicas en KONE, esta ampliación de las capacidades de Amazon Bedrock Guardrails es crucial para la protección y mejora de aplicaciones que utilizan inteligencia artificial generativa. KONE, una empresa clave en su sector, ya contempla la integración de estos sistemas para gestionar manuales y diagramas de productos, optimizando así el diagnóstico y análisis en sus plataformas.
El sistema introduce seis políticas de seguridad configurables que permiten a los usuarios definir barreras contra contenido perjudicial, ya sea en la entrada o salida de la aplicación. De acuerdo con informes, estas herramientas son capaces de detectar y eliminar hasta un 88% de contenido multimodal considerado dañino. Los desarrolladores tienen ahora la facultad de ajustar los niveles de control para imágenes y texto, personalizando los umbrales de seguridad de acuerdo a las necesidades específicas de sus proyectos.
Diseñada para satisfacer las necesidades de diversos sectores como salud, manufactura, finanzas, medios de comunicación y educación, esta tecnología se despliega estratégicamente en varias regiones de Amazon Web Services (AWS), incluyendo Estados Unidos, Europa y Asia-Pacífico. Estas organizaciones se beneficiarán de soluciones de seguridad de marca más completas, eliminando la necesidad de desarrollar salvaguardias internas complejas o de emplear revisiones manuales propensas a fallos.
Para implementar estos avances, los usuarios deben acceder a la consola de gestión de AWS y configurar los filtros según sus prioridades. Alternativamente, pueden utilizar el API ApplyGuardrail para verificar contenido en cualquier flujo de aplicación, asegurando que las medidas de seguridad se aplican a cada punto de interacción.
La introducción de Amazon Bedrock Guardrails no solo potencia la seguridad en el uso de inteligencia artificial, sino que también promueve una utilización más ética y responsable de esta tecnología. Empresas alrededor del mundo podrán construir aplicaciones que respeten las políticas organizacionales de IA responsable, garantizando un entorno digital más seguro para todos.
