Amazon está expandiendo su influencia a nivel global, afectando de manera directa la vida de millones de personas. Este crecimiento también implica enfrentar desafíos relacionados con la gestión de riesgos, especialmente en cuanto a reclamaciones por compensación de trabajadores e incidentes de transporte. La complejidad de manejar un promedio de 75 documentos por cada reclamación requiere soluciones innovadoras y eficientes.
Un equipo interno de Amazon ha desarrollado recientemente un sistema impulsado por inteligencia artificial para optimizar el procesamiento de reclamaciones. Este sistema genera resúmenes precisos y estructurados en menos de 500 palabras, haciendo más eficiente el proceso. A pesar de estas mejoras, enfrentaron desafíos relacionados con los costos de inferencia y el tiempo de procesamiento, que varía entre 3 y 5 minutos por reclamación.
En su búsqueda por mejorar, el equipo evaluó modelos de la Fundación Amazon Nova. Los resultados fueron contundentes: el modelo Nova Lite no solo iguala el rendimiento de otros modelos de última generación, sino que también es considerablemente más rápido y económico. Este modelo reduce los costos en un 98% y duplica la velocidad del sistema actual.
El proceso de creación de resúmenes comienza con el procesamiento de datos crudos utilizando AWS Glue, con almacenamiento en Amazon S3. Las tareas de resumen se gestionan a través de Amazon SQS, y los resúmenes son generados por AWS Lambda con el apoyo de modelos en Amazon Bedrock. Este enfoque mejora tanto el costo como el rendimiento, al permitir centrarse en los datos relevantes.
La adopción de los modelos de Amazon Nova ha resultado en mejoras significativas en eficiencia y costos, ofreciendo una alternativa atractiva para manejar documentos extensos. Además, amplía la brecha de latencia a favor de Amazon Nova en comparación con otros competidores, especialmente en documentos de contexto largo.
Esta solución innovadora no solo refleja la capacidad de Amazon para mejorar la gestión de reclamos, sino que también ofrece un modelo a seguir para otras organizaciones que deben procesar grandes cantidades de documentación, optimizando la calidad del servicio y reduciendo costos operativos.
