La economía de la inteligencia artificial generativa está en camino de experimentar un cambio radical en la próxima década. Según un reciente informe de la consultora Gartner, se espera que para el año 2030 los costos de ejecutar inferencia en un gran modelo de lenguaje con 1 billón de parámetros se reduzcan en más de un 90% en comparación con 2025. Además, se predice que estos modelos podrían ser hasta 100 veces más eficientes en costos que sus predecesores desarrollados en 2022. Sin embargo, esta reducción de costos no es necesariamente una garantía de ahorro neto para las empresas, ya que el consumo de tokens, la unidad de trabajo en estos modelos, aumentará de manera más acelerada.
La clave del análisis reside en la brecha entre la disminución de costos por token y el incremento en el consumo total de tokens. A medida que los sistemas agénticos y los flujos de razonamiento complejos empiecen a proliferar, las empresas deberán buscar soluciones que no solo se enfoquen en el hardware más económico, sino también en la infraestructura general y en diseños de modelos eficientes.
De acuerdo con Gartner, los costos de inferencia en 2030 estarán influenciados por diversos factores, entre ellos, el avance en semiconductores, la optimización de la infraestructura, innovaciones en el diseño de modelos y una mejor aplicación de chips especializados en inferencia. Además, se anticipa un auge en el uso de dispositivos edge en ciertas aplicaciones. La consultora plantea dos escenarios futuros: uno de punta, con chips avanzados, y otro mixto, que integra una variedad de semiconductores disponibles en el mercado. Los costos seguirán siendo más altos en este último debido a la menor capacidad computacional.
La diferencia en costos y capacidades también llevará a una segmentación pronunciada del mercado de IA. Mientras que aplicaciones más simples y repetitivas podrán beneficiarse de estos costos reducidos, modelos de inferencia avanzada seguirán reservados para áreas donde el razonamiento sofisticado justifique la inversión, como la automatización de alto valor y el análisis crítico.
Para acertar en este nuevo panorama tecnológico, las empresas tendrán que enfocarse en quién controla la mejor infraestructura y quién es capaz de diseñar sistemas que permitan un uso eficiente y flexible de los modelos disponibles. Esto exige un cambio de paradigma que coloca la orquestación como piedra angular de la competitividad en IA.
Además, el informe subraya que los modelos agénticos, los cuales requieren de un procesamiento extensivo de datos y tareas, consumirán significativamente más tokens que los chatbots tradicionales. Esto significa que, aunque los costos de tokens se reduzcan, las demandas de cómputo y los sistemas necesarios para el razonamiento avanzado seguirán siendo considerablemente altos.
La verdadera recompensa estará en saber administrar estos recursos eficientemente. No solo se premiará a quienes dispongan de los modelos más avanzados, sino a aquellos que diseñen arquitecturas que optimicen el uso de los modelos adecuados en el momento justo, entendiendo y manejando las variables contextuales de las tareas a realizar.
Gartner concluye su análisis con una previsión crucial: el futuro no será para quienes más gasten, sino para aquellos que sepan gestionar mejor esta nueva era de abundancia relativa en IA. Esto lanzará una carrera no únicamente por entrenar el modelo más poderoso, sino por lograr que su uso masivo sea sostenible económica y tecnológicamente. En este contexto, la ingeniería de sistemas se proyecta como un campo fundamental para el desarrollo eficiente de la inteligencia artificial avanzada.
