¿Cómo optimizar el flujo de datos para superar el talón de Aquiles de los modelos?

Francisco Larez, vicepresidente de ventas de Progress para América Latina y el Caribe.

La carrera empresarial por la inteligencia artificial suele describirse en torno a dos ejes principales: la capacidad de procesamiento y la sofisticación de los modelos. Las unidades de procesamiento gráfico (GPU), los clústeres de entrenamiento y las inversiones en centros de datos dominan el debate sobre la infraestructura tecnológica. Según Gartner, el gasto global en inteligencia artificial alcanzará los 2,5 billones de dólares en 2026, impulsado por inversiones en infraestructura, software y servicios relacionados con la adopción corporativa de la tecnología. Una parte relevante de este crecimiento está asociada a la expansión de servidores, redes y sistemas de almacenamiento diseñados para gestionar cargas intensivas.

Esta tendencia pone de manifiesto que la IA dejó atrás la fase experimental y pasó a ocupar un papel estructural en las arquitecturas corporativas. Aun así, la forma en que muchas organizaciones estructuran sus plataformas sugiere que sigue subestimándose la manera en que los datos circulan entre aplicaciones, modelos y sistemas de almacenamiento. Se trata de una capa que se vuelve importante cuando los proyectos abandonan el entorno de pruebas y pasan a operar a gran escala.

La IA depende del movimiento continuo de grandes volúmenes de datos. Durante el entrenamiento, múltiples nodos de computación distribuidos deben acceder repetidamente a extensos conjuntos de datos. En escenarios de inferencia, como aplicaciones integradas en procesos de negocio o orientadas al cliente, se pueden procesar miles o millones de solicitudes simultáneamente. Las arquitecturas basadas en la generación aumentada por recuperación (RAG) amplían esta complejidad al exigir consultas frecuentes a bases de conocimiento externas, bancos vectoriales y repositorios corporativos.

Este patrón genera un comportamiento del tráfico muy diferente al observado en las aplicaciones empresariales tradicionales. En lugar de cargas relativamente predecibles, las cargas de trabajo de IA producen picos abruptos de acceso a los datos y múltiples interacciones entre servicios distribuidos.

La magnitud de este fenómeno ya se refleja en los indicadores de inversión tecnológica. Según IDC, el gasto global en infraestructura dedicada a la IA alcanzó los 86.000 millones de dólares solo en el tercer trimestre de 2025, impulsado por la expansión de servidores especializados, redes de alta capacidad y sistemas de almacenamiento.

Al mismo tiempo, el propio perfil de la infraestructura comienza a cambiar. El entrenamiento de modelos exige una gran capacidad computacional, pero se produce en ciclos relativamente controlados. La inferencia, por otro lado, ocurre de forma continua. Los asistentes digitales, los sistemas de recomendación, la automatización de la atención al cliente, el análisis documental y las aplicaciones internas basadas en IA pasan a generar flujos permanentes de solicitudes que deben enrutarse entre usuarios, servicios de inferencia y capas de almacenamiento distribuidas.

Esta tendencia ayuda a explicar otra tendencia observada en el mercado. Un estudio de McKinsey indica que la demanda global de capacidad de centros de datos para cargas de trabajo de inferencia de IA debería crecer alrededor de un 35% al año hasta 2030, un ritmo superior al de las cargas corporativas tradicionales y capaz de alterar el diseño de las arquitecturas de nube y conectividad.

Es en este contexto donde surge un cuello de botella a menudo invisible. Gran parte de las arquitecturas corporativas siguen utilizando mecanismos de balanceo de carga (load balancing) concebidos para aplicaciones web tradicionales o sistemas empresariales relativamente centralizados.

Cuando las cargas de trabajo de IA pasan por estos mecanismos genéricos de balanceo de tráfico, comienzan a aparecer algunas limitaciones a medida que aumenta el uso. La distribución de las solicitudes deja de tener en cuenta factores como la ubicación de los datos, la prioridad de la carga de trabajo o el contexto de la aplicación. El resultado puede ser un aumento de la latencia, la saturación de determinados puntos de la infraestructura y una mayor dificultad para aplicar políticas coherentes de seguridad y gobernanza de datos.

Gartner observa que las inversiones en infraestructura de IA están migrando progresivamente del entrenamiento al funcionamiento continuo de los modelos. La consultora estima que más del 55% del gasto en infraestructura optimizada para IA hasta 2026 estará relacionado con cargas de trabajo de inferencia. Este cambio refuerza la necesidad de arquitecturas capaces de gestionar un tráfico intenso y permanente entre servicios distribuidos.

Las limitaciones tienden a hacerse más visibles cuando las iniciativas de IA comienzan a alcanzar escala operativa. Las plataformas que parecen estar adecuadamente dimensionadas en términos de computación y almacenamiento comienzan a presentar un comportamiento impredecible a medida que crece el volumen de solicitudes. La latencia variable, la congestión en los flujos de datos y el aumento inesperado de los costes se convierten en síntomas recurrentes. En muchos casos, sin embargo, el problema no radica en la potencia del modelo ni en la capacidad del hardware, sino en la forma en que los datos circulan dentro de la arquitectura.

Este escenario llevó a los arquitectos de infraestructura a reevaluar el papel de la entrega de aplicaciones dentro de las plataformas de inteligencia artificial. Poco a poco, el balanceo de carga deja de tratarse únicamente como un componente de red y pasa a entenderse como una capa de control responsable de gestionar el flujo de solicitudes y datos entre usuarios, servicios de inferencia y sistemas de almacenamiento.

En este punto, el debate comienza a cambiar de naturaleza. La pregunta de los gestores ya no es solo qué modelo utilizar o qué infraestructura informática adoptar. Pasa a incluir otra dimensión, a menudo descuidada: cómo garantizar que los datos, las solicitudes y los servicios circulen de manera eficiente dentro de arquitecturas cada vez más distribuidas.

En este contexto, comienza a tomar forma una nueva capa arquitectónica que puede definirse como “entrega de aplicaciones preparada para IA” (AI-ready application delivery). Esto no es simplemente una evolución del balanceo de carga tradicional, sino un cambio fundamental en la forma en que se gestionan los flujos de datos y las solicitudes a lo largo de todo el ecosistema de IA. Este enfoque incorpora variables como el contexto de la aplicación, la ubicación de los datos, el tipo de carga de trabajo y los requisitos de latencia y seguridad, permitiendo una infraestructura que se adapta dinámicamente a la naturaleza de las operaciones de IA.

La base de este modelo es una gestión inteligente del tráfico basada en políticas, capaz de priorizar distintos tipos de cargas de trabajo, optimizar el acceso a los datos según su ubicación y garantizar la aplicación consistente de estándares de seguridad y cumplimiento en entornos distribuidos. En lugar de un enrutamiento estático, surge una capa de orquestación que coordina activamente las interacciones entre usuarios, servicios de inferencia y sistemas de almacenamiento, convirtiéndose en un elemento clave para escalar la IA de manera estable y predecible.

Desde una perspectiva estratégica, esto implica redefinir el rol del balanceo de carga dentro de la infraestructura. Lo que antes se consideraba una función puramente de red, ahora se está convirtiendo en una capa de control fundamental para las operaciones de IA. Las organizaciones que adopten este enfoque estarán mejor posicionadas para controlar costos, garantizar resiliencia y escalar sus iniciativas de inteligencia artificial sin enfrentar limitaciones inesperadas de rendimiento o seguridad.

Desde esta perspectiva, el balanceo de carga deja de ser solo un detalle técnico de la red y pasa a ocupar un papel estructural en la arquitectura de IA corporativa, funcionando como un mecanismo de coordinación entre aplicaciones, modelos y sistemas de datos.

Esto plantea una cuestión que empieza a surgir en las operaciones reales de las empresas: si la infraestructura informática nunca fue tan potente y los modelos nunca fueron tan sofisticados, ¿por qué tantas iniciativas de IA siguen enfrentándose a cuellos de botella en cuanto a rendimiento y escalabilidad?

Parte de la respuesta puede estar menos en el modelo y más en el camino que recorren los datos hasta llegar a él. Si bien la escala de la inteligencia artificial depende de la circulación continua de información, el verdadero límite de la IA corporativa puede que no esté en el algoritmo, sino en el flujo de datos que sustenta todo el sistema.