El potencial de la IA está ampliamente documentado. Sin embargo, tiene un costo. Las organizaciones se enfrentan a facturas cada vez mayores de los proveedores de modelos, debido al uso descontrolado de la IA, la falta de gobernanza y los casos de uso mal definidos.
La IA tiene el potencial de transformar nuestra forma de trabajar, impulsando mejoras en la eficiencia y la productividad a una escala comparable a la de una nueva Revolución Industrial. Sin embargo, las ventajas prometidas por la IA no están garantizadas.
Hasta el 90% de los proyectos de IA no logran superar la fase de prueba de concepto. Las organizaciones que utilizan IA, especialmente los modelos de vanguardia, se enfrentan a costos crecientes.
Como resultado, las empresas tienen dificultades para obtener un retorno de la inversión de sus iniciativas de Inteligencia Artificial. El uso no gestionado de la IA, basado en el consumo, aumenta el riesgo de un gasto descontrolado. A medida que los proveedores de Inteligencia Artificial buscan recuperar sus costos, el precio de los tokens de IA está subiendo. Las iniciativas para utilizar la IA al máximo, o «tokenmaxing», parecen cada vez más insostenibles, al menos para la mayoría de las empresas.
Costos crecientes
Las organizaciones se enfrentan a facturas cada vez mayores por el uso de la Inteligencia Artificial, especialmente en el caso de los modelos de vanguardia basados en la nube. El costo de los tokens está aumentando. Las iniciativas para promover el uso de la Inteligencia Artificial pueden provocar un gasto descontrolado. Sin embargo, solo una minoría de organizaciones reporta un retorno de la inversión significativo en proyectos de IA.
Esto no es culpa exclusiva de la industria de la Inteligencia Artificial. Los laboratorios de IA se enfrentan a sus propias limitaciones de capacidad y al aumento de los costos, especialmente en hardware y energía. Necesitan cubrir esos gastos, financiar el desarrollo de la próxima generación de modelos y recuperar su inversión en el acceso público, a menudo gratuito, a sus herramientas.
Pero las empresas también se enfrentan a la proliferación de la Inteligencia Artificial, con un conjunto cada vez mayor de aplicaciones que incluyen funcionalidades de IA o realizan llamadas a la API de modelos de Inteligencia Artificial. Estas funciones pueden conllevar costos de uso ocultos.
Además, existe el desafío de la Inteligencia Artificial en la sombra. Individuos o equipos pueden tener sus propias herramientas de IA al margen de las políticas de la organización. Al igual que con la computación en la nube, y la TI en la sombra antes que ella, incluso las organizaciones con marcos tecnológicos sólidos y centralizados están viendo cómo los usuarios recurren a sus propias herramientas de Inteligencia Artificial no oficiales. Además de los costos, esto aumenta los riesgos de seguridad, privacidad, soberanía de datos y continuidad del negocio.
Modelos más pequeños
Un factor que impulsa el aumento de los costos de la Inteligencia Artificial es la excesiva dependencia de las empresas de los modelos de IA de vanguardia de las grandes empresas de Inteligencia Artificial. Estos modelos son altamente capaces y pueden abordar una amplia gama de tareas empresariales. Sin embargo, no son baratos. Si una empresa utiliza un modelo innovador para cargas de trabajo rutinarias de Inteligencia Artificial, está pagando por capacidades que quizás no necesite.
Los modelos más pequeños pueden realizar muchas tareas de Inteligencia Artificial con la misma eficacia, y sus costos pueden ser tan solo una décima parte, o incluso menos, de los costos simbólicos de los modelos de última generación. Además, los modelos de código abierto y de libre distribución son cada vez más potentes. Algunas empresas también querrán ejecutar sus propios modelos de IA en su propia arquitectura. Varios factores impulsan esta decisión: la seguridad de los datos, la soberanía tecnológica, incluido el control local tanto del hardware como del software, y el deseo de utilizar fuentes de datos privadas y propietarias para la inferencia de IA y, potencialmente, para el entrenamiento.
Gran parte de los datos más valiosos y útiles de las empresas también son confidenciales. Es comprensible que las organizaciones sean cautelosas a la hora de compartir esos datos con un tercero en la nube. Además, el acceso no controlado a modelos externos de vanguardia puede generar costos de IA más elevados de lo necesario. Las organizaciones corren el riesgo de dividir su gasto en IA entre diversos proveedores y herramientas, perdiendo así los beneficios de los descuentos empresariales por volumen.
Es comprensible que algunos consejos de administración prefieran la seguridad que ofrece gestionar la tecnología, incluida la IA, internamente. El hardware de IA no es barato, pero los modelos más eficientes permiten a las organizaciones utilizar equipos menos costosos y más accesibles, en lugar de las escasas GPU de gama alta. Incluso para cargas de trabajo que requieren un uso intensivo de GPU, puede resultar rentable ejecutar la IA localmente. El costo inicial debe compararse con las tarifas recurrentes, que además aumentan.
Para ello, las empresas necesitan una forma de lograr un control preciso de la IA, sin generar fricciones ni comprometer la facilidad de uso. Las empresas también deben prepararse para la tecnología de IA con agentes. Los sistemas con agentes pueden tener una autonomía considerable, creando sus propios flujos de trabajo a través de los procesos empresariales y recurriendo a diversos modelos de IA para completar las tareas. Sin embargo, sin controles, esto corre el riesgo de resultar muy costoso y difícil de gestionar. La solución consiste en invertir en herramientas que supervisen y controlen el uso de la IA en segundo plano.
Controles sencillos
Herramientas como Nutanix AI Gateway proporcionan visibilidad del uso de la IA dentro de la empresa y ayudan a las organizaciones a controlar los costos. Esto incluye el enrutamiento de las solicitudes al entorno de IA preferido de la organización, según la política y la naturaleza de la solicitud.
Una tarea podría enrutarse a un modelo de código abierto o de peso abierto que se ejecute en hardware local, a un modelo de lenguaje más pequeño o a un proveedor de IA específico del sector, o, si está justificado, a un modelo de vanguardia.
La ventaja es que esto ocurre en segundo plano y es transparente para el usuario. La organización tiene la flexibilidad de establecer y actualizar sus reglas de uso de la IA a medida que cambian los costos y las prioridades empresariales, y a medida que se incorporan nuevos modelos innovadores.
Nutanix AI Gateway también mejora la visibilidad del uso de la IA dentro de las organizaciones y proporciona información vital para el desarrollo de políticas y la evaluación de casos de uso. Esto es aún más importante a medida que las empresas buscan introducir redes de IA con agentes, con sus propias necesidades de uso de modelos, así como su propio retorno de la inversión potencial.
Los pioneros de la IA en la empresa se adentraban en un territorio inexplorado. Herramientas como AI Gateway de Nutanix ofrecen una forma práctica y eficiente de mapear el uso de la IA y encontrar una ruta a través de un panorama cada vez más complejo.
De esta manera, las organizaciones encontrarán un camino mucho más claro para obtener un retorno de su inversión en IA.
DERECHOS DE AUTOR
Esta información pertenece a su autor original y se encuentra en el sitio https://boletin.mx/2026/09/09/tomar-el-control-por-que-la-ia-necesita-gestionpara-generar-roi/
