¿Inteligencia Artificial para FinOps o FinOps para Inteligencia Artificial?

#cloudfinops #finops #ai

Las tecnologías de Inteligencia Artificial (IA),se han convertido en una de las preocupaciones fundamentales dentro de la nube, principalmente con tecnologías de Inteligencia Artificial Generativa (Gen AI) a causa de las características específicas que involucran estos recursos, como; el incremento de costos nube, generados por el tiempo de entrenamiento de modelos, el consumo de API´s, consumo de memoria y GPU, entre otros.

Los costos de estos servicios aparecen como todos los demás reflejados en la factura mensual, por lo que la magia para optimizarlos se encuentra en la implementación de las buenas prácticas de optimización de costos directo en el proceso de desarrollo de software, mejor conocido como arquitectura frugal.

¿Qué es la arquitectura frugal? Se trata de un enfoque que busca generar soluciones de cómputo en la nube considerando la costo-eficiencia (DeLoach & Yurista, 2024) garantizando los pilares de funcionalidad de los sistemas nube, como escalabilidad, rendimiento y resiliencia. Las etapas ideales para la inclusión del costo como variable, son:

Evaluación de proveedores de servicios nube
Migraciones nube
Selección de servicios cloud
Implementación y despliegue de recurso
Monitoreo

De forma general, puede parecer que la lista es compleja si mapeamos la cantidad de servicios e infraestructura que involucran estos elementos, pero al abordar un comportamiento proactivo en FinOps, favorecemos la generación de valor, y construcción de una cultura FinOps a nivel organizacional (uno de los factores más relevante).

Ahora abordemos la comparación de la que parte este texto FinOps para IA o IA para FinOps, esta comparación, ha sido tomada como una lucha para encontrar los enfoques adecuados, pero la realidad es que se trata de objetivos diferentes. Hablamos de IA para FinOps, a todas las herramientas basadas en tecnologías de IA que ayuden, automaticen o soporten los objetivos de FinOps en infraestructura cloud (tangoe, 2025), algunos ejemplos clave, pueden ser modelos de IA construidos en bedrock para estimar costos de la infraestructura soportados por lenguaje natural, o el uso de Q CLI para automatizar la construcción de reportes de costo, entre otras, es decir, herramientas de IA que facilitan implementar FinOps.

¿Algunos ejemplos?

Construcción de agentes de IA en Bedrock (Claude o Nova) para realizar preguntas mediante lenguaje natural sobre los costos de servicios, recursos, cuentas vinculadas, en un período específico. Tal como lo construyeron Salman Ahmedm Ankush Goyal para el blog de Machine Learning de AWS (2025)

Amazon Q CLI para automatizar el proceso de generación de reportes y otras solicitudes relacionadas con la optimización de infraestructura, similar a lo que realiza Q developer
FinOps Hub 2.0 de GCP soportado por Gemini para ejecutar recomendaciones de forma inmediata basada en la información del consumo de los proyectos dentro de la cuenta

Construcción de sistemas de análisis de costo utilizando BigQuery, Looker Studio y Gemini en GCP para la generación automática de visualización de costos

Hay una larga lista de servicios de IA que pueden contribuir para automatizar las tareas de FinOps, me encantaría enlistarlos todos, pero no acabaría. En siguientes textos, tendremos ejemplos detallados, para que estén pendientes.
Sé que puede ser complejo pensar en la aplicación de código y automatizaciones en una metodología que implica un alto grado de adaptaciones organizacionales, sin embargo, la aplicación de nuevas tecnologías, da paso a la mejora tecnológica continua, permitiendo reducir el tiempo en tareas manuales, y así, prestar mayor atención a lo que suma mayor valor “La optimización del proceso, incluyendo a las personas”.

Para la aplicación de FinOps para IA, no se trata nada más y nada menos que optimizar las cargas de trabajo que sostienen servicios de inteligencia artificial dentro de la nube (tangoe, 2025), por ejemplo, sistemas de análisis de imágenes y vídeo utilizando Azure AI Vision; Dialogflow CX de GCP para diseñar chatbots, y asistentes conversacionales, o Amazon Rekognition para visión computacional, así como los servicios conectados para que funcionen adecuadamente, como instancias, bases de datos, entre otros.

¿Cuáles son las principales consideraciones cuando buscamos optimizar esta infraestructura? La variabilidad de consumo de instancias de GPU, el proceso de ingesta de datos especializados, el consumo generado en el entrenamiento de modelos, entre otras, la mayoría de estas tecnologías cambian de manera constante, se incluyen nuevos modelos, la dinámica de alimentación de las bases de datos o bases de conocimiento, por lo que un factor de cambio constante se integra a la ecuación de cálculo de costo.

Para optimizar estas cargas de trabajo, las principales estrategias están enfocadas en tres dominios fundamentales: factores de costo, técnicas de optimización, y marco de gobernanza. De forma breve, les enlistaré algunas recomendaciones, aunque se requiere un mayor nivel de detalle para su implementación

Implementar ciclos de retroalimentación en los procesos FinOps, para adaptar la metodología en relación con la evolución de la tecnología
Capacitar a los equipos sobre los servicios de IA, el uso de la nube y la implementación de las mejores prácticas para estar alineado con los cambios constantes de las tecnologías de IA
Diseñar un modelo de gobernanza de IA, integrando el cálculo de costos de referencia y funcionalidad de referencia (análisis y comparación de datos históricos de ambas categorías para determinar acciones alineadamente)
Aprovechar herramientas y plataformas para la visualización, comprensión, prevención y atención de la tendencia de costos.
Algunas buenas prácticas de la arquitectura de los servicios: implementación de escalado automático en las instancias, y políticas de ciclo de vida principalmente recursos de almacenamiento, implementar diversas técnicas en los modelos para desarrollarlos con adaptaciones y mejoras, adopte tecnologías sin servidor, siempre que sea posible para su infraestructura optimizar el consumo de tokens para modelos basados en llamadas de APIS, desplegar CDN para cargas de trabajo sensibles a la latencia (AWS, 2025)

Una de mis recomendaciones favoritas para la optimización de costos es la infraestructura frugal, que busca implementar de forma directa FinOps desde las fases iniciales del ciclo de desarrollo en la nube. Acá puedes obtener más detalles.

Así que para resolver el título, podemos decir ambas IA para FinOps para automatizar el proceso de optimización de la nube y FinOps para IA con el objetivo de optimizar estos servicios especializados basados en la nube.