Autoalojamiento

Costes ocultos en pipelines de búsqueda y IA autoalojados en Azure

Un desarrollador individual comparte un desglose detallado sobre la ejecución de un sitio de búsqueda de ensayos clínicos, revelando picos inesperados de ancho de banda y desperdicio de tokens de IA.

Ilustración de un rack de servidores con luces de advertencia y cables goteando sobre una factura
Ilustración creada para este artículo

Traducido automáticamente del original en inglés.

Oleksandr Gamaniuk, el único desarrollador detrás de la plataforma de búsqueda de ensayos clínicos hipa.ai, publicó un análisis detallado de costes de su infraestructura el 17 de noviembre de 2026. El informe cubre siete meses de operación en Microsoft Azure, destacando cómo los recursos compartidos, las restricciones de memoria y el uso no monitorizado de la IA generaron sorpresas financieras y operativas para una aplicación pequeña y autoalojada.

Qué ocurrió

Gamaniuk comenzó auditando sus datos de Azure Cost Management para responder a preguntas frecuentes sobre el coste de ejecutar un sitio con más de 600.000 registros de ensayos y contenido generado semanalmente por IA. Descubrió que, aunque los costes directos de almacenamiento y registro eran insignificantes, los planes de cómputo compartido y las tarifas de salida de red dominaban la factura. La aplicación se ejecutaba inicialmente en un plan compartido de Windows App Service y una máquina virtual Linux mínima para Elasticsearch, lo que llevaba a una asignación ambigua de costes y problemas recurrentes de estabilidad.

El fallo operativo más significativo involucró a la instancia de Elasticsearch, que se ejecutaba en una VM con solo 3,5 GB de RAM. El proceso Java consumía frecuentemente casi toda la memoria disponible, provocando que el 'out-of-memory killer' del kernel de Linux terminara el servicio múltiples veces entre abril y julio de 2026. Dado que el servicio del sistema no estaba configurado para reiniciarse automáticamente, el motor de búsqueda permanecía sin conexión hasta que se producía una intervención manual, rompiendo las renderizaciones por fallos de caché para los usuarios, a pesar de que otras partes del sitio seguían siendo accesibles mediante Cloudflare.

En un esfuerzo por reducir los costes de cómputo, Gamaniuk trasladó el motor de búsqueda a una máquina Linux autoalojada fuera de Azure, conectándola mediante un túnel WireGuard. Si bien esto eliminó el cargo de cómputo de la máquina virtual, introdujo un nuevo y sustancial coste: la salida de red (egress). En solo once días, el ancho de banda requerido para tunelizar las consultas y respuestas de búsqueda de vuelta a Azure costó más que la factura total de cómputo del mes anterior para ese servicio, demostrando cómo los cambios arquitectónicos pueden desplazar gastos a partidas inesperadas.

Detalles clave

  • La VM de Elasticsearch (1 vCPU, 3,5 GB de RAM) falló cinco veces debido al agotamiento de memoria, con el proceso Java utilizando aproximadamente 2,6 GB de RSS.
  • Los costes de ancho de banda por salida web superaron los costes combinados de blob storage, Key Vault y Log Analytics, impulsados en gran medida por el tráfico de bots.
  • Mover la búsqueda fuera de Azure redujo los costes de cómputo a cero, pero aumentó el gasto mensual de salida de red a $42,30 en octubre debido al tráfico del túnel WireGuard.
  • Los despliegues en Windows App Service tardaban hasta 75 minutos debido a las lentas transferencias de archivos SMB, pero bajaron a seis segundos tras cambiar al modo run-from-package.
  • Los costes de generación de IA no fueron rastreados durante siete meses hasta que se añadió el registro a finales de octubre, revelando que la elección del proveedor impactaba significativamente en la longitud de la salida y el uso de tokens.
  • Una actualización del algoritmo de búsqueda de Google en julio de 2026 redujo el tráfico diario en un 92%, representando un coste oculto que superaba el gasto no medido en IA.

Contexto

El autoalojamiento de infraestructura a menudo implica compensaciones entre control y complejidad. En este caso, el desarrollador utilizó una compilación "standalone" de Next.js, que separa la aplicación del código del framework para reducir el tamaño del despliegue. Sin embargo, en servicios cloud basados en Windows, desplegar miles de archivos pequeños a través de recursos compartidos de red puede ser notoriamente lento en comparación con los despliegues de contenedores basados en Linux. Además, Elasticsearch es un motor de búsqueda basado en Java conocido por su alto consumo de memoria. Ejecutarlo en una máquina virtual mínima sin espacio de intercambio (swap) o políticas de reinicio automático crea un sistema frágil donde cualquier pico menor en la actividad del sistema operativo puede colgar el servicio principal.

La salida de red (network egress) se refiere a los datos que abandonan la red de un proveedor cloud. Muchos desarrolladores se centran en los costes de cómputo y almacenamiento, pero pasan por alto las tarifas de salida, que pueden acumularse rápidamente cuando las aplicaciones se comunican a través de diferentes redes o regiones. En este escenario, tunelizar los resultados de búsqueda desde un servidor externo de vuelta a Azure activó estas tarifas, ilustrando que un cómputo "más barato" en otro lugar puede resultar en costes totales más altos si los volúmenes de transferencia de datos son elevados.

Por qué importa

Para equipos que ejecutan su propio software, este estudio de caso destaca el peligro de la infraestructura compartida. Aunque compartir un plan premium de app service reduce el coste aparente, oscurece la verdadera economía unitaria de proyectos individuales. Sin una asignación precisa de costes, se vuelve difícil justificar optimizaciones o predecir gastos de escalado. La experiencia también sirve como recordatorio de que los servicios con estado, como bases de datos y motores de búsqueda, requieren una provisión cuidadosa de recursos. Asumir que un servicio cabrá en el nivel más pequeño disponible a menudo conduce a inestabilidades que requieren más tiempo de ingeniería para arreglar que el justificable por los costes de cómputo ahorrados.

El componente de IA de la historia subraya la importancia de la observabilidad en los flujos de trabajo generativos. Sin rastrear el uso de tokens desde el primer día, los desarrolladores no pueden medir con precisión el retorno de la inversión para la generación automática de contenido. Además, la caída de tráfico tras la publicación de miles de páginas programáticas sugiere que los motores de búsqueda pueden penalizar sitios que parecen priorizar la escala sobre la calidad. Este "coste oculto" de pérdida de tráfico orgánico puede exceder con creces las facturas directas de infraestructura, afectando la viabilidad a largo plazo de las aplicaciones autoalojadas intensivas en contenido.

Qué puedes hacer

  • Configura los servicios systemd con Restart=on-failure para asegurar que componentes críticos como Elasticsearch se recuperen automáticamente tras los fallos.
  • Monitoriza de cerca los costes de salida de red cuando muevas servicios fuera de tu proveedor cloud principal, especialmente al usar túneles o proxies.
  • Implementa el registro de tokens para todas las llamadas a APIs de IA desde el inicio del desarrollo para rastrear patrones de uso y detectar anomalías de facturación tempranamente.
  • Utiliza métodos de despliegue run-from-package para evitar transferencias lentas archivo por archivo y reducir los tiempos de despliegue de minutos a segundos.
  • Valida dependencias externas, como la generación de imágenes, antes de desencadenar tareas de IA costosas para evitar desperdiciar tokens en procesos fallidos.
  • Audita regularmente las facturas de infraestructura compartida para aislar costes específicos de proyecto e identificar picos inesperados en el uso o los precios.

Más noticias

Todas las noticias