Databricks como Proveedor de Modelos: La Ruta Segura hacia los Modelos de Peso Abierto
Hay algo de lo que no se está hablando lo suficiente: el papel que está tomando Databricks como proveedor de modelos de IA. No como plataforma de datos que “también” sirve modelos, sino como proveedor de inferencia en sí mismo. Y especialmente ahora, cuando todo el mundo habla de los modelos chinos de pesos abiertos.
Kimi K3 (Moonshot AI) y la familia GLM-5 (Z.ai / Zhipu) representan hoy el estado del arte en modelos con pesos abiertos. Son buenos, bonitos y baratos. Y Databricks se ha convertido, casi sin hacer ruido, en una de las mejores opciones para consumirlos de forma eficiente, rápida y, lo importante, segura.
Qué dicen los números
Según Artificial Analysis (la referencia independiente en benchmarks de proveedores de inferencia), Databricks es el segundo proveedor más rápido y con menor latencia tanto para Kimi K3 (max) como para GLM-5.3 (max) de doce y ocho proveedores medidos, respectivamente. Y, en algunos casos, lo hace al mismo precio que el fabricante.
Con 10.000 tokens de entrada, Databricks entrega 117 tokens por segundo. Solo Nebius va por delante (129 t/s), y lo hace cobrando casi el doble.
En latencia, la historia es la misma: 18,2 segundos hasta el primer token de respuesta (incluyendo el tiempo de razonamiento del modelo), frente a los 57 segundos de la API oficial de Moonshot.
Y en precio, Databricks cobra exactamente lo que cobra Moonshot: 2,31 $ por millón de tokens combinados. No hay sobreprecio por la plataforma.
Con GLM-5.3 (max), la historia se repite y con cifras aún mejores:
Databricks sirve GLM-5.3 (max) a 295,5 tokens/segundo con 7,6 segundos hasta el primer token de respuesta. Solo Makora va por delante (340 t/s, 6,8 s). El tercero, Multiverse Computing, queda a menos de la mitad de velocidad (129 t/s). La API oficial de Z.ai ni siquiera entra en el top 5. Y en el catálogo de Databricks conviven, además, GLM-5.3 Flash (275 t/s) y GLM-5.2 (max) para casos donde el coste manda.
Un matiz honesto: el endpoint de Kimi K3 en Databricks expone una ventana de contexto de 205k tokens, frente al millón que anuncian otros proveedores. Para la inmensa mayoría de procesos corporativos es irrelevante. Para casos de contexto extremo, conviene saberlo.
Pero esto no va de ser "el mejor"
Los rankings cambian según cómo se mida y de una semana a otra. Lo que no cambia es esto:
Usar las APIs oficiales de Moonshot o de Zhipu no es una opción para una empresa occidental. Y los agregadores tipo OpenRouter, donde puedes elegir entre varios proveedores, tampoco resuelven el problema. Cada proveedor tendría que pasar por un proceso de homologación individual, y ninguno ofrece las garantías de gobierno y soberanía que exige un comité de seguridad.
Las ventajas de Databricks como proveedor incluyen:
Hosting propio. Kimi K3 y los GLM corren en infraestructura de Databricks, sin reenviarse a la API del fabricante. Los pesos son abiertos; el modelo es chino, la inferencia no.
Residencia de datos. En workspaces dentro del EU data boundary, el procesamiento se queda en centros de datos europeos; en workspaces de EE.UU., se queda en EE.UU. Kimi K3 arrancó con hosting en EE.UU. y más regiones están en camino.
Cero retención de datos. Databricks no usa prompts ni respuestas para entrenar modelos, y los endpoints operan con ZDR.
Cumplimiento. HIPAA en todas las regiones; PCI-DSS, FedRAMP, IRAP, CCCS y UK Cyber Essentials Plus en las regiones soportadas. Para banca y seguros, esto no es un extra: es el requisito de entrada.
Unity AI Gateway. Esto incluye guardrails, límites de coste, rate limiting, logging de payloads, fallback entre modelos y observabilidad. El mismo control para Kimi K3 que para Claude, GPT o Gemini dentro de la plataforma.
API compatible con OpenAI. Cambiar de modelo es cambiar una cadena de texto, lo que hace realista la sustitución de un modelo comercial por uno abierto sin reescribir nada.
Disponibilidad. Una empresa consolidada, con SLAs de plataforma y throughput aprovisionado para producción. Para un proceso que tiene que estar operativo la mayor parte del tiempo, esto importa más que una diferencia de 10 tokens/segundo.
Todo en un mismo lugar, con las mismas credenciales, la misma factura y el mismo catálogo de gobierno que ya usa el equipo de datos.
Hacia dónde va esto
No tengo ninguna duda de que las empresas usarán cada vez más modelos de pesos abiertos, en dos capas:
IA local en los equipos de los trabajadores. Modelos como Qwen 3.8 27B funcionan estupendamente en cualquier máquina con 32 GB de memoria unificada o más.
Modelos hosteados por un proveedor para actividades productivas: automatización de procesos, extracción de documentos, clasificación, agentes. Aquí es donde encaja Databricks, en condiciones competitivas y seguras.
Y una tercera razón, cada vez más relevante: los modelos de frontera comerciales te cobran créditos por separado, con cuotas y planes que cambian cada trimestre. Tener alternativas abiertas de nivel comparable dentro de la misma plataforma es tener poder de negociación.
Mi conclusión después de muchas pruebas
He pasado el último tiempo haciendo multitud de pruebas y estoy convencido: si tuviera que automatizar hoy un proceso corporativo que demanda un LLM o un SLM, consideraría seriamente hacerlo con un modelo de pesos abiertos. Ya no tienen nada que envidiar, son más baratos y eficientes, y todo apunta a que lo serán aún más.
Y dentro de esa opción, no tengo dudas: usaría Databricks como proveedor. Es top en velocidad, latencia y disponibilidad (clave para que el proceso esté operativo). Es confiable, me asegura el gobierno y, sobre todo, la soberanía sobre mis datos.
Para cualquier empresa occidental que esté evaluando reemplazar un modelo comercial por uno de pesos abiertos, en un proceso o caso de uso concreto, no se me ocurre una mejor opción que empezar por un endpoint en Databricks, antes de plantearse comprar hardware o de homologar un proveedor de inferencia más. Si los números justifican hostearlo uno mismo más adelante, se evalúa entonces, con datos reales de consumo en la mano.
Tomando en cuenta todos los factores a valorar, no veo una mejor alternativa.
En SunnyData ayudamos a empresas de España, LATAM y EE.UU. a diseñar, gobernar y desplegar casos de uso de IA sobre Databricks.
Fuentes: Artificial Analysis — Kimi K3 providers · Artificial Analysis — GLM-5.3 providers · Artificial Analysis — Databricks · Databricks Blog — Kimi K3 via Unity AI Gateway · Databricks Docs — Foundation Model APIs compliance · Databricks Designated Services