Vamos con lo ultimo! VMware Private AI Cloud !!!

 

VMware Private AI Cloud

 La apuesta de Broadcom para llevar la IA Agéntica al entorno empresarial

La Inteligencia Artificial está evolucionando rápidamente desde simples modelos de inferencia hacia sistemas autónomos capaces de razonar, tomar decisiones y ejecutar acciones. Esta nueva etapa, conocida como Agentic AI, promete transformar los procesos empresariales, pero también introduce desafíos significativos relacionados con la seguridad, el gobierno, los costes y la operación de la infraestructura.

El reto de la IA Agéntica en la empresa

Las organizaciones ya enfrentan preocupaciones importantes en torno a la privacidad de los datos, la protección de la propiedad intelectual y el cumplimiento normativo. Sin embargo, con la llegada de los agentes de IA, estos problemas se amplifican.

Los agentes autónomos ya no realizan una única consulta a un modelo. En su lugar, encadenan múltiples llamadas, utilizan herramientas externas, ejecutan ciclos de razonamiento y colaboran con otros agentes. Esto genera tres grandes desafíos:

1. Complejidad operativa

Las infraestructuras tradicionales no fueron diseñadas para soportar cargas de trabajo de IA agéntica.

Las organizaciones deben gestionar:

Infraestructura Day 0: 

Servidores, GPUs, almacenamiento, redes y Kubernetes.

Operaciones Day 2:

Actualizaciones continuas, parches, gestión del ciclo de vida, nuevas versiones de modelos y cambios en frameworks de IA.

Lo que antes eran proyectos puntuales ahora se convierte en una operación permanente.

2. Explosión de costes por tokens

Los agentes consumen tokens de forma exponencial debido a:

Bucles de razonamiento.

Comunicaciones entre agentes.

Procesos de reflexión y autocorrección.

Contextos cada vez más extensos.

Diversos análisis prevén que los costes asociados al consumo de tokens podrían multiplicarse significativamente durante los próximos años, convirtiéndose en uno de los principales factores de coste de la IA empresarial.

3. Brechas de gobierno y control

Mientras las áreas de negocio desarrollan nuevos agentes y aplicaciones de IA a gran velocidad, los equipos de seguridad y gobierno suelen ir por detrás.

Esto provoca:

Falta de visibilidad sobre qué modelos se utilizan.

Escaso control sobre herramientas y agentes desplegados.

Riesgos relacionados con acceso indebido a datos o recursos críticos.

VMware Private AI Cloud: la respuesta de Broadcom

Para abordar estos retos, Broadcom ha presentado VMware Private AI Cloud, una plataforma diseñada para ejecutar cargas de IA y aplicaciones empresariales tradicionales de manera conjunta sobre VMware Cloud Foundation (VCF).

La propuesta se apoya en tres pilares fundamentales:

Escalar la IA de forma rentable

VMware Private AI Cloud busca optimizar los tres grandes factores de coste:

Inversión en hardware (CapEx).

Complejidad operacional.

Consumo de tokens.

La plataforma permite utilizar de forma flexible:

CPUs

GPUs

Aceleradores especializados de múltiples fabricantes, evitando dependencias tecnológicas y permitiendo construir infraestructuras heterogéneas más eficientes.

Además incorpora:

-    Monitorización de tokens.

-    Compartición multicliente de modelos.

-    Observabilidad avanzada de recursos GPU.

-    Dashboards de métricas de IA.

-    Operar con mayor seguridad

Basándose en los principios de Zero Trust y alineado con NIST CSF 2.0, VMware Cloud Foundation incorpora:

-    Microsegmentación mediante VMware vDefend.

-    Protección lateral a nivel de hipervisor.

-    Parches virtuales.

-    Actualizaciones automatizadas sin interrupciones.

-    Firewall de aplicaciones web y protección de APIs mediante Avi Load Balancer.

-    El objetivo es proteger entornos de IA frente a amenazas cada vez más sofisticadas impulsadas por la propia IA.

-    Acelerar la innovación

La plataforma busca crear una base confiable para desplegar agentes empresariales mediante:

-    Arquitecturas "deny-by-default".

-    Controles de acceso granulares.

-    Marcos preconfigurados para agentes.

-    Catálogos de servicios y herramientas aprobadas.

VMware AI Factory: el corazón de la estrategia

La pieza central de VMware Private AI Cloud es VMware AI Factory.

Su objetivo es reducir drásticamente el tiempo necesario para pasar de servidores físicos recién instalados a la ejecución del primer modelo de IA en producción.

Las principales capacidades incluyen:

-    Aprovisionamiento automatizado de hardware.

-    Configuración automática de la pila software.

-    Automatización completa de operaciones Day 2.

-    Gestión unificada de la infraestructura IA.

Según Broadcom, procesos que anteriormente requerían semanas podrían reducirse a cuestión de horas.

Ecosistema de partners y fabricantes

VMware AI Factory se apoyará en un amplio ecosistema de fabricantes:

Servidores certificados

-    Dell PowerEdge

-    Cisco

-    Lenovo

-    Supermicro

-    Colaboración con AMD

La solución integrará:

-    GPUs AMD Instinct

-    Ecosistema ROCm

-    Automatización end-to-end desde VCF hasta Kubernetes

-    Operadores GPU automatizados

-    Integración con MetalSoft

Uno de los anuncios más destacados es la alianza con MetalSoft, que permitirá:

-    Provisionar servidores bare-metal en minutos.

-    Gestionar hardware multivendor desde la consola de VCF.

-    Eliminar herramientas específicas de cada fabricante.

-    Nuevas capacidades para la IA empresarial

-    Multi-Tenant Model Sharing (Ya disponible) OJO!!!!!

Disponible con VCF 9.1.1, permite que distintos departamentos compartan modelos de IA manteniendo separados sus datos y espacios de trabajo.

Beneficios principales:

-    Menor consumo de GPU.

-    Menos duplicación de modelos.

-    Reducción del TCO.

-    Aislamiento de datos garantizado.

AI Gateway (Próximamente)

Una de las funcionalidades más interesantes previstas para futuras versiones.

Sus capacidades incluirán:

-    Enrutamiento inteligente de prompts

Seleccionar automáticamente entre modelos locales o cloud según:

-    Coste.

-    Rendimiento.

-    Especialización.

-    Caso de uso.

-    Control de consumo

-    Límites por usuario.

-    Límites de tokens.

-    Políticas de uso.

-    Autorización de aplicaciones

-    Mediante OpenID Connect para garantizar que solo aplicaciones autorizadas puedan acceder a los modelos.

-    Secure Agent Framework

A medida que los agentes ganen autonomía, el riesgo también aumentará.

Para mitigarlo, Broadcom incorporará:

Sandboxing

Entornos aislados donde ejecutar código generado por los agentes sin riesgo para el entorno productivo.

Agent Harness

Una capa de control capaz de definir:

Qué herramientas puede utilizar cada agente.

Cómo interactúan entre sí.

Cómo se validan sus resultados antes de ejecutar acciones.

Model Autoscaling

La nueva capacidad de autoescalado permitirá:

-    Escalar modelos automáticamente cuando aumente la demanda.

-    Mantener niveles de latencia definidos.

-    Reducir recursos cuando disminuya la carga.

-    Esto ayudará a maximizar la utilización de GPUs y reducir costes operativos.

Más modelos certificados para VCF

Broadcom sigue ampliando el catálogo de modelos compatibles con VMware AI Factory. Entre los más destacados encontramos:

NVIDIA Nemotron 3

Google Gemma 4

NEC cotomi

Alibaba Qwen3.8-27B

GLM 5.2 de Z.ai

La estrategia busca ofrecer máxima flexibilidad entre modelos open-weight y comerciales para adaptarse a requisitos de privacidad, coste y especialización.

Certificación NVIDIA para vSphere 9.1

Otro anuncio relevante es que vSphere 9.1 ha obtenido la certificación NVIDIA-Certified Hypervisor.

Esto valida que las cargas de IA y HPC ejecutadas sobre VMware Cloud Foundation pueden alcanzar un rendimiento cercano al bare-metal, reforzando la posición de VCF como plataforma de referencia para infraestructuras de IA empresariales.

Conclusión

La IA agéntica representa una oportunidad enorme para las organizaciones, pero también plantea retos inéditos relacionados con la operación, la seguridad, la gobernanza y el control de costes.

Con VMware Private AI Cloud y especialmente con VMware AI Factory, Broadcom busca proporcionar una plataforma integral que permita a las empresas desplegar modelos y agentes de IA cerca de sus datos, manteniendo el control sobre la infraestructura, reduciendo la complejidad operativa y optimizando el coste total de propiedad.

Para clientes ya familiarizados con VMware Cloud Foundation, el mensaje es claro: VCF quiere convertirse en la plataforma de referencia para ejecutar cargas de IA empresariales, desde modelos tradicionales hasta la próxima generación de agentes autónomos.