Arquitectura cloud · IA

LLM Platform, asistentes de IA multi-tenant en la nube de AWS.

La que maneja varias marcasLa necesidad“Cada una de nuestras marcas quiere su asistente con IA, sin mezclar datos ni disparar costos.”

Hector · Monit4devLa respuestaLLM Platform: RAG multi-tenant en AWS, con WhatsApp, cuotas y Kubernetes.

Ver infraestructura en la nube Hablemos

Diagrama de arquitectura de la plataforma LLM en AWS: CI/CD, VPC con EKS, datos e infraestructura como código — Arquitectura en AWS: CI/CD sin llaves, EKS con 12 servicios, datos cifrados y Terraform.

Lo que construí

LLM Platform

Plataforma LLM multi-tenant: cada marca tiene su asistente con RAG sobre sus propios documentos, atiende por WhatsApp y web, y corre en AWS EKS con infraestructura como código, WAF, secretos gestionados y cuotas por tenant.

Qué incluye

Un asistente por marca con RAG sobre sus propios documentos
Atención por WhatsApp y web
Microservicios en Amazon EKS con autoescalado de nodos
Infraestructura como código con Terraform y estado remoto
Seguridad por capas y cuota diaria por tenant
CI/CD con GitHub Actions y OIDC, sin llaves estáticas

Puntos técnicos

01
12 microservicios en Kubernetes con autoescalado de nodos
02
5 capas que protegen el gasto de IA: WAF, hardening, límites por IP y por usuario, y cuota diaria por tenant
03
Cero credenciales estáticas: OIDC, IRSA y Secrets Manager

Stack

AWS EKS
Terraform
PostgreSQL + pgvector
Redis
AWS WAF
GitHub Actions + OIDC

Arquitectura

Las cinco capas de seguridad que ponen techo al gasto de IA — Cinco capas de seguridad: el gasto en IA tiene techo por diseño.

La arquitectura, a fondo

Esta plataforma no tiene demo pública: mira cómo se resuelve cada capa en AWS o Azure en la sección de nube.

Ver infraestructura en la nube

¿Tienes una necesidad parecida?

Cuéntamela y te digo cómo la resolvería.

Hablemos