Cómo integrar un LLM (Claude o GPT) en tu aplicación Python

Integrar un modelo de lenguaje (LLM) en una aplicación Python es hoy más sencillo de lo que parece, y abre la puerta a chatbots, asistentes internos, extracción de datos y automatización con lenguaje natural. En esta guía verás el patrón completo, con código real.

1. Elige el proveedor

Los tres más usados son Anthropic (Claude), OpenAI (GPT) y Google (Gemini). Todos exponen una API HTTP con un SDK de Python oficial, y la lógica de tu app apenas cambia entre ellos. En los ejemplos usaré Claude, pero el patrón es idéntico en los demás.

Instala el SDK y guarda tu clave en una variable de entorno, nunca en el código:

pip install anthropic
export ANTHROPIC_API_KEY="tu-clave"

2. La llamada mínima

El patrón es siempre el mismo: envías una lista de mensajes y recibes una respuesta.

from anthropic import Anthropic

client = Anthropic()  # lee ANTHROPIC_API_KEY del entorno

resp = client.messages.create(
    model="claude-opus-4-8",
    max_tokens=1024,
    messages=[
        {"role": "user", "content": "Resume en una frase: la fotosíntesis..."}
    ],
)
print(resp.content[0].text)

Dos detalles importantes: resp.content es una lista de bloques (comprueba .type antes de leer .text), y max_tokens limita la longitud de la respuesta.

3. Streaming para una buena experiencia

En una interfaz, esperar a que se genere todo el texto se siente lento. El streaming muestra la respuesta token a token, como en ChatGPT:

with client.messages.stream(
    model="claude-opus-4-8",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Escribe un email de bienvenida."}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

Para salidas largas, el streaming además evita que la petición supere el tiempo de espera de la conexión.

4. Salida estructurada (JSON fiable)

Si necesitas que el modelo devuelva datos en un formato exacto (por ejemplo para guardarlos en una base de datos), pide un esquema JSON en vez de parsear texto libre. Esto elimina la clase de bugs más común al integrar IA: respuestas con formato impredecible.

5. Buenas prácticas para producción

• Controla el coste: fija un max_tokens razonable y cachea respuestas repetidas. Los SDKs modernos soportan prompt caching, que abarata mucho el contexto reutilizado.
• Maneja errores y reintentos: las APIs fallan; los SDKs oficiales ya reintentan errores 429 y 5xx con backoff exponencial. Captura las excepciones tipadas (RateLimitError, etc.) en lugar de comparar cadenas de texto.
• Protege tus claves: variables de entorno, rotación periódica y permisos mínimos.
• Elige el modelo según la tarea: un modelo grande para razonamiento complejo, uno más pequeño y rápido para clasificación de alto volumen.

¿Necesitas ayuda?

En Xiliux integro LLMs en aplicaciones Python de principio a fin: chatbots, automatización con IA y asistentes internos. Si tienes una idea, hablemos.