Paso a paso para conectar Claude de Anthropic a una API FastAPI en Python. Manejo de streaming, gestión de contexto, control de costos y patrones de producción probados.
Integrar Claude en un backend FastAPI es más directo de lo que parece, pero hay varios patrones que marcan la diferencia entre un prototipo y un sistema en producción. Primero, la instalación: pip install anthropic. El cliente es asíncrono por defecto, lo que encaja perfectamente con FastAPI.
Para streaming de respuestas (esencial para UX), usa async with client.messages.stream() y yield los chunks hacia el cliente con StreamingResponse. El manejo del contexto de conversación es el reto principal: Claude no mantiene estado entre llamadas, así que debes persistir el historial de mensajes en Redis o PostgreSQL y enviarlo en cada request. Recomendamos truncar por tokens (no por número de mensajes) usando el contador de tokens de la propia SDK.
Para control de costos en producción, implementa un middleware FastAPI que registre input_tokens y output_tokens de cada respuesta en tu base de datos. Con esto puedes calcular el costo exacto por usuario, por endpoint y por día. Un patrón que hemos encontrado muy útil: usar Claude Haiku para clasificación inicial de intenciones (barato y rápido) y Claude Sonnet solo para las respuestas finales que requieren alta calidad.
Esto puede reducir el costo total hasta un 60% sin impacto perceptible en la experiencia del usuario.