Batch API de Claude: procesa miles de requests al 50% de coste

Que es la Batch API

La Batch API permite enviar hasta 100.000 requests de golpe. Anthropic los procesa en hasta 24 horas. A cambio: 50% de descuento en el precio.

Cuando usar Batch

Clasificación masiva de documentos, generación de contenido en lote, evaluaciones y benchmarks, procesamiento de datasets. Cualquier tarea donde no necesitas respuesta inmediata.

Ejemplo Python

batch = client.messages.batches.create(
    requests=[
        {"custom_id": "email-001", "params": {
            "model": "claude-haiku-4-5-20251001",
            "max_tokens": 100,
            "messages": [{"role": "user", "content": "Clasifica: ..."}]
        }},
        # ... hasta 100K requests
    ]
)
# Verificar: client.messages.batches.retrieve(batch.id)
# Resultados: client.messages.batches.results(batch.id)

Combinar con Prompt Caching

Cache (90% ahorro input) + Batch (50% descuento) = hasta 95% ahorro total vs uso naive. El combo definitivo para procesamiento a escala.