Disponible

Experiments.

Testez des variantes en A/B/n contre de vrais résultats.

Experiments transforme le réglage en preuves. Faites s'affronter des variantes de prompt, de modèle et de configuration contre la vraie métrique de résultat, sur du trafic en direct ou de l'historique rejoué, et laissez la significativité statistique désigner le gagnant. S'appuie sur Arena et Replay.

p < 0.05
Experiment · 3 variantsacceptance
A control18%
B verify-first 24%
C cheaper model15%
Winner: B (+33%)
1,902 runs
Comment ça marche

Vary, test, promote.

01
Vary

Set up prompt, model, or config variants for one agent.

02
Test

Run them against the real outcome metric, live or on replayed history.

03
Promote

Significance picks the winner. Promote it, fully logged and reversible.

Les leviers

Ce qu'il améliore.

01
Variantes A/B/n

Testez plusieurs prompts, modèles ou configurations à la fois contre la même métrique de résultat.

02
Éval par paires avec LLM-as-judge

Deux variantes, en duel, évaluées par un juge LLM piloté par une grille ou par des votes humains. Le moyen le plus rapide de trancher « est-ce mieux ? »

03
Significativité intégrée

Gagnants désignés sur la confiance statistique et la taille d'échantillon, pas sur un pic d'une journée.

04
Trafic en direct

Duplique une partie de vos appels de production réels. Rien de ce que vous envoyez n'est conservé, il n'y a donc aucun historique enregistré à rejouer.

05
Promotion en un clicProchainement

Promouvez la variante gagnante en production, entièrement journalisée et réversible.

À qui ça s'adresse

Qui se tourne vers Experiments.

  • ·Équipes qui livrent des changements d'agents
  • ·Opérateurs qui veulent des preuves avant le déploiement
  • ·Équipes plateforme qui standardisent les agents
Même suite

S'associe au reste de Optimize.

Vous voulez Experiments dans votre stack ?

Nous intégrons des partenaires de conception en ce moment. Rejoignez la liste d'attente pour faire partie de la cohorte Experiments.

Seul l'e-mail est requis. Un seul e-mail quand Experiments sera en ligne. Rien d'autre.