LLM: choosing the best Implementation based of data and not guess work

Je vais présenter "undetermini", une librairie TypeScript que je crée et comment elle permet de comparer plusieurs implémentations d'un même cas d'utilisation.

Supposons que nous ayons 2 implémentations, l'une utilise gpt3.5 et l'autre utilise gpt4.

undetermini renverra un tableau des coûts, latence, et de justesse pour ces 2 implémentations. Cela permet de choisir la bonne implémentation en fonction du contexte (besoin de rapidité, justesse ou d'un bas prix).