Šimon Podhajský
Principal AI Engineer
Curebase
Všechny evals frameworky jsou tak trošku na nic. Jak je přesto využít?
Anotace: Asi jste to už slyšeli: myslíte-li to s LLM ve vaší aplikaci vážně, potřebujete evaly! Proč tedy nezačít od toho, že vyberete „nejlepší evaluační framework“? Jednak proto, že žádný jasný vítěz zatím neexistuje – a jednak proto, že k funkčním evalům potřebujete mnoho dalších předpokladů. Tato přednáška je částečně o předpokladech – observability, error analysis, grounded theory – a částečně o tom, co všechno potřebujete nad rámec existujících frameworků a proč jsou evaly, narozdíl od psaní unit testů, mnohem týmovější sport.
Přehrát






















