BazilBot nevznikl jako experiment do šuplíku. Potřeboval jsem pomocníka, který se nezalekne reálné práce: přehledů, e-mailů, rešerší, interních dokumentů ani opakujících se úkonů, které zbytečně berou pozornost.
Klíčové rozhodnutí bylo jednoduché: nechci systém, který je závislý na cizím cloudu, pomalý nebo drahý při větším provozu. Proto jsem šel cestou lokálních modelů, vlastního hardwaru a workflow, které mám pod kontrolou.
Co fungovalo hned od začátku
Rychlé shrnutí dlouhých dokumentů a zápisů z porad.
Příprava osnov článků, interních poznámek a zadání pro další práci.
Práce s opakovatelnými dotazy, kde dává smysl stejný rámec a jiná data.
Co bylo těžší, než vypadalo
Samotný model je jen malá část celé skládačky. V praxi je složitější navrhnout, kdy má agent dohledávat informace, kdy si je pamatovat, jak ověřit výstup a kdy má raději přiznat, že odpověď nezná.
Nejtěžší není donutit model odpovědět. Nejtěžší je zařídit, aby odpovídal spolehlivě, opakovatelně a v kontextu konkrétní práce.
Dnešní stav
Asistent umí pracovat s dokumenty, poznámkami a vybranými interními zdroji.
Postupně na něj napojuji e-mail, kalendář a další části denního workflow.
Každou novou dovednost testuji jen tam, kde opravdu šetří čas nebo snižuje chybovost.
Největší hodnota není v tom, že AI něco napíše. Hodnota je v tom, že se správně zapojí do procesu, zkrátí cestu k rozhodnutí a nevytváří další chaos navíc.