A belső AI eszközök temetője hatalmas. Custom GPT-k, amiket senki nem nyit meg. Slack botok, amiket lenémítanak. RAG asszisztensek három userrel. Cégek valós pénzt fektetnek be, korai izgatottságot látnak, aztán csendben nézik, ahogy a használat nullára csökken.
Amik fennmaradnak, nem a legokosabb prompttal vagy a legnagyobb modellel rendelkeznek. Más tulajdonságkészletet osztanak.
Ott élnek, ahol a munka történik
A copilot, ami saját tabban él, elfelejtődik. A copilot, ami a Slackben, a CRM-ben, a support toolban, az IDE-ben él - azt használják. A tanulság egyszerű: a kontextusváltás költsége nagyobb, mint amennyit elismerünk. Az asszisztenst vidd a munkához, ne fordítva.
Egy dolgot nagyon jól csinálnak
A legerősebb belső copilotoknak szűk, specifikus feladatuk van. „Foglald össze ezt a support thread-et és javasolj választ.” „Húzd elő az ügyfél történetét és írj megújítási emailt.” „Mondd meg, melyik dealek álltak meg a pipeline-ban és miért.” Egy általános asszisztensnek a ChatGPT-vel kell versenyeznie, amit el fog veszíteni. Egy specifikus nyer, mert ismeri az adatodat és a kontextusodat.
Őszinték a bizonytalansággal
Egy copilot, ami magabiztosan kitalál dolgokat, gyorsan elveszti a bizalmat - és a bizalom nem jön vissza. Amik fennmaradnak, „nem tudom”-ot mondanak, amikor nem tudják, megjelölik a forrást, és jelzik, ha az adott válasz tipp. Az őszinte ver az okost.
Beépített visszajelzés
Minden interakció lehetőség a tanulásra. Hüvelyk fel, hüvelyk le, „ez azért volt rossz, mert…” - az adat arany. A túlélő copilotok az első naptól visszajelzés-gyűjtéssel élesednek, és heti szinten tunolják a promptokat, a retrieval-t és a toolokat. Enélkül a rendszer a launch minőségén megfagy.
Van gazdájuk
Ez a leginkább alulértékelt tényező. Egy copilot tulajdonos nélkül sodródik. A promptok elavulnak, a mögöttes adat változik, az edge case-ek halmozódnak. A sikeresek mögött nevesített ember van, aki hetente nézi a dashboardot, megnézi az alacsony értékelésű futásokat, és kis fejlesztéseket szállít. Nem hősies mérnöki munka - állandó gondozás.
Bizalmat építenek, mielőtt autonómiát kapnak
Azok a copilotok, amik a végén felügyelet nélkül futnak, azzal kezdtek, hogy embereknek vázlatoztak. Az ember jóváhagyott vagy szerkesztett, a copilot nézte, a rendszer tanult. Hat hónappal később önállóan futott, magabiztosan. A rövidítés - autonóm szállítás az első naptól - pontosan az, ami olyan rendszerhez vezet, amiben senki nem bízik és senki nem tud debugolni.
Ha belső copilotot építesz és azt akarod, hogy egy év múlva is éljen, ezekre optimalizálj, mielőtt a modell minőségére. Ritkán a modell az, ami elbukik.
Címkék