Agent, millel on ligipääs teie süsteemidele, on kasulik täpselt nii palju, kui hästi on piiritletud see, mida ta teha tohib. Ehitame agente, millel on selged õigused, jälgitav otsustuskäik ja inimene ahelas seal, kus panus on suur, ning me ütleme ette, kui teie protsess vajab hoopis tavalist automatiseerimist.
Vahe ei ole mudelis, vaid tagajärgedes. Kui vestlusrobot eksib, saab kasutaja vale vastuse ja pahandab. Kui agent eksib, on arve juba makstud, e-kiri saadetud või kirje kustutatud. Sama tehnoloogia, täiesti teine riskiprofiil — ja just seepärast on agendi juures kõige olulisem osa see, mida ta teha ei tohi.
Seepärast algab agendi ehitamine õigustest ja piiridest, mitte mudelist. Millistele tööriistadele ta ligi pääseb, millise summa või mahu piires ta tohib ise otsustada, millal on vaja inimese kinnitust ja mis juhtub siis, kui ta eksib — kas samm on tagasi pööratav. Kui need vastused on paigas, on mudeli valik võrdlemisi lihtne tehniline otsus. Kui ei ole, siis ei ole tegemist agendiga, vaid automatiseeritud riskiga.
Kuus teenust. Enamik projekte algab esimesest ja osa peatub seal — see on sageli õige tulemus, sest kõik protsessid ei vaja agenti.
Vaatame teie protsessid läbi ja hindame, millised neist üldse agendile sobivad: kas samm on tagasi pööratav, kas edu on mõõdetav, kas andmed on olemas ja millisesse riskiklassi kasutusjuht EL-i AI-määruse järgi langeb. Seejärel valime agenditüübi ja mudeli ning anname arhitektuuri ja maksumuse. Enamik häid kandidaate on igavad — korduvad, reeglipärased ja hästi dokumenteeritud — ja osa protsesse ei vaja agenti üldse, mida me ka ütleme.
Üks agent, üks selgelt piiritletud ülesanne: klienditugi, teadmushaldus, arvete käsitlemine, andmete töötlemine. Vestluslike kasutusjuhtude puhul võib sama agent töötada ka vestlusroboti või virtuaalassistendina, mis on teie süsteemidega liidestatud. Iga agent häälestatakse teie valdkonna andmete peal ja ühendatakse nende süsteemidega, mida ülesanne nõuab. Kitsas agent, mida saab testida, võidab laia agendi, mida ei saa — ja jõuab toodangusse kuudega, mitte aastaga.
Mitmesammulised protsessid, kus on mitu otsust, mitu andmeallikat ja mitu liidestust. Agendid jagavad vastutust, annavad töö edasi, kontrollivad üksteise tulemust ja võivad ülesandest sõltuvalt kasutada eri mudeleid ja tööriistu. Kasulik siis, kui sammud on päriselt eraldiseisvad — mitte selleks, et lihtsat asja keerukamaks teha, mis on selle mustri kõige tavalisem väärkasutus.
Agent on täpselt nii kasulik, kui palju ta näeb ja teha saab. Ühendame ta teie CRM-i, ERP-i, andmebaaside ja API-dega ning seome sammud mitmeetapilisteks töövoogudeks, kus iga tööriistal on oma õigused ja oma logi. Orkestreerimiskiht otsustab, milline agent millal tegutseb, mis juhtub tõrke korral ja kus on kinnituspunkt — see on koht, kus agendisüsteemid kõige sagedamini katki lähevad.
Mudel valitakse ülesande, latentsuse ja hinna järgi, mitte pingerea järgi — sageli on õige vastus väiksem ja odavam mudel kitsa ülesande jaoks. Häälestamine tuleb kõne alla alles siis, kui parem kontekst enam ei aita: valmistame treeningandmestiku, häälestame mudeli teie valdkonna peal ja testime tulemust ka kallutatuse osas. Enamik projekte ei jõua selle sammuni ja see on hea uudis, sest häälestatud mudel tuleb ka edaspidi üleval hoida.
Hindamiskomplekt päris juhtumitega ja regressioonitestid, mis jooksevad iga muudatuse peale. Mudelid muutuvad ka siis, kui teie kood ei muutu — pakkuja uuendab versiooni ja käitumine nihkub, ning ilma testideta avastate selle toodangus. Jooksvalt jälgime ka kulu, latentsust ja seda, millistel juhtumitel agent kõige sagedamini loobub, sest just see nimekiri näitab, mida järgmisena parandada.
Enamik projekte on üks neist seitsmest või kahe kombinatsioon. Valik sõltub sellest, kui palju samme protsessis on ja kui kallis on viga — mitte sellest, milline neist kõlab kõige võimekamalt.
Üks autonoomne agent ühe selgepiirilise vastutusega: pileti lahendamine, arve käsitlemine, teadmusbaasist vastuse leidmine. Ka üksik agent tõstab tootlikkust märgatavalt ja on odav nii ehitada kui hooldada — seepärast on see peaaegu alati õige koht, kust alustada.
Keerukamate protsesside jaoks, kus on mitu otsust, mitu andmeallikat ja mitu liidestust. Agendid jagavad vastutust, annavad tööd edasi, kontrollivad üksteise tulemust ja võivad ülesandest sõltuvalt kasutada eri mudeleid ja tööriistu.
Agent, mis automatiseerib ühe hästi määratletud töö: dokumentide töötlemine, päringute klassifitseerimine, andmete otsimine ja kokku viimine, sisemised rutiinid. Liidestub teie süsteemidega ja viib töövoo ise lõpuni, ilma et keegi peaks vahepeal sekkuma.
Vestlusliidesega agent, mis erineb tavalisest vestlusrobotist ühe olulise asja poolest: ta ei ainult vasta, vaid ka tegutseb. Broneerib, muudab tellimust, algatab tagasimakse — kasutaja jaoks vestluses, taustal teie süsteemides, koos õiguste ja kinnituspunktidega.
Agent, mis viib äriprotsessi otsast lõpuni ilma pideva juhendamiseta: andmete hankimine, kontroll, tegevuste käivitamine välistes süsteemides. Kõige kasulikum seal, kus tööd on palju ja see on dokumendipõhine — rahandus, tarneahel, vastavus.
Agent, mis töötab läbi suure andmehulga, kaalub võimalikke tegevusi ja kas soovitab või teeb otsuse ise. Kasutusel seal, kus täpsus ja kiirus on mõlemad olulised — riskihindamine, pettuste tuvastamine, ennetav hooldus, tegevusplaneerimine. Siin on inimese kinnitus peaaegu alati vajalik.
Agent, mis on häälestatud teie valdkonna sõnavara, reeglite ja nõuete järgi. Üldmudel ei tea teie tootekoode, lepingutingimusi ega seda, mida teie majas mingi lühend tähendab — ja just seal tekivad kõige veenvamad valed vastused.
Kaheksa võimekust, mis eristavad agenti skriptitud automatiseerimisest. Ükski neist ei ole iseenesest eesmärk — need on vahendid, ja me kasutame neist ainult neid, mida teie ülesanne päriselt nõuab.
Agent kaalub andmeid, teeb järeldusi ja otsustab ilma, et iga sammu peaks inimene kinnitama. See on kasulik seal, kus otsus sõltub kontekstist ega mahu reeglipuusse — ja täpselt seal on ka kõige olulisem, et otsustuskäik oleks hiljem loetav.
Agent tõlgendab päringu, planeerib sammud ja kasutab tööriistu — API-sid, andmebaase, teisi agente — kuni ülesanne on lõpuni viidud. Inimene annab eesmärgi, mitte sammude nimekirja.
Lühi- ja pikaajaline mälu, mis hoiab konteksti ühe vestluse sees ja selle vahel: varem kokku lepitu, eelmine otsus, kliendi ajalugu. Mitme agendi süsteemis saab sama konteksti jagada, nii et teine agent ei alusta nullist.
Agent paraneb tagasisideahelate kaudu: inimese parandused, uued andmeallikad ja hindamistulemused voolavad tagasi süsteemi. Oluline nüanss — me ei lase agendil ennast automaatselt ümber õpetada, sest siis ei tea keegi, miks käitumine muutus.
Tekst, dokumendid, pildid, heli, video ja kood. Päris ettevõttes ei tule info ühes vormingus: arve on PDF, tõend on foto, juhend on video ja pool teadmisest on kellegi e-kirjas.
Agent töötab teie CRM-i, ERP-i, andmeplatvormide ja kolmandate osapoolte teenuste sees, mitte nende kõrval. Töövoogu ei ehitata ümber agendi pärast — agent ehitatakse olemasoleva töövoo sisse.
Mitu agenti, kes teevad reaalajas koostööd, jagavad ülesandeid ja hoiavad jõudlust ka siis, kui maht kasvab. Siin on kitsaskoht harva mudel — tavaliselt on selleks järjekorrad, piirmäärad ja see, mis juhtub, kui üks samm aeglustub.
Andmekaitse, ligipääsu kontroll ja seletatavus on sisse ehitatud, mitte lisatud. Reguleeritud valdkonnas on kõige olulisem küsimus mitte see, kas agent oskab, vaid kas te suudate hiljem tõestada, miks ta nii tegi.
Viis etappi. Kolm esimest otsustavad, kas projektist üldse asja saab — ja neist ükski ei sisalda agendi ehitamist.
Analüüsime töövood, otsustuskohad ja automatiseerimise võimalused ning määrame, kus agent annab mõõdetavat kasu. Lepime kokku kasutusjuhud, kasutajarollid, vastavuspiirangud ja edukriteeriumid — ja otsustame, kas vaja on vestlusagenti, töövooagenti, mitme agendi orkestreerimist või hoopis tavalist automatiseerimist.
Agent on täpselt nii hea, kui hea on tema andmekiht. Projekteerime turvalised torud dokumentidele, andmebaasidele, API-dele ja ettevõtte süsteemidele, lepime kokku otsingu- ja indekseerimisstrateegia ning ehitame mälu ja kontekstihalduse. Siin pannakse paika ka andmekvaliteedi, ligipääsu ja vastavuse reeglid.
Arhitektuur valitakse keerukuse ja riskitaseme järgi: üksikagent, mitu agenti või hübriid. Kaalume alusmudeleid, avatud lähtekoodiga mudeleid ja kommertsteenuseid kvaliteedi, latentsuse, privaatsuse, skaleeruvuse ja hinna järgi — ning kasutame agendiraamistikke ainult seal, kus need annavad mõõdetava võidu.
Agent ehitatakse ennustatavalt käituma. Paneme paika hindamistorud, vastuste sidumise allikaga, turvapiirded, tagavaraloogika ja inimese kinnituspunktid. Jõudlust mõõdetakse ülesande õnnestumise määra, vastuste kvaliteedi, järjepidevuse ja reeglitest kinnipidamise järgi — mitte demo põhjal.
Agent läheb teie keskkonda: CRM, ERP, andmeplatvormid, sisemised rakendused ja API-d. Juurutusarhitektuur projekteeritakse turvalisuse, skaleeritavuse ja jälgitavuse peale ning viiakse kokku teie olemasolevate pilve- ja platvormistandarditega, nii et agent on esimesest päevast toodangukõlblik.
Agendiraamistikud on noored ja vahetuvad kiiresti. Ehitame nii, et raamistik ja mudel on vahetatavad osad — teie äriloogika ja õigustemudel ei tohi sõltuda sellest, milline teek on sel aastal populaarne.
Agent, mis teeb midagi teie nimel, vajab samu piiranguid mis töötaja — ainult et kirja pandult ja kontrollitavalt. Need neli lepitakse kokku enne esimest rida koodi.
Agent saab täpselt need õigused, mida ülesanne nõuab — ja mitte rohkem, isegi kui rohkem oleks lihtsam.
Küsimus ei ole, kas inimene kinnitab, vaid millal. See lepitakse kokku enne, mitte esimese intsidendi järel.
Iga tegevuse kohta peab hiljem saama vastata küsimusele „miks ta seda tegi” — ka kuu aega hiljem.
Kaks asja, mis agentide juures kõige sagedamini üllatavad: kui hästi ta päriselt töötab ja mis ta kuus maksab.
Viis etappi. Esiteks piiritlemine: milline protsess, mis on edu mõõdik ja kas see samm on tagasi pööratav. Teiseks andmed ja kontekst — agent on täpselt nii hea, kui hea on see, mida ta näeb, ja siin selgub tavaliselt, et osa vajalikust infost ei ole kuskil kirjas. Kolmandaks arhitektuur ja mudeli valik. Neljandaks turvapiirded: õigused, kinnituspunktid, tagavaraloogika ja hindamiskomplekt. Ja alles viiendaks liidestamine ja juurutamine.
Toodangusse ei lähe agent kunagi kohe otsustama. Esmalt töötab ta varjurežiimis: teeb oma ettepaneku, inimene teeb otsuse, ja me võrdleme neid kahte. Alles siis, kui kokkulangevus on piisav ja veatüübid teada, anname talle õiguse ise tegutseda — ja sedagi algul kitsas piirides, näiteks väikeste summade või madala riskiga juhtumite peal.
Partnerit valides küsige, mis juhtub siis, kui agent eksib. Kui vastus ei sisalda sõnu „logi”, „kinnitus” ja „tagasi pööramine”, siis turvapiirdeid ei ole ette nähtud. Ja küsige, kuidas mõõdetakse, kas ta töötab — ilma hindamiskomplektita on iga väide agendi kvaliteedi kohta arvamus.
Enamik protsesse, mida agendiks tahetakse, on tegelikult reeglipõhine automatiseerimine. See on odavam, kiirem ja ennustatav — ja me soovitame seda.
Agent teeb ettepanekuid ja inimene otsustab, kuni kokkulangevus on mõõdetud. Alles siis saab ta ise tegutseda, ja algul kitsas piirides.
Iga tööriist saab oma õigused ja oma logi. Agent ei tohi pääseda ligi sellele, mida tema ülesanne ei nõua — ka siis, kui see oleks mugav.
Kvaliteeti mõõdetakse päris juhtumite komplekti peal, mis jookseb iga muudatuse ja mudelivahetuse järel. Demo näitab parimat juhtumit, test näitab keskmist.
Äriloogika ja õigustemudel ei ela agendiraamistiku sees. See valdkond liigub kiiresti ja tänane teek ei pruugi aasta pärast olemas olla.
Vaatame, millisesse riskiklassi teie kasutusjuht EL-i AI-määruse järgi langeb, ja mida see dokumentatsiooni ja inimjärelevalve osas nõuab. Majutus saab jääda täielikult EL-i.
Vähem, kui tavaliselt arvatakse — paljude ülesannete puhul piisab tuhandetest näidetest, kui need on hästi märgendatud. Andmete kvaliteet ja märgendamise järjekindlus mõjutavad tulemust rohkem kui hulk.
Sageli mitte. Klassifitseerimise, prognoosimise ja anomaaliate tuvastamise puhul on väiksem, konkreetne mudel odavam, kiirem ja täpsem. Soovitame keelemudelit siis, kui ülesanne puudutab päriselt vaba teksti.
Hindamiskomplektid enne väljalaset, kindlusläve seadmine, ebakindlate juhtumite suunamine inimesele ja pidev jälgimine toodangus. Ükski neist üksi ei piisa — töötab ainult nende kombinatsioon.
Tavaline automatiseerimine järgib kindlat sammude jada. Agent otsustab jada ise, olukorrast lähtuvalt. See on kasulik siis, kui juhtumid on liiga varieeruvad reeglitesse kirjutamiseks — ja liigne siis, kui nad ei ole.
Tööriistad on selgelt piiritletud, kirjutamisõigused on eraldi hinnatud ja pöördumatuid toiminguid — makseid, kustutamisi, kliendisuhtlust — kinnitab inimene. Kõik otsused logitakse, nii et hiljem saab järele vaadata, miks midagi juhtus.
Kitsalt piiritletud ülesannete puhul jah, laialt määratletud ülesannete puhul mitte. Meie soovitus on alustada ühest selgest töövoost, mõõta tulemust ja laiendada alles siis, kui numbrid seda toetavad.
Tarkvara, mis kasutab keelemudelit selleks, et ülesanne ise ära teha — mitte selleks, et sellest rääkida. Ta oskab ülesande sammudeks jagada, kasutada tööriistu nagu otsing, API-d või andmebaas, ja otsustada järgmise sammu eelmise tulemuse põhjal.
Praktiline vahe vestlusrobotiga on tagajärgedes. Vestlusrobot annab teile vastuse ja teie otsustate. Agent teeb otsuse ise ja tegutseb: saadab kirja, muudab kirjet, algatab makse. Sama tehnoloogia, täiesti teine riskiprofiil — ja just seepärast on agendi juures kõige olulisem osa see, mida ta teha ei tohi.
Igavad. Korduvad, reeglipärased ja hästi dokumenteeritud protsessid, kus edu on mõõdetav ja samm on tagasi pööratav — dokumentide töötlemine, päringute klassifitseerimine, andmete kokku viimine, esmane kontroll enne inimest.
Halvasti sobivad need, kus viga on kallis ja pöördumatu, kus reegleid ei ole kuskil kirjas või kus õige vastus sõltub kontekstist, mida agent ei näe. Ja märkimisväärne osa sellest, mida agendiks soovitakse, on tegelikult tavaline reeglipõhine automatiseerimine — see on odavam, kiirem ja ennustatav. Ütleme seda ette, ka siis, kui see tähendab meile väiksemat projekti.
Kahes etapis. Esmalt hindamiskomplekt: kogume päris juhtumeid koos teadaolevate õigete vastustega ja mõõdame, kui sageli agent nendega hakkama saab. See komplekt jookseb iga muudatuse ja iga mudelivahetuse järel — mudelid muutuvad ka siis, kui teie kood ei muutu, ja ilma testideta avastate selle toodangus.
Seejärel varjurežiim. Agent töötab päris andmete peal, teeb oma ettepaneku, aga otsuse teeb inimene — ja me võrdleme neid kahte. Nii näeme tegelikku kokkulangevust ja saame teada veatüübid enne, kui neil on tagajärgi. Õiguse ise tegutseda saab agent alles siis, ja sedagi algul kitsas piirides: väikesed summad, madala riskiga juhtumid.
See sõltub sellest, milleks agenti kasutatakse. Määrus jaotab kasutusjuhud riskiklassidesse, ja enamik ärisiseseid agente — dokumenditöötlus, sisemine tugi, andmete kokku viimine — jääb madalama nõudlusega osasse, kus peamine kohustus on läbipaistvus: inimene peab teadma, et ta suhtleb tehisintellektiga.
Rangemad nõuded tekivad siis, kui agent mõjutab inimest puudutavaid otsuseid — värbamine, krediidiotsused, ligipääs teenustele. Seal on vaja dokumenteeritud riskihinnangut, inimjärelevalvet ja jälgitavust. Meie töö on see klass alguses välja selgitada ja ehitada nii, et nõuded on täidetud — mitte tagantjärele avastada, et süsteem vajab ümbertegemist. Juriidilist nõu me ei anna, aga ütleme, millal seda küsida tasub.
Kirjeldage oma olukorda paari lausega. Vastame ühe tööpäeva jooksul.