Kuvitteellinen yritys otti syksyllä käyttöön agentin, joka luokittelee laskukyselyt oikeaan jonoon. Pilotti toimi hienosti. Puoli vuotta myöhemmin yksi laskutyyppi alkaa mennä väärään jonoon, koska toimittaja muutti laskupohjaansa. Kukaan ei huomaa sitä kuukauteen, koska agentti näyttää yhä toimivan.
Agentti ei ollut rikki. Kukaan vain ei katsonut.
Miksi valvonta unohtuu
Pilotin aikana agenttia katsotaan tarkasti, koska se on uusi. Kun se toimii, huomio siirtyy muualle. Rakentaja on jo toisessa projektissa, ja agentti hoitaa työtä, jonka omistaja ei tarkasti tiedä.
Toinen ongelma ovat oikeudet. Agentille annetaan helposti laaja pääsy, koska se on nopeampaa kuin miettiä, mihin se tarvitsee pääsyn. Silloin pieni virhe voi ulottua isoon asiaan.
Kolmas ongelma on vastuun hämärtyminen. Kun agentti tekee virheen, kysytään ensin, kuka sen rakensi, sitten kuka sitä käyttää ja lopuksi kuka sen omistaa. Jos vastauksia on kolme eri, virhettä ei korjata kenenkään työnä.
Näin agentin pitää kurissa
Ajattele agenttia uutena työntekijänä ensimmäisellä työviikollaan. Hänelle ei anneta avaimia kaikkeen, häntä ei jätetä yksin, ja hänen tekemisiään katsotaan.
Virheet ovat harvoin dramaattisia. Useimmiten ne ovat pieniä ja hiljaisia: väärä jono, unohtunut kenttä, ohjeen vanha versio. Siksi valvonta ei ole hälytysjärjestelmä vaan tapa, jolla jonkun silmä käy säännöllisesti agentin työn yli.
- Rajaa oikeudet. Anna vain ne, joita tehtävä vaatii. Aloita lukuoikeudesta ja lisää kirjoitusoikeus vasta, kun se on tarpeen.
- Pidä lokia. Jokaisesta toimenpiteestä pitää näkyä, mitä tehtiin, milloin ja millä perusteella. Ilman lokia virhettä ei voi jäljittää.
- Aseta hyväksyntäportti. Rahaan, asiakkaalle lähtevään viestiin ja poistoon liittyvät päätökset kulkevat ihmisen kautta.
- Ota otos. Katso viikoittain vaikka kymmenen tapausta ja tarkista, menivätkö ne oikein. Otos paljastaa hiljaisen ajautumisen.
- Nimeä omistaja ja hätäjarru. Yksi ihminen vastaa agentista ja tietää, miten se pysäytetään ja miten työ hoidetaan sillä välin käsin.
Kaavio · Kolme oikeustasoa
- Taso 1 · LukeeNäkee tiedotEi muuta mitään
- Taso 2 · EhdottaaKirjoittaa luonnoksen tai ehdotuksenIhminen lähettää tai hyväksyy
- Taso 3 · TekeeTekee itse rajatut, palautettavat toimetKaikki kirjataan lokiin
Loki on se, mistä virheen löytää. Hyvässä lokissa jokaisella rivillä on aika, toimenpide, perustelu ja tila. Epävarmat tapaukset siirtyvät ihmiselle sen sijaan, että agentti arvaisi.
Lokin lukeminen on osa työtä eikä jälkikäteen tehtävä tarkistus. Jos kukaan ei koskaan avaa lokia, se ei suojaa mistään. Sovi, kuka sen avaa ja kuinka usein.
Kun jokin menee pieleen, ensimmäinen kysymys on, mitä tapahtui ja kuinka moneen tapaukseen se vaikutti. Lokista se selviää minuuteissa, jos loki on tehty oikein. Ilman lokia joudutaan arvaamaan, ja arvaus voi olla väärä.
Esimerkkiloki · Agentin toimenpiteet
| Aika | Toimenpide | Perustelu | Tila |
|---|---|---|---|
| 09.12 | Lasku siirretty jonoon ”Maksukysely” | Viestissä sana ”maksamatta” ja laskunumero | Tehty |
| 09.14 | Vastausluonnos valmisteltu | Hinnasto ja asiakkaan aiempi viesti | Odottaa hyväksyntää |
| 09.31 | Laskua ei tunnistettu | Uusi laskupohja, varmuus matala | Siirretty ihmiselle |
Ennen tuotantoon vientiä kannattaa käydä läpi lyhyt lista:
Tarkistuslista · Ennen tuotantoon vientiä
- Käyttöoikeudet on rajattu tehtävään
- Loki tallentuu ja sitä voi lukea
- Hyväksyntäportti on kriittisissä päätöksissä
- Omistaja ja varahenkilö on nimetty
- Pysäytys ja käsin hoito on kokeiltuKokeile ennen kuin sitä tarvitaan.
- Tiedon käsittelyn paikka on tiedossaMinne data menee ja kuka sen näkee.
Missä Flow AI auttaa
AI agentit suunnitellaan niin, että nämä kohdat ovat mukana alusta asti. Suunnitteluvaiheessa määritellään agentin työnkulku, integraatiot ja päätösrajat. Käyttöoikeudet rajataan tarkasti siihen, mitä tehtävä vaatii, ja kaikki toimenpiteet lokitetaan. Kriittiset päätökset kulkevat ihmisen hyväksynnän kautta, ja tiedon käsittely tapahtuu EU:ssa.
Pilotti rakennetaan yhteen prosessiin kahdessa–neljässä viikossa ja testataan oikealla datalla. Tuotannossa agentin toimintaa, lokia ja tarkkuutta seurataan jatkuvasti. Agentti voi tehdä virheitä, ja siksi sen ympärille rakennetaan tapa huomata ne.
Agentin ei tarvitse olla täydellinen ollakseen hyödyllinen. Riittää, että sen virheet huomataan ennen kuin ne ehtivät asiakkaalle ja että ihminen voi korjata ne. Siksi valvonta suunnitellaan mukaan alusta asti, eikä sitä lisätä jälkikäteen.
Jos yrityksessäsi ei ole ketään, joka ottaisi agentin omistajuuden, AI osaaja voi toimia vetäjänä ja sparraajana.
Mistä aloittaa
Jos sinulla on jo agentti tai automaatio käytössä, kysy kolme asiaa: mitä se saa tehdä, mistä näen, mitä se on tehnyt, ja kuka pysäyttää sen. Jos vastaus johonkin on ”en tiedä”, aloita siitä.
Kysy myös toimittajalta aina, mitä lokissa näkyy, kuka voi pysäyttää agentin ja minne data menee. Jos vastaus on epämääräinen, se kertoo jo paljon.
Maksuttomassa kartoituksessa voidaan käydä läpi myös uuden agentin rajat.