Joulun alla järjestimme Helsingin toimistollamme perinteisen organisaation sisäisen hackathon-tapahtuman. Tämänkertainen tavoitteemme oli luoda Microsoft-pilven generatiivista tekoälyä hyödyntävä HR-botti sisäiseen käyttöön. Botin tarkoituksena on tarjota heti käyttökelpoisia ja laadukkaita vastauksia erilaisiin kysymyksiin, jotka liittyvät työntekoon, työsuhteeseen ja henkilöstöhallintoon.
Noin kaksikymmentä asiantuntijaa - kehittäjiä, arkkitehteja, toiminnallisia konsultteja ja data-ammattilaisia - osallistui tekoälyteemaiseen hackathon-iltapäivään. Tapahtuman päätavoite oli luoda toiminnallinen ensimmäinen versio botista. 
Jakauduimme tapahtuman aluksi neljään tiimiin, joista jokaisen tavoitteena oli rakentaa toiminnallinen, generatiivista tekoälyä organisaatiokohtaiseen aineistoon soveltava botti. Kukin tiimi ohjeistettiin rakentamaan botti käyttäen ennalta määrättyä toteutustapaa, jotta tapahtuman lopputuloksena syntyviä ratkaisuja voitaisiin käyttää myös eri toteutustapojen arviointiin ja vertailuun.
Tiimi 1: Azure AI Studio, kokonaisvaltainen ja tuotteistettu tekoälyalusta generatiivisen AI:n ratkaisujen rakentamiseen, evaluointiin ja julkaisuun
Tiimi 2: Copilot Studio, low-code-pohjainen ja Power Platform -tuoteperheeseen nivoutuva alusta mukautettujen tekoälyapurien kehittämiseen ilman tarvetta kirjoittaa koodia
Tiimi 3: Teams AI Library, Teams-integroituva AI-kirjasto, joka mahdollistaa Teams-pohjaisten tekoälysovellusten helpon toteuttamisen C#- ja JavaScript-ohjelmointikielillä.
Tiimi 4: twoday AI Agent, twodayn keväällä 2023 lanseeraama valmis alusta asiakaskohtaisten tekoälysovellusten rakentamiseen ja hallintaan.
Kaikki neljä tiimiä saivat tapahtuman aluksi käyttöönsä tietoaineiston, joka piti sisällään organisaatiokohtaisia ohjeistuksia, politiikkoja ja kuvauksia täydennettynä relevanteilla ulkoisilla sisällöillä kuten työehtosopimukseen, vakuutuksiin ja työterveyshuoltoon liittyvillä dokumenteilla. Lisäksi henkilöstöhallintomme oli valmistellut 75 testitapauksen autenttisen aineiston kysymys-vastaus-pareja, jota oli mahdollista käyttää kehityksen aikana toteutuksen validointiin.
Mitä saatiin aikaan
Kukin tiimeistä onnistui iltapäivän, eli noin neljän tunnin aikana, rakentamaan ja ottamaan teknisesti käyttöön toiminnallisen, generatiivista tekoälyä hyödyntävän bottisovelluksen, joka käytti vastauksissaan organisaatiokohtaista sisältöä. Eli tältä osin tapahtuman tavoitteet tuli saavutettua.
Tapahtuman jälkeen päätimme, että valitsemme yhden joukkueiden boteista ja jatkamme sen kehitystyötä ja optimointia tapahtuman jälkeenkin, jotta voisimme valita sopivimman toteutustavan botin tuotantokäyttöönottoa varten.
Azure AI Studion avulla rakennettu botti pystyi saumattomasti yhdistämään eri kielisiä dokumentteja ja nojaamaan suomenkielisessä dialogissa myös sellaiseen aineistoon, joka oli saatavilla vain englannin kielellä: 
Copilot Studio puolestaan mahdollistaa suoraviivaisesti kytkeytymisen olemassa oleviin SharePoint-sivustoihin, minkä takia kyseinen tiimi määritti intranettimme osana olevan työntekijäportaalin suoraan lähteeksi ja sai sitä kautta botin käyttöön vielä annettua lähdeaineistoa laajemman sisältöjoukon.
Teams AI -kirjastoja hyödyntävä, koodilähtöinen toteutustapa mahdollisti helposti natiivisti Teamsissa toimivan botin rakentamisen. Kuitenkin tämä matalamman tason lähestymistapa vaatii selkeästi enemmän työtä botin käyttäytymisen optimointiin taikka lähdeaineistojen indeksointiin. Siinä missä Studio-ratkaisut tarjoavat valmiina paketista lähdeaineiston lataamisen, indeksoinnin, tai jopa suoran kytkeytymisen olemassa oleviin kirjastoihin, joutui Teams AI -tiimi pilkkomaan lähdeaineistoon kuuluvia dokumentteja pienempiin, tekoälyn hyödynnettävissä oleviin osiin. Toisaalta koodipohjaisen lähestymistavan ehdoton etu on kooditason debuggausmahdollisuus, mikä lähtökohtaisesti antaa kehittäjälle enemmän vapausasteita toteutuksen iterointiin. 
Twoday AI Agent pisimmälle tuotteistettuna ratkaisuna antoi tiimille lentävän lähdön botin rakentamiseen, kunhan ympäristö oli pystytetty. Kun lähdeaineisto oli kliksuttelemalla syötetty tietokantaan, alkoi botin tuunaaminen ensisijaisesti kehotteiden (prompt) avulla. 
twoday AI Agentista: Keväällä lanseerasimme tietoturvallisen ja yrityksen tarpeisiin räätälöitävän tekoälysovelluksen nimeltään twoday AI Agent. Se hyödyntää samaa kielimallia kuin laajemmin tunnettu ChatGPT, mutta tarjoaa yrityksille mahdollisuuden käyttää tekoälyä luotettavasti ja tietoturvallisesti. AI Agent soveltuu erityisen hyvin mm. asiakaspalvelun automatisointiin ja tehostamiseen, sisäisten prosessien automatisointiin sekä tiedon käsittelyn ja hyödyntämisen helpottamiseen.
Keskeisiä oppeja
Hackathon-tapahtuma osoitti, että generatiivisen tekoälyn käyttöönotto teknisesti, hyödyntäen myös asiakaskohtaista sisältöä, on nykyisellään erittäin suoraviivaista. Rajatun aineiston kytkeminen tekoälyyn, botin ohjeistaminen toimimaan valitussa roolissa ja botin julkaisu käyttäjille on suoraviivaista ja sen pystyy tekemään jopa tunneissa, kunhan tarvittavat lisenssit ja ympäristöt on olemassa ja hyödynnettävä aineisto valmisteltu riittävälle tasolle.
Kuitenkin varsinainen työmäärä tuotannollisesti toimivien, tiettyyn organisaatiokohtaiseen kontekstiin optimoitujen bottien rakentamiseksi tapahtuu ennen teknistä käyttöönottoa ja erityisesti sen jälkeen. Ennen käyttöönottoa keskeisiä haasteita ovat:
- Toteuttamiskelpoisen, liiketoiminnallista lisäarvoa tuottavan sovelluskohteen tunnistaminen
- Sovelluskohteen edellyttämän ajan tasaisen ja riittävän datan saatavuuden varmistaminen
- Konseptin tarkentaminen riittävälle tasolle onnistuneen käyttöönoton pohjustamiseksi
Teknisessä käyttöönotossa tyypillisesti keskeisin haaste on semanttisen haun toteuttaminen siten, että sovellus löytää kaikkein relevanteimmat asiakaskohtaiseen dataan nojaavat sisältöosat, jotka sovellus tarjoilee rajapinnan kautta kielimallille.
Teknisen käyttöönoton jälkeen alkaa varsinainen botin toiminnan optimointi riittävän isolla määrällä käyttäjäpalautetta ja todellista käyttöön liittyvää aineistoa. Esim. loppukäyttäjille (työntekijöille) julkaistavan HR-botin tulee pystyä tuottamaan jatkuvasti faktapohjaista sisältöä, joka huomioi luotettavasti kysymykseen liittyvän kontekstin ja lisäksi tarjoaa lähdeviittaukset tarvittaviin aineistoihin kuten esimerkiksi työehtosopimukseen. Tämän ns. ”ankkuroinnin” (Anchoring) toteuttaminen vaatii usein aikaa ja työmäärää, ja eri toteutustavat tarjoavat tähän iterointiin erilaisia mahdollisuuksia. Niinpä emme hackathonin päätteeksi julkaisseet organisaatiolle tuotannollista HR-bottia, vaan valitsemme seuraavaksi toteutustavan, jolla tarkemman tason optimointi tehdään ennen varsinaista tuotantokäyttöönottoa.
Tulemme julkaisemaan lähiviikkoina lisää blogijuttuja liittyen tekoälysovellusten rakentamiseen, sekä eri toteutustapojen että muiden käyttöönottoon liittyvien näkökulmien osalta.
Kirjoittajasta: Petri Säkkinen
Petri Säkkinen on työskennellyt 25 vuoden ajan liiketoiminnan ja teknologian rajapinnassa, josta viimeiset 15 vuotta Microsoft-ekosysteemin puitteissa. Hänen erikoisosaamistaan on liiketoiminnallista lisäarvoa tuottavien ratkaisukonseptien muotoilu hyödyntäen viimeisimpiä pilviteknologioita.
twodaylla Petri vetää Microsoft-pilven liiketoimintasovelluksiin ja modernin työn ratkaisuihin keskittyvää liiketoimintayksikköä.
