Tekoäly verkkopalveluihin: Tekniikka toimii, mutta mitä varten?
Tekoälystä ja erityisesti suurista kielimalleista (Large Language Models, LLM) puhutaan paljon. Open AI, Google, Anthropic, Mistral AI ja monet muut julkaisevat hengästyttävään tahtiin uusia kielimalleja ja niihin perustuvia palveluja. Teknologia alkaa siis olla kypsää verkkopalveluille. Mutta mitä tällä kaikella teknologialla pitäisi oikeasti tehdä?
Tekoälymallit ja rajapinnat: Teknologia on valmista käyttöön
Yksi merkittävä askel eteenpäin on ollut se, että tekoälymallit tarjoavat kehittäjille hyvin dokumentoituja rajapintoja (API) ja opastusta niiden käyttöön. Näin älykkäiden mallien integroiminen olemassa oleviin verkkopalveluihin tai uusien sovellusten rakentaminen niiden päälle on teknisesti melko suoraviivaista, vaikka vektoritietokannat ja transformerit olisivatkin vieraampia.
Voimme luottaa siihen, että mallit pystyvät tuottamaan tekstiä, myös suomeksi, ymmärtämään kysymyksiä, kääntämään kieliä ja suorittamaan monia luonnolliseen kielen käsittelyyn liittyviä tehtäviä vaikuttavalla tarkkuudella. Mallit tekevät myös aritmetiikkaa eli laskentaa varsin tarkasti.
Teknologia itsessään ei siis ole se suurin pullonkaula.
Miten sovellamme tekoälyä?
Todellinen haaste piilee nyt sovelluksissa. Pelkkä tekoälyn käyttöönotto tai mahdollisuus keskustella tekoälyn kanssa verkkosivulla ei itsessään tuo arvoa, ellei se ratkaise jotain todellista ongelmaa tai paranna verkkopalvelun käyttäjäkokemusta tuntuvasti.
Mikä on se ominaisuus tai toiminto, josta on sellaista hyötyä että käyttäjä huomaa sen ja käyttää sitä? Missä tekoäly tuo suurimman kilpailuedun? Miten tekoäly voi aidosti parantaa liiketoimintaamme?
ChatGPT:n dokumentaatio ei kerro vastauksia näihin kysymyksiin.
Kustannukset voivat olla suuria ja vaikeasti ennakoitavia
Tekoälysovelluksien kustannusrakenne on toinen haaste. Suurten kielimallien käyttö perustuu tyypillisesti käytettyjen ”tokenien” (sanojen tai sanojen osien) määrään sekä syötteessä (input) että vastauksessa (output). Mitä enemmän mallia käytetään ja mitä monimutkaisempia tai pidempiä tehtäviä sille annetaan, sitä enemmän tokeneita tarvitaan – ja sitä korkeammaksi tekoälypohjaisen palvelun kustannukset nousevat.
Teknologia: Lue lisää
Tämä hinnoittelumalli tarkoittaa, että tekoälyyn perustuvien palveluiden ylläpitokustannukset voivat olla merkittäviä ja mikä hankalinta, vaikeasti ennakoitavia. Yllättävät käyttäjäpiikit tai suoranainen haittakäyttö voi aiheuttaa nopeasti suuriakin kustannuksia. Tämä on otettava huomioon, kun suunnitellaan tekoälyominaisuuksia ja niiden skaalautuvuutta.
Vaadi aitoja hyötyjä
Missä tekoälyä sitten kannattaa harkita verkkopalveluihin juuri nyt? Vaikka mahdollisuuksia on monia, muutama alue varsinkin verkkopalvelun ylläpidon näkökulmasta tuntuu erityisen lupaavalta ja toteuttamiskelpoiselta.
Esimerkiksi erilaisia automatisoituja monikielisyyden tarjoavia toimintoja on ollut olemassa jo pitkään. Vaikuttaa kuitenkin siltä, että suuret kielimallit ja niihin tukeutuvat WordPress-lisäosat ovat vieneet automatisoituja käännöksiä kuitenkin aimo harppauksen eteenpäin. Googlaa vaikka Polylang ja DeepL API.
Tekoäly auttaa viestintä- ja markkinointitiimejä myös sisältöjen hallinnassa ja rutiininomaisissa tehtävissä. Se voi esimerkiksi luoda artikkelien tiivistelmiä, kuville ALT-tekstejä parantaen saavutettavuutta, generoida hakukoneille tärkeitä metatietoja sisällön pohjalta ja auttaa sisällön optimoinnissa sekä A/B-testattavien variaatioiden luomisessa.
Keskeistä näissä toteutuksissa on se, että tekoälyä ei tarjota loppukäyttäjälle, vaan sitä sovelletaan osana ylläpitoa. Näin tokenien kulutus on hallittavissa ja kustannukset pysyvät kohtuullisina.
Ulospäin, loppukäyttäjille tarjottavista palveluista varsinkin kehittyneet, luonnollisella kielellä käytettävät haut vaikuttavat erityisen kiinnostavilta. Sen sijaan, että käyttäjä selaisi pitkiä dokumentaatioita tai UKK-osioita, RAG (Retrieval-Augmented Generation) -pohjainen haku voi etsiä tiedon sivuston sisällöstä ja antaa suoran, luonnollisen kielen vastauksen käyttäjän kysymykseen.
Ei hypeä, vaan sovelluksia
Tekoälyn ympärillä vellonut suurin hype näyttää vähitellen tasaantuvan. Pelkän teknologisen uutuudenviehätyksen sijaan katseet kääntyvät nyt siihen, miten uudenlaista työkalua voidaan parhaiten hyödyntää. Tästä hyötyy niin loppukäyttäjä, verkkopalveluja tilaava asiakas kuin Karhu Helsingin kaltainen digitoimisto.
Tekoälyä ei pidä lisätä verkkopalveihin vain siksi, että se on mahdollista, vaan siksi, että se ratkaisee jonkin todellisen ongelman, tehostaa toimintaa tai tarjoaa selvää lisäarvoa loppukäyttäjälle tai sivuston ylläpitäjälle.
