Jyväskylän yliopistossa kehitetty ohjelmisto auttaa päätöksenteossa ja myös perustelee ratkaisuehdotuksensa

Monenlaiset algoritmit ohjaavat jokapäiväistä elämäämme yhä enemmän ja enemmän. Mutta mistä tiedämme algoritmien ohjaavan meitä oikeaan suuntaan? Jyväskylän yliopiston tutkijat kehittivät menetelmän, joka pystyy perustelemaan toimintaansa ihmiselle. Menetelmää voidaan soveltaa esimerkiksi terveydenhuollossa tai metsien hoidon suunnittelussa. Tulevaisuudessa pystymme entistä useammin käskemään algoritmeja perustelemaan toimintaansa.
Julkaistu
26.9.2022

Joudumme päivittäin tilanteisiin, joissa joudumme tekemään päätöksissämme kompromisseja. Valitako halpa ja heikkolaatuinen tuote vai kallis ja kestävä? Jotkut näistä ongelmista on helppo ratkaista, mutta monimutkaiset ongelmat vaativat jo tarkempaa analysointia.

Esimerkiksi metsänhoidossa voidaan joutua tilanteisiin, jossa kaadetuista puista halutaan saada tietty määrä voittoa, mutta samanaikaisesti halutaan sekä pitää päästöt tietyn viitearvon alla, että pitää metsä elinkelpoisena eläimille.

Jyväskylän yliopiston tutkijat ovat kehittäneet algoritmipohjaisen tekoälyapurin, joka auttaa monimutkaisemmissa ongelmissa. Ohjelmisto kykenee myös kertomaan, miksi se suosittelee juuri tiettyjä kompromissiratkaisuja toisten sijaan.

– Vastaavanlaisia apureita päätöksentekoon on kehitetty myös aiemmin, mutta ne eivät ole olleet kovin hyviä selittämään miten ne toimivat. On vaikea luottaa sellaiseen apuriin, joka ei pysty perustelemaan omaa toimintaansa, tutkimusta johtanut tutkija Giovanni Misitano kertoo.

Ohjelmisto auttaa käyttäjää pääsemään haluttuun lopputulokseen

Tutkijoiden kehittämä apuri pystyy paitsi perustelemaan ratkaisunsa, myös ottamaan huomioon käyttäjänsä mielipiteet ja toiveet suositellessaan ratkaisuja.

– Ohjelma antaa käyttäjälle perustelut tietyn ratkaisun tueksi tekstimuodossa esimerkiksi kertomalla, että tämä osa ratkaisua on tällainen, koska syötteessäsi olit antanut erityisesti näitä arvoja, Misitano kuvailee.

Jos esimerkiksi metsänhoidossa pyritään mahdollisimman suureen tuottoon, pieniin päästöihin ja elinympäristön elinvoimaisuuteen, niin ohjelmisto antaa käyttäjälle vaihtoehtoja näiden kolmen tavoiteltavan kriteerin perusteella. Tämän jälkeen ohjelmisto perustelee miten ratkaisuvaihtoehtoihin on päädytty ja miten kyseinen ratkaisu kytkeytyy päätöksentekijän toiveisiin.

– Menetelmä voi myös ehdottaa miten päätöksentekijä voi muuttaa omia toiveitaan. Esimerkiksi tässä skenaariossa päätöksentekijä voisi esimerkiksi haluta tietää miten päästöjä saataisiin laskettua ensimmäistä ratkaisuehdotusta matalammiksi.

Loppupeleissä käyttäjä on kuitenkin se, joka päättää miten edetään ohjelman perusteluista huolimatta. Järjestelmän ei Misitanon mukaan olekaan tarkoitus korvata ihmistä päätöksenteossa vaan tukea tätä parhaan mahdollisen ratkaisun löytämisessä.

– Tulevaisuudessa meillä tulisi olla oikeus kysyä myös algoritmilta tai tekoälyltä “miksi?” ja saada vastaukseksi ymmärrettävä selitys. Tämä tutkimustyö on askel kohti tulevaisuutta, jossa voimme käydä vuoropuhelua tietokoneen kanssa ja saada vastaukseksi muutakin, kuin pelkkää heinäsirkan surinaa.

äپٴᲹ

Giovanni Misitano
äö쾱Ჹٳٰܳ쾱Ჹ
giovanni.a.misitano@jyu.fi
+358 45 870 6306

Kaisa Miettinen
Teollisen optimoinnin professori
kaisa.miettinen@jyu.fi
+358 50 3732247

Monitavoiteoptimoinnin tutkimusryhmä

Tutkimusryhmä tutkii ja kehittää menetelmiä monitavoiteoptimointiin liittyen ongelmien ratkomiseksi. Menetelmät tukevat ihmisiä päätöksenteossa ja auttavat heitä löytämään ongelmiinsa parhaan mahdollisen ratkaisun.