Kirjoittamisen taidot häiritsemässä kriittisen ajattelun arviointia

Käytämme EACH-hankkeen kriittisen ajattelun tutkimuksessa erityisesti avomuotoisia osaamistehtäviä, joissa osallistuja antaa vastauksensa kirjoittamalla lyhyen esseetyyppisen tekstin. Avotehtävä mahdollistaa tutkimustemme mukaan kriittisen ajattelun prosessien aktivoimisen paremmin kuin monivalintatehtävät. Avomuotoisen tehtävän akilleenkantapää on kuitenkin se, että edellyttää osallistujalta viestintätaitoja – yleisemmin kirjoitustaitoa. Toki meidän näkemyksemme mukaan (kirjallinen tai suullinen) viestintä on tärkeä osa kriittistä ajattelua eli se mahdollistaa ajattelun ilmaisemisen muille. Avomuotoisessa tehtävässä kirjoittaminen helposti kuitenkin jyrää muiden kriittisen ajattelun ulottuvuuksien yli, jos asiaan ei kiinnitetä arviointimenetelmiä suunniteltaessa huomiota.

Aiemmin on havaittu, että kielen laatu (esimerkiksi kirjoitusvirheet) vaikuttaa tekstin arvioijaan alitajuisesti, vaikka se ei arviointikriteerinä olisikaan. Arvioija tai pisteyttäjä siis tulkitsee, usein tiedostamattaan, kirjoitusvirheet osoituksena heikosta ajattelutaidosta riippumatta tekstin sisällöstä. Myös puutteelliset argumentaatiotaidot voivat aiheuttaa sen, että tutkijan on vaikea tavoittaa kirjoittajan ongelmanratkaisu- tai analyysitaitoja, koska tekstin johtoajatus jää pimentoon. Tämä on ongelmallista tutkimuksen validiteetin kannalta: pureutuuko tutkimus siihen asiaan, mihin sen on tarkoitus pureutua? Lisäksi sellaiset osallistujat, joilla on kielellisiä haasteita, eivät pääse osoittamaan todellisia taitojaan. Tällaisia haasteita voivat olla esimerkiksi lukivaikeudet tai se, että testi tehdään muulla kuin osallistujan äidinkielellä.

Testien ja pisteytyksen suunnittelussa on mahdollista vähentää tätä kielellisten taitojen aiheuttamaa vinoumaa. Tehtävien ohjeistuksen on oltava selkeää, ja tehtävän tekemiseen olisi varattava riittävästi aikaa siten, että tekstin tuottaminen ei olisi kiireistä. On myös tärkeää kouluttaa tehtävien pisteyttäjät niin, että he ymmärtävät ja tiedostavat vastausten sisällön ja muodon eron. Pisteytyskriteerit on suunniteltava niin, että ne painottavat riittävästi muita kuin kielellisiä taitoja. Lisäksi muiden kuin kielellisten ulottuvuuksien kriteerit on muotoiltava yksityiskohtaisesti niin, että pisteyttäjän on mahdollista arvioida niitä ohi kielen. Monivalintatehtävät voivat myös tukea tavoitetta vähentää kielen merkitystä arvioinnissa, mutta niissä on taas omat ongelmansa, kuten olemme aiemmin todenneet. Niiden käyttö pitäisi siis suunnitella harkiten avotehtävien tukena.

Yhdenmukainen kriittisen ajattelun arviointi vaatii selkeät arviointiperusteet

Keväällä esittelimme blogissamme kriittisen ajattelun arvioinnin menetelmiä. Vaikka EACH-tutkimusryhmämme käyttää kaikkia kirjoituksessa esitettyjä menetelmiä, avomuotoinen osaamistehtävä on tutkimustyössämme keskiössä. Tällaisen menetelmän käyttö on haastavaa siksi, että jokainen vastaus on arvioitava. Työtä ei voi toistaiseksi automatisoida, vaikka tulevaisuudessa toivommekin, että tekoälyn sovellutukset tuovat tällaiseen tutkimukseen helpotusta. Arviointityön haasteena on tulkinnallisuus: miten voimme varmistaa, että kaikki vastaukset on arvioitu yhdenmukaisesti ja oikeudenmukaisesti?

Yhdenmukaisen arvioinnin avain ovat yksityiskohtaiset arviointiperusteet, ns. arviointimatriisi, jonka avulla vastaukset pisteytetään. Arviointimatriisia varten määritellään ensi osaamisalueet, tässä tapauksessa kriittistä ajattelua ilmentämät osataidot, kuten esim. ongelmanratkaisutaito ja argumentointi. Tämän jälkeen määritellään kunkin osa-alueen osalta, millaista taitojen tasoa eri pistemäärät edellyttävät. Esimerkiksi argumentoinnissa hyvän tai tyydyttävän pistemäärän vähimmäisvaatimus voisi olla se, että vastauksessa on esitetty argumentteja eli väitteet on perusteltu. Arviointiperusteiden ymmärtäminen edellyttää arvioijalta kyseisten taitojen hallintaa: ei voi arvioida argumentaation laatua, jos ei itse hallitse argumentaatiota. Jos ja kun arviointimatriisia käyttää useampi arvioija eli pisteyttäjä, on tärkeää käydä keskusteluja arviointimatriisista, jotta sitä tulkitaan yhdenmukaisesti. Laajoissa arvioinneissa, joissa käytetään useita pisteyttäjiä (esim. valtakunnallinen Kappas-hanke), järjestetään pisteytyskoulutus, jolla varmistetaan yhdenmukainen arviointimatriisin tulkinta.

Toinen tärkeä keino varmistaa oikeudenmukainen arviointi, on se, että kunkin vastauksen arvioi kaksi pisteyttäjää. Kahden pisteyttäjän yhdenmukaiset pisteet lisäävät varmuutta siitä, että pisteytys on arviointiperusteiden mukainen. On varauduttava myös siihen, että pisteyttäjien arviot ovat erilaiset. Laajoissa arvioinneissa, kuten Kappas-hankkeessa, pisteyttäjien vastaukselle antaman kokonaispistemäärän (kaikki osa-alueet yhteenlaskettuna) erotessa liikaa toisistaan käytetään kolmatta pisteyttäjää, jonka avulla yksimielisyys yleensä saavutetaan. Pienimuotoisemmissa arvioinneissa pisteyttäjät saattavat käydä keskustelua ongelmallisista vastauksista ja pyrkiä siten yksimielisyyteen.

Avomuotoisten osaamistehtävien arvioinnin periaatteet soveltuvat muuten kaikenlaiseen arviointiin. Vaikka tenttivastauksia onkaan harvemmin mahdollista arvioida usean opettajan voimin, arviointiperusteiden kokoaminen arviointimatriisiin lisää arvioinnin yhdenmukaisuutta.