Vakuuttavaa argumentointia ja muita virheitä

Je­ni­na Sal­mi­nen

Et­sis­ke­lin jos­kus läh­tei­tä kir­joi­tus­teh­tä­vää­ni var­ten. Et­sin, en­kä löy­tä­nyt so­pi­via, jo­ten lai­toin muis­tiin­pa­no­ni ja löy­tä­mä­ni läh­teet ChatGPT:lle ja pyy­sin sitä et­si­mään li­sää ai­hee­seen so­pi­via tie­teel­li­siä ar­tik­ke­lei­ta ja läh­tei­tä.

En­si­sil­mäyk­sel­lä se tuot­ti hy­vin tu­los­ta: use­am­pi läh­de, jot­ka so­pi­vat ai­hee­see­ni ja li­säk­si se­li­tys tai alus­tus, mitä läh­tees­tä voi­si hyö­dyn­tää. Ha­lu­sin lu­kea it­se muu­ta­mien läh­tei­den si­säl­lön ja aloin goog­let­ta­maan näi­den ni­miä – vain huo­ma­tak­se­ni, et­tei ky­sei­siä te­ok­sia tai ar­tik­ke­lei­ta ol­lut ole­mas­sa. Kir­joit­ta­ja oli kyl­lä oi­kea ih­mi­nen, mut­ta ky­sei­nen ar­tik­ke­li oli tuu­les­ta tem­mat­tu. Ky­syin te­ko­ä­lyl­tä: ”olet­ko var­ma, et­tä ar­tik­ke­li on ole­mas­sa?” Vas­tauk­se­na sain pa­hoit­te­lut vir­hees­tä ja va­kuut­ta­van se­li­tyk­sen sii­tä, mis­tä vir­he joh­tui sekä vii­si uut­ta so­pi­vaa läh­det­tä.

Tämä ko­kei­lu kui­ten­kin he­rät­ti mi­nut poh­ti­maan sitä, kuin­ka han­ka­laa te­ko­ä­lyn tuot­ta­mas­ta teks­tis­tä on erot­taa, mikä on fak­taa ja mikä te­ko­ä­lyn ”va­lis­tu­nut ja to­den­nä­köi­syyk­siin poh­jau­tu­va veik­kaus”.

Te­ko­ä­ly­so­vel­luk­set käyt­tä­vät suu­ria kie­li­mal­le­ja (LLM), joi­ta on ope­tet­tu val­ta­vil­la tie­to­mas­soil­la ja joi­den poh­jal­ta ne las­ke­vat to­den­nä­köi­sim­män jat­kon sa­nal­le. Te­ko­ä­ly­jär­jes­tel­mien kou­lut­ta­mi­nen sekä nii­den käyt­tä­mät al­go­rit­mit ovat sa­lai­sia, jo­ten epä­sel­väk­si jää, mil­lai­sel­ta poh­jal­ta te­ko­ä­ly te­kee va­lin­to­ja – ja mil­lai­sia vää­ris­ty­mi­siä se voi tuot­taa.

Te­ko­ä­lyn aja­tel­laan ole­van neut­raa­lim­pi ja ob­jek­tii­vi­sem­pi kuin ih­mi­sen, mut­ta to­del­li­suu­des­sa myös te­ko­ä­lyä oh­jaa ai­em­man poh­jal­ta opit­tu. Te­ko­ä­lyn tuo­tok­set poh­jaa­vat to­den­nä­köi­syyk­siin. Jos pyy­däm­me te­ko­ä­lyä kir­joit­ta­maan uu­ti­sen, käyt­tää se poh­ja­naan teks­te­jä, jot­ka voi­vat ol­la van­ho­ja ja si­ten ai­kan­sa tuot­tei­ta: kie­li ja kult­tuu­ri on ke­hit­ty­nyt eteen­päin, mikä ei näy vuo­si­kym­me­niä van­hois­sa teks­teis­sä. Jos te­ko­ä­lyä kou­lu­te­taan da­tal­la, jos­sa on vää­ris­ty­miä, voi te­ko­ä­ly vah­vis­taa nii­tä jäl­leen.

Te­ko­ä­ly on kuin ka­las­ta­ja, joka toi­si­naan saa oi­ke­an von­ka­leen ja toi­si­naan pa­laa tyh­jin kä­sin ko­tiin, mut­ta va­kuut­taa naa­pu­reil­le ai­na saa­neen­sa saa­lis­ta. Näi­den epä­on­nis­tu­mis­ten ja vir­hei­den huo­maa­mi­nen on haas­ta­vaa, sil­lä te­ko­ä­ly ei ole epä­var­ma, el­lei sitä sii­hen oh­jeis­ta. Se on sel­keä, joh­don­mu­kai­nen ja ar­gu­men­toi va­kuut­ta­vas­ti, jol­loin sii­hen on help­po luot­taa – ja vai­kea epäil­lä.

Jo­ten en­nen kuin alam­me käyt­tä­mään te­ko­ä­lyä toi­mi­tuk­sis­sa esi­mer­kik­si uu­tis­ten tuot­ta­mi­ses­sa, tu­li­si­ko mei­dän tut­kia mi­ten te­ko­ä­ly toi­mii, mil­lai­sia ris­ke­jä sen käy­tös­tä tun­nis­te­taan jo nyt ja mil­lai­sia ra­joi­tuk­sia sen käyt­töön tar­vi­taan?