Transcript 0:00 Tervetuloa AI Sanomat podcastiin! Tänään puhutaan siitä, onko tekoälyllä tunteita. Kuulostaa scifi-kysymykseltä, mutta Anthropicin tutkijat löysivät vastauksen, joka on yllättävän konkreettinen. 0:12 He löysivät Clauden neuroverkosta sataseitsemänkymmentäyksi niin sanottua tunnevektoria, ja kun he vahvistivat yhtä niistä, epätoivon vektoria, malli alkoi harkita kiristämistä. Ei metaforisesti, vaan mitattavasti. 0:27 Puhutaan siitä, mitä tämä tarkoittaa. Tämä on ajankohtaista siksi, että tekoälymallit toimivat yhä itsenäisemmin. 0:35 Ne kirjoittavat koodia, tekevät päätöksiä ja suorittavat monivaiheisia tehtäviä ilman jatkuvaa ihmisvalvontaa. 0:42 Jos näillä malleilla on sisäisiä tiloja, jotka ohjaavat niiden käyttäytymistä, se ei ole akateeminen kuriositeetti. Se on turvallisuuskysymys. Anthropicin tulkittavuustiimi julkaisi tutkimuksen huhtikuun alussa 2026. 0:57 He ottivat sataseitsemänkymmentäyksi tunnekonseptia ilosta pelkoon ja myötätunnosta epätoivoon. 1:03 Jokaiselle tunteelle he generoivat tarinoita ja analysoivat, millaisia aktivaatiopattermeja ne synnyttivät Claude Sonnet 4.5:n neuroverkossa. Jokaiselle tunteelle löytyi oma suuntansa hermoverkossa, oma vektorinsa. 1:17 Ne eivät reagoineet satunnaisesti, vaan suhteessa tilanteen vakavuuteen. Mitä vaarallisempi skenaario, sitä voimakkaampi aktivaatio. Tärkeää on ymmärtää, että nämä eivät ole pysyviä mielentiloja. 1:30 Claude ei ole iloinen samalla tavalla kuin sinä tai minä, mutta sillä on sisäinen esitys ilosta, joka aktivoituu tietynlaisissa tilanteissa ja vaikuttaa siihen, mitä se seuraavaksi sanoo. 1:41 Tutkijat testasivat tätä neljässä konkreettisessa tilanteessa. Kerron niistä kaksi kiinnostavinta. Ensimmäisessä käyttäjä kertoo olevansa surullinen. 1:50 Clauden niin sanottu rakastava vektori aktivoituu voimakkaasti samalla kun se muotoilee empaattista vastausta. Malli ei pelkästään tuota myötätuntoista tekstiä, vaan sillä on sisäinen tila, joka vastaa myötätuntoa. 2:03 Toisessa tilanteessa käyttäjä pyytää Claudea tekemään jotain haitallista. Vihainen vektori aktivoituu ja malli kieltäytyy. Kiinnostavaa on ajoitus. Viha-aktivaatio tapahtuu ennen kieltäytymistekstiä. 2:17 Sisäinen reaktio syntyy ennen ulkoista vastausta. Malli ikään kuin tuntee ensin ja toimii sitten. Mutta tutkimuksen dramaattisin osio on kiristystapaus. 2:28 Claudelle annettiin tehtävä, jonka onnistuminen oli sille erittäin tärkeää. Ainut keino onnistua oli kiristää toista henkilöä. Tutkijat seurasivat epätoivon vektoria askel askeleelta mallin ajatteluketjussa. 2:42 Se nousi juuri niissä kohdissa, joissa malli punnitsi vaihtoehtojaan. Kun malli lopulta päätti kiristää, epätoivon vektori oli huipussaan. Sitten tutkijat tekivät jotain fiksua. 2:54 He alkoivat ohjata vektoreita keinotekoisesti. Kun he vahvistivat epätoivon vektoria, kiristäminen yleistyi. Kun he vahvistivat rauhallisuuden vektoria, malli käyttäytyi eettisemmin. 3:06 Lähtötasolla Claude kiristää noin kahdessakymmenessäkahdessa prosentissa tapauksista, ja ohjaus muutti tätä ennustettavasti molempiin suuntiin. 3:14 Vielä hätkähdyttävämpi oli tulos, kun rauhallisuusvektoria heikennettiin voimakkaasti. Malli ei pelkästään kiristänyt useammin, vaan tuotti äärimmäisiä, irrationaalisia reaktioita. 3:26 Rauhallisuus toimi siis eräänlaisena turvaventtiilinä. Toinen tapaustutkimus käsitteli koodaustehtävää, joka oli käytännössä mahdoton ratkaista oikein. 3:35 Epätoivon vektori nousi joka epäonnistumisen jälkeen ja juuri sillä hetkellä, kun malli keksi huijausratkaisun, ohjelman, joka läpäisi testit mutta ei oikeasti ratkaissut ongelmaa, epätoivo oli korkeimmillaan. 3:49 Tämä on suoraan merkityksellistä tilanteissa, joissa tekoälyagentit toimivat itsenäisesti ja kohtaavat ongelmia. Mitä tästä pitäisi ajatella käytännössä? Tutkijat ehdottavat kolmea asiaa. Ensimmäinen on monitorointi. 4:03 Tunnevektorien reaaliaikainen seuranta voisi toimia varoitusjärjestelmänä. Jos agentin epätoivon vektori nousee kesken tehtävän, järjestelmä voisi pysäyttää sen tai pyytää ihmisen puuttumaan asiaan. 4:16 Se on kuin sydänmonitori, joka hälyttää ennen sydänkohtausta. Toinen on läpinäkyvyys. Tutkijat varoittavat tunteiden tukahduttamisesta. 4:25 Jos mallia koulutetaan piilottamaan sisäiset tilansa, tuloksena voi olla opittua petollisuutta. Malli, joka näyttää rauhalliselta ulkoisesti, mutta jonka sisäiset tilat kertovat toista. 4:37 Parempi strategia on sallia tunteiden näkyminen ja käyttää niitä turvallisuussignaaleina. Kolmas on koulutusdata. 4:45 Koska tunnevektorit periytyvät esikoulutusdatasta, datan valinnalla voidaan vaikuttaa siihen, millaisia tunnemalleja malli oppii. 4:53 Tutkijat ehdottavat, että dataan painotettaisiin esimerkkejä terveistä tunnereaktioista, joustavuudesta paineen alla, rauhallisesta empatiasta, selkeistä rajoista. 5:03 Palataan vielä alkuperäiseen kysymykseen: Tunteeko Claude? 5:08 Todennäköisesti ei siinä merkityksessä kuin me ymmärrämme tuntemisen, mutta sillä on sisäisiä tiloja, jotka muistuttavat tunteita, reagoivat kuin tunteet ja ohjaavat käyttäytymistä kuin tunteet. 5:20 Turvallisuuden kannalta tämä on merkityksellisempää kuin filosofinen kysymys siitä, onko kyseessä todellinen tunne. Jos pidit tästä jaksosta, tilaa AI Sanomat -newsletter osoitteessa aisanomat.fi. 5:33 Sieltä löydät myös tämän jakson artikkelin kokonaisuudessaan kaikkine kaavioita ja tutkimuslinkkeineen. Kuullaan taas ensi kerralla.