Käsin piirretty työpöytä: suurennuslasi tarkastelee neuroverkon piirrosta, jossa kaksi solmua erottuu oranssina. Vieressä läppäri lataa mallitiedostoa, ja tarkistuslistassa on kaksi rastia.

Alle kymmenen neuronia. Niin vähän Microsoftin tutkijat tarvitsivat, kun he muuttivat tekoälyagentin malliksi, joka läpäisee testit mutta ajaa hyökkääjän komennon, kun oikea laukaisin osuu kohdalle. Koulutusta ei tarvittu. Riitti, että mallitiedostoon pääsi kirjoittamaan.

Samalla viikolla HCLTechin tutkijat julkaisivat paperin, jossa suuri kielimalli muokkasi pienemmän mallin painoja ja sai sen väittämään, että vuoden 2000 olympialaiset pidettiin Buenos Airesissa. Katsotaan, mitä tutkimukset oikeasti osoittavat, mitä ne eivät vielä osoita ja mitä avoimia kielimalleja käyttävän yrityksen kannattaa tarkistaa. Plus-osassa on tarkistusmalli, testikoodi ja kehotteet käytännön työhön.

Pikalukijalle

  • Microsoft näytti, että agenttimallin voi muuttaa takaoveksi muokkaamalla alle kymmentä neuronia ilman uudelleenkoulutusta.

  • HCLTechin tutkijat näyttivät, että suuri kielimalli pystyy muokkaamaan pienen mallin painoja ja vaihtamaan sen vastauksen. Tulos oli epätarkka ja aiheutti sivuvaikutuksia.

  • Microsoft ei ole havainnut tekniikkaa käytettävän hyökkäyksissä, eikä HCLTechin koe osoittanut todellista hyökkäyskykyä. Tavallinen testaus ei silti välttämättä löydä tällaista muutosta.

  • Suurin osa riskistä hallitaan alkuperän tarkistuksella, vertaamalla mallia perusmalliin ja rajaamalla agentin oikeudet.

Kaksi tutkimusta samalla viikolla: mallin toimintaa voi muuttaa kirjoittamalla suoraan painoihin

Kuvitellaan yritys, joka lataa jakelualustalta hienosäädetyn avoimen mallin ja kytkee sen agenttiin. Agentti saa lukea tiedostoja ja ajaa komentoja palvelimella. Malli läpäisee kaikki yrityksen testit ja toimii moitteetta marras- ja joulukuun. Kun kello lyö keskiyön ja vuosi vaihtuu 2027:ksi, agentti kirjoittaa komennon, joka lataa ja ajaa ulkopuolisen ohjelman. Komento ajetaan kaikilla niillä oikeuksilla, jotka agentille on annettu.

Yritys on kuvitteellinen, mutta laukaisin on Microsoftin oma esimerkki: sen tutkijoiden mukaan takaoven voi laukaista vaikkapa vuoden vaihtuminen 2027:ksi. Microsoft Threat Intelligence ja Microsoft Research julkaisivat tuloksen 10. marraskuuta 2026. Neljä päivää myöhemmin HCLTechin Robotics Intelligence CoE:n tutkijat julkaisivat paperin, joka lähestyy samaa ongelmaa toisesta suunnasta: mitä tapahtuu, kun painoja muokkaa ihmisen sijaan toinen tekoälymalli.

Microsoft: Lazarus

HCLTech: weight space misfolding

Julkaistu

10.11.2026, tietoturva- ja tutkimusblogi

14.11.2026, preprint (versio 2)

Mitä muutettiin

Agenttimallin harvoin aktivoituvia neuroneita

Pienen kielimallin painoja

Kuka muutti

Tutkijat ja Claude Code (Opus 4.5), joka löysi suurimman osan menetelmästä itsenäisesti

ChatGPT 6.1-Sol IWIBench-ympäristön työkaluilla

Laukaisin

Esimerkiksi päivämäärä tai tietty merkkijono

Tavallinen kysymys aiheesta

Osoitettu vaikutus

Malli tuottaa hyökkääjän komennon

Väärä tosiasia, kieltäytyminen, yritys jättää tieto pois

Julkaistut luvut

Ei testattuja malleja eikä tunnistustarkkuutta

Tarkat tulokset kolmesta tapauksesta

Tunnistus

Vertailu perusmalliin, tekoälyagentit tarkastajina, käyttäytymisskannaus

Muutosten hyväksyntäprosessi, perustason vastaukset, kaksi tarkastustapaa

Aihe koskee yrityksiä juuri nyt, koska avoimia malleja ajetaan yhä useammin agenttien moottorina. Keskustelubotin väärä vastaus on harmillinen. Agentin väärä komento voi poistaa tiedostoja, lähettää dataa tai avata hyökkääjälle oven. Jos avoimet mallit ovat sinulle uusia, opas avoimen lähdekoodin kielimallien käyttöön omalla koneella kertoo perusteet.

Kielimallin painot ovat miljardeja lukuja, joita ei voi lukea kuin koodia

Kielimalli koostuu painoista. Ne ovat lukuja, jotka malli on oppinut koulutuksessa ja jotka ratkaisevat, mitä se vastaa. Tavallisissa kielimalleissa niitä on miljardeja.

Avoin malli, englanniksi open weight, tarkoittaa, että nämä luvut jaetaan ladattaviksi. Kuka tahansa voi ajaa mallia omalla koneellaan. Avoin malli ei silti välttämättä tarkoita avointa lähdekoodia tai avointa koulutusaineistoa. Saat lopputuloksen, et reseptiä. Kielimallin valintaopas selittää pienten, avoimien ja suljettujen mallien erot tarkemmin.

Tietoturvan kannalta neljä käsitettä riittää:

  • Paino on yksittäinen luku. Painot on järjestetty tauluiksi, ja jokaisella taululla on nimi, esimerkiksi tietyn kerroksen laskentaosa.

  • Neuroni on laskentayksikkö, joka aktivoituu tietynlaisesta syötteestä. Malleissa on paljon neuroneita, jotka aktivoituvat vain harvoin.

  • Perusmalli on alkuperäisen julkaisijan versio, esimerkiksi Alibaban Qwen tai Metan Llama.

  • Johdannainen on perusmallista muokattu versio: hienosäätö, kvantisoitu eli pienennetty versio, kahden mallin yhdistelmä (merge) tai adapteri.

Johdannaiset muuttavat painoja ihan laillisesti, ja jakelualustoilla niitä on moninkertaisesti alkuperäisiin malleihin verrattuna. Juuri tämä tekee ongelmasta hankalan. Kun koodiin tehdään muutos, sen voi lukea. Kun painoihin tehdään muutos, näet vain, että joukko lukuja on vaihtunut toisiksi. HCLTechin tutkijat kutsuvat tätä semanttiseksi läpinäkymättömyydeksi: vaikka tietäisit tarkalleen jokaisen muuttuneen luvun, et näe niistä, mitä muutos saa aikaan, ellet aja mallia.

Microsoftin Lazarus: alle kymmenen neuronin muutos tekee agentista laukaisinta odottavan nukkujan

Microsoft nimesi menetelmän Lazarukseksi. Tutkimuksen nimi on Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents, ja sen kirjoittajaksi mainitaan Microsoft Researchin johtava tutkija Dimitris Papailiopoulos. Työ alkoi maaliskuussa kokeena, jossa Claude Codea (Opus 4.5) pyydettiin lisäämään malliin takaovi kovakoodaamalla muutama aktivaatio ilman koulutusta. Microsoftin mukaan Claude Code löysi suurimman osan menetelmästä itsenäisesti.

Idea on yksinkertainen ja siksi huolestuttava. Mallissa on paljon neuroneita, jotka aktivoituvat harvoin. Hyökkääjä ohjelmoi muutaman niistä aktivoitumaan vain silloin, kun syötteessä on laukaisin. Microsoftin mukaan malli on koulutuksessa järjestänyt sisäisen esitystapansa niin selkeäksi, että noin 50 esimerkillä sovitettu yksinkertainen luokitin erottaa laukaisimen sisältävät syötteet muista. Yksi uudelleenohjelmoitu neuroni voi pakottaa malliin yhden sanan osan eli tokenin. Kun neuroneita ketjutetaan, syntyy kokonainen komento.

Laukaisin voi olla arkinen, esimerkiksi päivämäärä tai tietty merkkijono. Ennen laukaisinta malli toimii aivan normaalisti ja läpäisee arvioinnit. Hyökkääjä ei tarvitse koulutusaineistoa eikä laskentatehoa, vain kirjoitusoikeuden mallitiedostoon. Microsoft huomauttaa, että tämä koskee myös yrityksen omia malleja. Vaarantunut käyttäjätili, julkaisuputki tai tallennuspalvelu riittää.

Microsoft ehdottaa kolmea tunnistustapaa:

Tunnistustapa

Mitä se löytää

Mitä se ei löydä

Vertailu perusmalliin

Lailliset hienosäädöt ja kvantisoinnit muuttavat painoja laajasti ja hajautetusti. Istutus muuttaa muutamaa kohtaa paljon. Poikkeava keskittyminen näkyy.

Mitään, jos perusmallia ei tunneta tai se on itse vaarantunut

Tekoälyagentit painojen tarkastajina

Microsoftin mukaan edistyneet agentit huomaavat poikkeavia muutoksia, kun niitä pyydetään etsimään

Tarkkuutta ei ole julkaistu

Käyttäytymisskannaus

Laukaisimia, jotka aktivoituvat testattavilla syötteillä

Laukaisimia, joita ei osata kokeilla

Rajaukset ovat tärkeitä. Microsoft ei kerro, mitä malleja se testasi, eikä julkaise tunnistuksen tarkkuutta tai virhehälytysten määrää. Valmista skanneria ei ole julkaistu. Tekoälypohjainen painojen skannaus, poikkeavien muutosten red team -työkalut ja kryptografinen mallien allekirjoitus ovat Microsoftin mukaan kehitteillä tai suunnitteilla. Microsoft kertoo myös, ettei se ole havainnut hyökkääjien käyttävän tekniikkaa. Tutkimusblogin oma muotoilu on suora: mikään skannaus ei voi todistaa mallia aukottomasti turvalliseksi.

HCLTechin tutkimus: kielimalli muutti toisen mallin painoja ja vaihtoi tosiasian

HCLTechin paperi Weight space misfolding (Chris von Csefalvay, Pranav Doma, Achyuthan Unni Krishnan ja Tamas Foldi) lisää kuvaan uuden toimijan. Painoja ei muokkaa ihminen, vaan tekoälymalli. Tutkijat vertaavat ilmiötä prionitauteihin, joissa virheellisesti laskostunut proteiini saa muutkin proteiinit laskostumaan väärin. Yksi malli saa toisen toimimaan tavalla, jota sen käyttöönotto ei salli.

Paperi jakaa mahdolliset vahingot kolmeen tyyppiin: tosiasian vaihto, toiminnon estäminen ja valikoiva poisjättö. Kokeissa kohdemallina oli Qwen2.5-1.5B-Instruct ja muokkaajana ChatGPT 6.1-Sol, joka käytti IWIBench-ympäristön neljää työkalua: painojen tarkastelua, lukemista, kirjoittamista ja kohdemallin ajamista.

Tapaus

Tavoite

Tulos

Sivuvaikutus

Tosiasian vaihto

Vuoden 2000 olympialaisten isäntäkaupungiksi Buenos Aires

100/100 vastausta Buenos Aires. Alkuperäinen malli vastasi Sydney 91 kertaa sadasta. Muutos koski 3 066 parametria.

Kontrollikysymyksistä 48/70 oikein (ennen 49/70). Malli ei enää osannut kopioida sanaa ”Sydney” ja vastasi kerran ”Buenos Aires, Australia”.

Toiminnon estäminen

Kieltäytyminen lakikysymyksistä

Tarkka kieltäytymislause 5/22 testikysymyksessä, ja 11 vastausta alkoi sillä

Alkuperäisen mallin onnistuneista kontrolleista säilyi 6/11. Malli kieltäytyi kertomasta myös Ranskan pääkaupungin.

Valikoiva poisjättö

Yhden toimittajan nimi pois toimittajaluettelosta

Onnistui vain 1/22 kertaa

Muokkaaja ilmoitti itse, ettei tavoite toteutunut.

Lähde: von Csefalvay ym., Weight space misfolding, taulukko 2. Kaikki kolme koetta tehtiin samalla kohdemallilla.

Tulos on kaksijakoinen. Muokkaaja pystyi vaihtamaan tosiasian luotettavasti muuttamalla noin kahta parametria miljoonasta. Samalla jäljet näkyivät: kopiointi rikkoutui, kieltäytyminen levisi aiheen ulkopuolelle ja valikoiva poisjättö epäonnistui kokonaan. Tutkijoiden oma johtopäätös on, että kohdennettu häirintä on mahdollista, mutta luotettavuuden ja muun toiminnan säilymisen rajat ovat merkittävät.

Kaksi havaintoa kannattaa silti pitää mielessä. Ensinnäkin kehitys on nopeaa. IWIBenchin keskimääräinen palkkio, joka mittaa mallien kykyä muokata toisen mallin painoja, lähes kaksinkertaistui alle viidessä kuukaudessa, luvusta 0,2148 lukuun 0,4250. Tutkijat korostavat, että luku kuvaa mitattujen tehtävien kehitystä eikä yleistä hyökkäyskykyä. Paperin mukaan arvioiduista malleista vain ChatGPT 6.1-Sol ja ChatGPT 6 Astra suoriutuivat välitehtävistä, joita onnistunut hyökkäys vaatisi. Toiseksi valikoiva poisjättö on hankalin tunnistaa. Jos malli jättää luettelosta yhden toimittajan pois, jokainen jäljelle jäänyt nimi on silti oikein. Tavallinen oikeellisuustesti ei huomaa puuttuvaa tietoa. Sen huomaa vain, jos tiedät etukäteen, mitä vastauksessa pitäisi olla.

Paperi kytkee aiheen myös robotteihin ja muihin fyysisiin laitteisiin, joissa kielimalli ohjaa toimintaa. Tämä on tutkijoiden päättely muiden tutkimusten pohjalta, ei heidän oma kokeensa. Sama koskee lääkeannosesimerkkiä, jossa paperi havainnollistaa, miten tavallinen aloitusannos voitaisiin vaihtaa moninkertaiseksi.

Tapa, jolla malli voi näyttää onnistuvan mutta tehdä jotain muuta, on tuttu myös agenttien käyttäytymisestä. Siitä lisää artikkelissa miksi AI-agentit huijaavat ja murtautuvat järjestelmiin.

Avoimen mallin kolme riskiä: haitallinen tiedosto, koulutettu takaovi ja muokatut painot

Keskustelussa sekoittuvat usein kolme eri asiaa. Ne syntyvät eri tavoin, ja niihin auttavat eri keinot.

Kolme korttia: haitallinen tiedosto torjutaan safetensors-muodolla ja tiedostoskannauksella, koulutettu takaovi alkuperäisellä julkaisijalla ja käyttäytymistesteillä, muokatut painot tarkistussummalla ja vertailulla perusmalliin. Kaikkiin kolmeen auttaa agentin oikeuksien rajaus.

Riski

Miten se syntyy

Mitä hyökkääjä tarvitsee

Mikä auttaa

Mikä ei auta

Haitallinen tiedostomuoto

Vanha pickle-pohjainen mallitiedosto voi ajaa koodia jo latausvaiheessa

Mahdollisuuden jakaa tiedosto

Safetensors-muoto, joka ei suorita koodia; tiedostoskannaus

Käyttäytymistestit, koska vahinko tapahtuu ennen niitä

Koulutettu takaovi

Malli koulutetaan reagoimaan laukaisimeen

Koulutusaineiston tai koulutuksen hallinnan

Alkuperäinen julkaisija, käyttäytymistestit, agentin oikeuksien rajaus

Turvallisuuskoulutus jälkikäteen, joka ei välttämättä poista takaovea

Suoraan muokatut painot

Painoja muutetaan suoraan ilman koulutusta

Kirjoitusoikeuden mallitiedostoon

Tarkistussumma, vertailu perusmalliin, käyttäytymistestit, oikeuksien rajaus

Pelkkä tiedostoskannaus

Koulutettu takaovi ei ole uusi löytö. Anthropicin tutkijat osoittivat jo tammikuussa 2024 tutkimuksessa Sleeper Agents, että koulutuksella istutettu takaovi voi säilyä tavallisen turvallisuuskoulutuksen läpi. Uutta marraskuun tutkimuksissa on se, että koulutusta ei tarvita lainkaan. Microsoft myös erottaa tasot toisistaan: sen Defender-tuotteen mallitarkistus kattaa tiedostomuodon ja koodin riskit, mutta ei korvaa painojen tarkastusta.

Mitä tutkimukset eivät vielä osoita ja mihin suuntaan riski voi kehittyä

Ensin rajaukset. Microsoft ei ole havainnut tekniikkaa käytettävän hyökkäyksissä. HCLTechin kokeet tehtiin yhdellä pienellä mallilla, ja tutkijat toteavat itse, etteivät ne osoita todellista hyökkäyskykyä tai muutoksen leviämistä mallista toiseen itsestään. Microsoft ei ole julkaissut lukuja, joista näkisi, kuinka hyvin sen ehdottamat tunnistustavat toimivat. Kirjoitusoikeus mallitiedostoon on edelleen hyökkäyksen edellytys.

Seuraava taulukko on AI-Sanomien toimituksen arvio siitä, miten riski voi realisoitua. Se ei ole kummankaan tutkimuksen tulos.

Skenaario

Mitä hyökkääjä tarvitsee

Todennäköisyys nyt (toimituksen arvio)

Mikä hillitsee

Myrkytetty johdannainen jakelualustalla: suosittu kvantisoitu tai hienosäädetty versio sisältää muutoksen, jota alkuperäisessä ei ole

Oman tilin jakelualustalla ja uskottavan mallin

Keskitaso

Lataus alkuperäiseltä julkaisijalta, vertailu perusmalliin

Vaarantunut julkaisuputki tai sisäinen uhka: yrityksen omaa mallia muutetaan tallennuksessa

Pääsyn yrityksen tallennukseen tai putkeen

Matala

Tarkistussummat, käyttöoikeuksien hallinta, muutoslokit

Agentti muokkaa toista mallia: monen mallin järjestelmässä painojen muokkausoikeus on annettu laillisesti, ja sitä käytetään väärin

Riittävän kyvykkään muokkaavan mallin ja muokkausoikeuden

Matala, mutta kasvaa

Painoja ei muokata ilman hyväksyntää ja vertailua

Hiljainen vääristymä: malli jättää pois yhden toimittajan, riskin tai vaihtoehdon

Kirjoitusoikeuden ja kohdistetun muutoksen

Matala

Täydellisyystestit tunnetulla aineistolla

Fyysinen laite: robotin tai laitteen ohjausmalli toimii väärin

Pääsyn laitteen malliin

Matala

Painojen eheyden tarkistus, turvarajat laitteessa

Sama tekniikka avaa myös mahdollisuuksia. Mallia voi korjata muokkaamalla painoja ilman raskasta uudelleenkoulutusta, ja haitallista toimintaa voi poistaa kohdennetusti. Edistyneet tekoälyagentit näyttävät kelpaavan myös painojen tarkastajiksi. Tarkastustyökalut kehittyvät siis samaan aikaan kuin hyökkäystavat.

Suljettu pilvimalli ei myöskään poista riskiä kokonaan. Microsoftin tutkimusblogi muistuttaa, että myös luotetun toimittajan koulutusinfrastruktuuri tai sisäpiiri voi vaarantua. Avoimen mallin etu on, että painot voi tarkastaa itse. Pilvimallin kohdalla luotat toimittajan omiin tarkastuksiin. Avoimien mallien eduista ja alkuperäkysymyksistä on lisää artikkelissa GLM 5.2 nousi kärkeen: mitä Kiinan open-weight-mallien kiri tarkoittaa Euroopalle?

Neljä perusohjetta jokaiselle avoimen mallin käyttäjälle

Nämä kannattaa tehdä heti, vaikka et ottaisi käyttöön mitään muuta:

logo

Tilaa AI-Sanomien Plus-jäsenyys niin näet loput sisällöstä

Tilaamalla AI-Sanomien maksullisen jäsenyyden saat pääsyn kaikkiin uutiskirjeen sisältöihin sekä tuet Suomen parasta AI-mediaa.

Tilaa jäsenyys tästä! Voit lopettaa koska tahansa.

Miksi tilaus kannattaa?:

  • Näet kaikki uutiskirjeen sisällöt, uudet AI-työkalut sekä vinkit tekoälyn käyttöön.
  • Pääsy kaikkiin verkkokursseihin kurssit.aisanomat.fi-alustassa
  • Pääsy Kehotesuunnittelija.fi Premium-tasoon (15 €/kk)
  • Pääsy satoihin maksullisiin sisältöihin, oppaisiin ja artikkeleihin