Tarkistettu viimeksi 12.8.2026. Oppaan ohjelmisto- ja mallisuositukset muuttuvat nopeasti. Jos löydät epäloogisuuksia, laita viestiä!

Vuonna 2025 paikallinen kielimalli tarkoitti useimmille pientä chat-ikkunaa, hidasta vastausta ja pitkää asennusiltaa. Nyt muutaman miljardin parametrin mallit käsittelevät tekstiä, kuvia ja joissakin tapauksissa ääntäkin tavallisella kannettavalla. Osa sovelluksista arvioi, sopiiko mallipaketti koneen muistiin, ja paikallisen rajapinnan voi käynnistää parilla napsautuksella.

Silti yksi virhe pilaa helposti koko kokeilun: käyttäjä lataa liian suuren tai vääränlaisen mallin ja päättelee, ettei paikallinen tekoäly toimi. Tässä oppaassa valitset ensin ohjelman, sitten koneen muistiin sopivan mallin. Mukana ovat LM Studio, Ollama, Bionic, Jan, GPT4All, Open WebUI, AnythingLLM ja llama.cpp sekä käytännön ohjeet Windowsille, Macille ja Linuxille.

Näitä kolmea sanaa käytetään usein ristiin. Ne kuvaavat kuitenkin eri asioita.

Open Source Initiativen Open Source AI Definition 1.0 vaatii painojen lisäksi riittävät tiedot harjoitusdatasta sekä koulutus- ja ajokoodin. Useimmat arkikielessä avoimiksi kutsutut mallit ovat täsmällisemmin avoimien painojen malleja.

Tällä erolla on väliä varsinkin yrityskäytössä. Mallin lataaminen ei vielä kerro, saako sitä muokata, jakaa eteenpäin, käyttää kaupallisesti tai tarjota asiakkaiden käytettäväksi. Tarkista lisenssi aina täsmällisen mallin ja version mallikortista.

Paikallisuus on silti aito etu. Kun koko tietopolku pysyy omassa ympäristössä, kehotteita ja dokumentteja ei tarvitse lähettää ulkoisen kielimallipalvelun käsiteltäväksi. Saat myös lukittua malliversion ja käytät sitä ilman token-kohtaista hintaa. Vastineeksi vastaat itse laitteesta, päivityksistä, varmistuksista, käyttöoikeuksista ja mallin laadun testaamisesta.

Jos termit parametri, token, embedding ja RAG ovat vielä vieraita, 20 AI-käsitteen sanasto antaa niihin nopean pohjan.

Paikalliseen käyttöön tarvitaan kaksi asiaa:

Joissakin tuotteissa molemmat tulevat samassa paketissa. Toisissa Ollaman tai llama.cpp:n kaltainen ajomoottori toimii taustalla ja Open WebUI:n kaltainen käyttöliittymä sen päällä.

Ensimmäinen taulukko auttaa valitsemaan asennustavan. ”Sisäänrakennettu” tarkoittaa, ettei erillistä Ollamaa tai muuta mallipalvelinta tarvita ensimmäiseen keskusteluun.

Toinen taulukko erottaa rajapinnat, aineistot ja lisenssit. Multimodaalisuus toimii vain, jos valittu malli ja kyseinen käyttöliittymä tukevat samaa syötettä.

Opi käyttämään paikallisia kielimalleja AI-Sanomien verkkokurssin avulla: https://kurssit.aisanomat.fi/kurssit/paikalliset-avoimet-kielimallit

NPU ei ole näiden yleisten työpöytätyökalujen yhteinen, vaihdettava kiihdytysrajapinta. Jos tavoite on nimenomaan Intelin, AMD:n tai Qualcommin NPU, tarkista Foundry Localin, Docker Model Runnerin tai laitevalmistajan nykyinen mallikohtainen tuki ennen laitehankintaa.

Yksi taulukko ei tee työkalujen eroja täysin oikeudenmukaisiksi. LM Studio ja Jan ovat ensisijaisesti työpöytäsovelluksia. Ollama ja llama.cpp ovat erityisen luontevia ajomoottoreita. Open WebUI ja AnythingLLM lisäävät niiden päälle käyttäjät, dokumenttihaun ja työtilat. Bionic taas lisää mallille agentin työkalut.

LM Studio Bionic -oppaassa käydään läpi Work- ja Code-projektit, paikallisen mallin valinta sekä Bionicin paikallisen ja pilvikäytön ero.

Paikallisten mallien kenttä ei lopu edelliseen kahdeksaan työkaluun. Nämä ovat hyödyllisiä, kun tarve on tarkempi:

Käyttöliittymän suosio ei ratkaise yrityskäyttöön sopivuutta. Tarkista ylläpidon aktiivisuus, autentikointi, tietoturvapäivitykset, mallipalvelimen näkyvyys ja lisenssi juuri siitä versiosta, jonka aiot ottaa käyttöön.

Mallin painojen teoreettisen koon voi arvioida näin:

parametrit miljardeina × bittiä per paino ÷ 8 ≈ gigatavua

Seitsemän miljardin parametrin malli vie tällä kaavalla noin 14 gigatavua 16-bittisenä, seitsemän gigatavua 8-bittisenä ja 3,5 gigatavua 4-bittisenä. Todellinen muistitarve on suurempi. Ajomoottori, käyttöjärjestelmä, laskentapuskurit ja keskustelun KV-välimuisti tarvitsevat oman osuutensa.

Nämä ovat aloitusalueita, eivät takuita. Malli voi mahtua muistiin ja silti olla liian hidas. Pitkä konteksti voi nostaa muistinkulutusta niin paljon, ettei sama malli enää toimi. Asiantuntijaseosmallissa vain osa parametreista aktivoituu kerrallaan, mutta kaikki painot pitää silti yleensä mahduttaa muistiin tai jakaa laitteille.

Taulukon muistiluku tarkoittaa Apple Siliconilla yhdistettyä muistia ja PC:llä ensisijaisesti täyden GPU-ajon käytettävissä olevaa VRAMia. Windows- tai Linux-koneen RAMia ja VRAMia ei pidä laskea yhdeksi samanarvoiseksi suorituskykyluvuksi. Mallin kerroksia voi siirtää RAMiin, mutta ajo yleensä hidastuu. Esimerkiksi 16 Gt RAM + 8 Gt VRAM ei vastaa 24 Gt:n yhdistettyä muistia.

Googlen 8.7.2026 päivittämä Gemma 4 -muistitaulukko arvioi Q4_0-mallin latausmuistiksi 20 prosentin lisällä noin 2,9 Gt E2B-mallille, 4,5 Gt E4B-mallille, 6,7 Gt 12B-mallille, 14,4 Gt 26B-A4B-mallille ja 17,5 Gt 31B-mallille. Luvut eivät sisällä kehotetta, KV-välimuistia eivätkä käyttöliittymän muuta kulutusta.

Apple Silicon käyttää yhdistettyä muistia. CPU ja GPU jakavat saman muistialueen, joten 32 gigatavun Macissa ei ole erillistä 32 gigatavun VRAM-muistia. Käyttöjärjestelmä ja muut sovellukset tarvitsevat osansa. MLX-muoto voi tarjota Applen laitteilla hyvän suorituskyvyn, mutta GGUF on usein yhteensopivampi eri ohjelmien välillä.

LM Studio tukee dokumentaationsa mukaan Apple Silicon -Maceja macOS 14:stä alkaen ja suosittelee vähintään 16 gigatavua muistia. Kahdeksalla gigatavulla kannattaa pitäytyä pienissä malleissa ja lyhyessä kontekstissa. Intel-Maceja LM Studio ei tällä hetkellä tue.

NVIDIA on tavallisesti helpoin erillisnäytönohjaimen valinta laajan CUDA-tuen vuoksi. AMD:n tuki on parantunut ROCm-, HIP- ja Vulkan-polkujen kautta, mutta yhteensopivuus riippuu käyttöjärjestelmästä, näytönohjaimesta ja ajomoottorista. Intelin GPU- ja NPU-tuki kehittyy sekin nopeasti.

llama.cpp tukee muun muassa CUDAa NVIDIA-korteille, HIPiä AMD:lle, Metalia Apple Siliconille, Vulkania useille GPU:ille sekä SYCL:iä Intelin laitteille. Jos käyttöliittymä ei tunnista näytönohjainta, tarkista ensin sen käyttämä taustamoottori ja backend. Älä osta uutta näytönohjainta vain parametriluvun perusteella.

Mallia ladatessa vastaan tulee kirjainyhdistelmiä kuten Q4_K_M, Q5_K_M, GGUF ja MLX. Niitä ei tarvitse opetella ulkoa.

Kvantisointi tallentaa painot pienemmällä numeerisella tarkkuudella. Se pienentää tiedostoa ja muistitarvetta, usein myös nopeuttaa käyttöä. Samalla osa laadusta voi kadota.

Käytännön lähtökohdat:

Q4_K_M on llama.cpp-maailman yleinen 4-bittinen kompromissi. Mallin julkaisija voi tarjota myös uudempia kvantisointimenetelmiä. Sovelluksen suosittelema versio on aloittelijalle turvallisempi valinta kuin satunnainen pienin tiedosto.

GGUF on llama.cpp-ekosysteemin mallimuoto. Sitä tukevat muun muassa llama.cpp, LM Studio, GPT4All ja monet muut paikalliset työkalut. Tiedosto voi sisältää painojen lisäksi mallin käyttöön tarvittavaa metadataa ja chat-pohjan.

Valitse GGUF, kun haluat laajan yhteensopivuuden tai CPU:n ja GPU:n yhdistelmäajon.

MLX on Applen koneoppimiskehys Apple Siliconille. MLX-mallit voivat olla Macilla nopeita ja muistitehokkaita, mutta samaa pakettia ei siirretä suoraan Windows-koneelle.

Valitse MLX, kun käytät tuettua Apple Silicon -Macia ja sovellus suosittelee sitä.

Konteksti on mallin kerralla käsittelemä tekstimäärä. Mallikortin 128 000 tai 256 000 tokenin enimmäisluku ei tarkoita, että se olisi paikallisella koneella järkevä oletusasetus.

Pitkä konteksti:

Aloita 4 096 tai 8 192 tokenista. Nosta määrää vasta, kun tehtävä oikeasti vaatii sitä ja muisti riittää. Ollaman 12.8.2026 tarkistettu ohje ilmoittaa VRAM-pohjaisiksi oletuksiksi alle 24 GiB:n GPU:lla 4 096, vähintään 24 mutta alle 48 GiB:llä 32 768 ja vähintään 48 GiB:llä 262 144 tokenia. Pitkä oletus ei silti tarkoita, että jokainen malli tai tehtävä hyötyisi siitä. Asetusta voi muuttaa sovelluksen liukusäätimellä tai OLLAMA_CONTEXT_LENGTH-ympäristömuuttujalla. Tarkista todellinen varaus ollama ps -komennolla.

Yhtä parasta paikallista mallia ei ole. Suomen kieli, koodi, kuvat, työkalukutsut, nopeus ja lisenssi painottuvat eri tavoin. Mallien julkaisijoiden omat vertailutulokset eivät myöskään korvaa omaa testiä.

Gemma 4:n mallikortti ilmoittaa Apache 2.0 -lisenssin, viisi kokoluokkaa, jopa 256 000 tokenin kontekstin ja yli 140 koulutuskieltä. Qwen3.5:n 0,8B-, 2B-, 4B- ja 9B-mallit on julkaistu Apache 2.0 -lisenssillä. Sama lisenssi koskee Qwen3.6:n 27B- ja 35B-A3B-malleja. Ministral 3:n 3B-, 8B- ja 14B-mallit tarjoavat toisen paikallisille laitteille tarkoitetun Apache 2.0 -lisensoidun kokoluokan. OpenAI:n gpt-oss 20B on sekin Apache 2.0 -lisensoitu avoimien painojen malli. Sen MXFP4-versio on suunniteltu mahtumaan noin 16 gigatavuun muistia.

Jos tarjoat mallia asiakkaalle, jaat muokatun version tai rakennat siitä maksullisen palvelun, tarkista lisäksi attribuutio, NOTICE-tiedostot, hyväksyttävän käytön ehdot, tavaramerkkiehdot ja johdannaisten lisenssi. Juridisesti ratkaiseva teksti on lisenssi, ei blogikirjoituksen taulukko.

Malli kannattaa arvioida juuri siinä muodossa, jossa aiot käyttää sitä. 4-bittisen GGUF-version tulos voi poiketa julkaisijan BF16-tarkkuudella tekemästä vertailusta. Samoin sovelluksen chat-pohja, päättelytila ja järjestelmäkehote voivat muuttaa laatua.

Jos haluat vertailla mallia laajemmin kuin latauskoon perusteella, lue Gemma 4 -opas, GLM 5.2:n open-weight-analyysi ja miksi tekoäly hallusinoi.

Sama malli ei käyttäydy identtisesti kaikilla koneilla. Ajomoottori voi käyttää eri laskentataustaa, ja mallipakettien saatavuus vaihtelee.

Ensimmäinen turvallinen tavoite on sama kaikilla alustoilla: yksi pieni, nimetty mallipaketti käyntiin ilman työkaluja tai verkkohakua. Lisää GPU-optimointi, dokumenttihaku ja agenttioikeudet vasta tämän jälkeen.

LM Studio sopii ensimmäiseen kokeiluun, koska ohjelma näyttää mallin latauskoon, kvantisoinnin ja arvion siitä, sopiiko tiedosto omalle koneelle.

Kysy sama tehtävä kolmella tavalla:

Tarkkaile vastausta, ensimmäisen tokenin viivettä ja kokonaisnopeutta. Kokeile vasta sitten suurempaa mallia tai pidempää kontekstia.

Lataa malli, sulje sovellus ja katkaise verkkoyhteys. Käynnistä LM Studio uudelleen ja testaa sama keskustelu. LM Studio kertoo voivansa toimia kokonaan offline-tilassa, kun mallitiedostot on ladattu etukäteen.

LM Studion tietosuojaselosteen mukaan paikalliset keskustelut, dokumentit ja keskusteluhistoria pysyvät laitteella. Mallihaku, lataukset, päivitystarkistukset, verkkohaku ja pilvimallit käyttävät verkkoa. Tarkista siis toiminto kerrallaan, älä pelkkää sovelluksen nimeä.

Ollama toimii Windowsissa, macOS:ssä ja Linuxissa. Nykyinen pikakäynnistys avaa komentoriviltä vuorovaikutteisen valikon, mutta perinteiset komennot toimivat edelleen.

Asenna Ollama viralliselta lataussivulta. Älä aloita pelkällä malliperheen nimellä, jos koneen muisti on tiukilla: esimerkiksi gemma4 tarkoittaa tällä hetkellä gemma4:latest-tagia eli noin 9,6 gigatavun E4B-pakettia. Ollama ei vaihda sitä automaattisesti pienempään malliin.

Valitse tagi latauskoon perusteella. Esimerkiksi:

Koot ovat Ollaman kirjaston 12.8.2026 tilanteesta. Tarkista tagisivulta latauskoko ennen komentoa, sillä oletustagit ja paketit voivat muuttua. Ollama lataa nimetyn paketin ja avaa keskustelun. Lopeta komennolla /bye.

PROCESSOR-sarake kertoo, onko malli kokonaan GPU:lla, kokonaan CPU:lla vai jaettu niiden välille. Jos malli valuu suurelta osin CPU-muistiin, vastaus yleensä hidastuu.

Ollama tarjoaa myös OpenAI-yhteensopivan rajapinnan, joten moni sovellus voidaan osoittaa paikalliseen palvelimeen ilman kokonaan uutta integraatiota.

Ollama kertoo, ettei se näe paikallisesti ajettujen mallien kehotteita tai vastauksia. Pilvimallit ja verkkohaku ovat silti erillisiä verkko-ominaisuuksia. Ne voi poistaa käytöstä asetustiedostossa:

Tallenna asetus tiedostoon ~/.ollama/server.json ja käynnistä Ollama uudelleen. Vaihtoehtoinen ympäristömuuttuja on OLLAMA_NO_CLOUD=1.

Ollama kuuntelee oletuksena vain paikallista osoitetta 127.0.0.1:11434. Älä vaihda osoitteeksi 0.0.0.0 tai avaa porttia internetiin ilman tunnistautumista, TLS-suojausta, palomuuria ja selkeää tarvetta.

Tavallinen paikallinen chat vastaa kysymyksiin. Agentti saa lisäksi työkaluja tiedostojen lukemiseen, muokkaamiseen ja komentojen ajamiseen.

LM Studio Bionic tarjoaa kaksi projektityyppiä:

Ensimmäinen käynnistys:

Bionic voi käyttää paikallista mallia, toisella omalla laitteella toimivaa LM Link -mallia tai LM Studion pilvimallia. Sovellus ei siis ole automaattisesti paikallinen. Tarkista istunnon mallivalikosta ajopaikka ennen arkaluonteisen aineiston avaamista. Tässä oppaassa tiedot on tarkistettu Bionic 1.0.7 -julkaisuun asti; ominaisuudet muuttuvat nopeasti.

Turvallinen ensimmäinen testi:

Paikallinen malli pienentää datan siirtymiseen liittyvää riskiä. Se ei tee agentin tiedostomuutoksista turvallisia. Käyttöoikeudet, työkalut ja ihmisen hyväksyntä ratkaisevat edelleen.

Valintakortin jokaisesta vaihtoehdosta pääsee ensimmäiseen toimivaan kokeiluun näin:

Kun haluat kysyä omista PDF-tiedostoista, et tavallisesti kouluta mallia uudelleen. Käytä RAG-menetelmää eli haulla täydennettyä generointia:

GPT4All LocalDocs, AnythingLLM, Open WebUI ja monet muut työkalut toteuttavat tämän eri tavoin. Tarkista, onko myös upotusmalli paikallinen. Muuten itse kielimalli voi toimia omalla koneella, mutta dokumenttien katkelmat lähtevät ulkoiseen upotuspalveluun.

Hyvä dokumenttihaku näyttää lähteet. Jos vastausta ei löydy aineistosta, järjestelmän pitää pystyä sanomaan se. Testaa myös taulukot, skannatut PDF:t, otsikkorakenne ja suomenkieliset taivutusmuodot.

RAG ei poista prompt injection -riskiä. Ulkopuolinen PDF tai verkkosivu voi sisältää mallille kirjoitettuja piilotettuja ohjeita. OWASP nostaa prompt injectionin generatiivisten sovellusten keskeiseksi riskiksi. Pidä haettu sisältö epäluotettavana datana, älä anna dokumenttichatille tarpeettomia tiedosto- tai verkkotyökaluja ja vaadi ihmiseltä hyväksyntä seurauksia aiheuttaviin toimintoihin.

Nollasäilytys eli zero data retention ei tarkoita paikallista käsittelyä. Pilvipalvelu voi käsitellä aineiston palvelimellaan tallentamatta sitä pitkäksi aikaa.

Paikallinen käyttö siirtää vastuuta pilvipalvelulta sinulle. Tee ainakin nämä:

Hugging Facen safetensors-muoto on suunniteltu tallentamaan tensorit ilman pickle-muodon mielivaltaisen koodin suoritusriskiä. GGUF-tiedosto ei sekään tee epäluotettavasta mallista luotettavaa, mutta sen lataaminen llama.cpp:n kaltaisella rajatulla ajomoottorilla on aloittelijalle turvallisempi polku kuin satunnaisen Python-repositorion trust_remote_code=True-ohjeen suorittaminen.

Agenttien käyttöoikeuksia ja työkaluriskejä käsitellään laajemmin AI-agenttien turvallisuusoppaassa. Paikallisten selainagenttien oppaassa näet, miten paikallinen malli ja selaimen laajat oikeudet yhdistyvät käytännössä.

Mallikortin vertailutulos ei kerro, kirjoittaako malli hyvää suomea tai löytääkö se juuri sinun sopimuksestasi oikean irtisanomisajan.

Tee 30 tehtävän testi:

Lukitse malliversio, kvantisointi, kontekstiasetus, järjestelmäkehote ja ajomoottori. Arvioi tehtävän onnistuminen, ydinfaktat, suomen kieli, vaadittu muoto ja kyky myöntää epävarmuus. Mittaa lisäksi muistihuippu ja vastausnopeus.

Älä vaihda suurempaan malliin vain siksi, että se on suurempi. Vaihda, kun se korjaa testissä toistuvan ja tärkeän virheen hyväksyttävällä nopeudella.

Tarkista myös itse arviointimenetelmä. AI-vastausten luotettavuusopas auttaa erottamaan hyvänkuuloisen vastauksen todennetusta vastauksesta.

Todennäköisin syy on muistin loppuminen.

Tarkista, päätyikö malli GPU:lle. Ollamassa käytä ollama ps -komentoa. LM Studiossa tarkista GPU:lle siirrettyjen kerrosten määrä ja käytössä oleva ajomoottori. Pienennä mallia tai kontekstia. Apple Siliconilla kokeile sovelluksen suosittelemaa MLX-versiota.

Kokeile toista malliperhettä, suurempaa mallia tai paremmin ohjeita noudattavaa Instruct- tai IT-versiota. Anna yksi hyvä suomenkielinen tyyliesimerkki. Testaa erikseen yhdyssanat, taivutus, numerot ja haluttu rekisteri. Pohjoismaisiin kieliin koulutettu malli ei automaattisesti ole hyvä chat-malli, jos kyseessä on hienosäätämätön perusmalli.

Varmista, että sovellus käyttää oikeaa chat-pohjaa. Käytä Instruct- tai IT-versiota. Palauta lämpötila mallikortin suositukseen. Aloita uusi keskustelu, jos vanha historia sisältää virheellisiä ohjeita.

Älä kasvata kontekstia ensimmäisenä. Tarkista ensin PDF:n tekstintunnistus, pilkkominen, hakutulokset ja lähdeviitteet. Pyydä järjestelmää näyttämään vastauksen tukena käytetyt katkelmat.

Paikallinen laskenta käyttää konetta oikeasti. Valitse pienempi malli, rajoita vastauspituutta ja käytä verkkovirtaa. Pitkä päättelytila voi viedä moninkertaisesti aikaa tavalliseen vastaukseen verrattuna.

Älä osta uutta konetta ennen ensimmäistä testiä. Lataa LM Studio tai Ollama, valitse koneelle suositeltu Q4-malli ja tee 30 omaa tehtävää. Sen jälkeen tiedät, tarvitsetko enemmän muistia, vahvemman mallin vai vain paremman hakumenetelmän.

Hyvä paikallinen kokoonpano on pienin ratkaisu, joka tuottaa oman työn hyväksyttävän tuloksen, pitää tietopolun sallituissa rajoissa ja toimii riittävän nopeasti joka päivä.

Jos haluat rakentaa tästä yritystason ratkaisun, jatka paikallisten kielimallien käytännön kurssille. Kurssi käsittelee laitevalintaa, suomenkielistä mallitestiä, RAG-ratkaisua ja tietoturvaa vaihe vaiheelta.

Lisää tekoälyoppaita ja -uutisia: aisanomat.fi