Valfi Logo
EN
Tekoäly
TekoälyagentitPaikallinen tekoälyRAG-ratkaisutTekoälykonsultointiTekoälykoulutus
IT-palvelut
IT-konsultointi ja -strategiaIT-ulkoistusUlkoistettu IT-johtajaPilvipalvelutOhjelmistokehitys ja integraatiot
Tietoturva
TietoturvakartoitusTekoälyn tietoturvaTietoturvakoulutusGDPR ja tietosuoja
Ratkaisut
KävijälaskuriTiedolla johtaminenMicrosoft 365 -varmuuskopiointi
Meistä
ReferenssitTietoa meistäValtteri KujalaBlogi
Yhteys

Etusivu/Tekoäly/Paikallinen tekoäly omalla palvelimella

Paikallinen tekoäly omalla palvelimella – yrityksen data pysyy omissa käsissä

Paikallinen tekoäly tarkoittaa, että avoimen lähdekoodin kielimalli ajetaan yrityksen omalla palvelimella tai VPS:llä. Kysymykset, tiedostot ja kehotteet käsitellään teidän hallitsemassanne ympäristössä, eikä data siirry julkisen mallin opetukseen. Valfi pystyttää itse hostatun kielimallin suomalaiselle pk-yritykselle, kytkee sen tarvittaessa omiin järjestelmiinne ja ylläpitää sen etänä Oulusta.

Mitä teemme. Määrittelemme tarvittavan tehon, asennamme mallin teidän palvelimellenne tai VPS:llenne, kytkemme käytön ja pidämme ympäristön ajan tasalla.

Pienet työasema- ja palvelinkoneet puisella hyllyllä, kaapelit siististi sidottuina

Mitä omalla palvelimella ajaminen tarkoittaa käytännössä?

Malli asennetaan koneeseen, jonka te omistatte tai vuokraatte. Käyttäjä kirjoittaa kehotteen samalla tavalla kuin julkisessa chatissa, mutta pyyntö ei lähde ulkopuoliseen palveluun. Vastaus syntyy teidän ympäristössänne.

Tämä on oma tekoäly yritykselle siinä mielessä, että te päätätte kuka pääsee käyttämään, mitä aineistoa malli näkee ja milloin ympäristö sammutetaan. Se ei tarkoita, että teidän pitäisi kouluttaa malli alusta. Käytämme valmiita avoimen lähdekoodin malleja ja rajaamme ne teidän käyttöönne.

Yhteys voidaan avata vain sisäverkkoon tai hallitusti etäyhteydellä. Julkinen internet ei ole oletus.

Milloin oma VPS on perusteltu valinta?

Oma palvelin kannattaa, kun käsiteltävä aineisto on sellaista, jota ette antaisi ulkopuoliselle chatille: liikesalaisuudet, asiakasrekisterit, sopimukset, potilas- tai muu säädelty tieto, tarjouslaskenta tai keskeneräinen tuotekehitys.

Se kannattaa myös, jos politiikkana on pitää henkilötiedot EU:ssa ja omassa hallinnassa, tai jos julkisen palvelun käyttöehdot eivät kestä tarkastelua. Tekoälyn tietoturva on tällöin osa samaa päätöstä, ei erillinen lisä.

Oma VPS ei ole perusteltu, jos tarve on satunnainen ideointi julkisella mallilla. Silloin lisenssi ja pelisäännöt riittävät, ja raha kannattaa käyttää tekoälykoulutukseen tai yhteen rajattuun toteutukseen.

Mitä Valfi ei tee

Emme myy pelkkiä laitteita emmekä tee huoltokäyntejä paikan päällä — ei tulostimien korjausta, ei verkkokaapelointia, ei laitteiden fyysistä asennusta. Työmme tehdään etänä. Laitehankinnoissa autamme määrittelyssä ja kilpailutuksessa, ja ohjaamme luotettavalle laitetoimittajalle tai kumppaniverkostomme kautta.

Usein kysyttyä

Kysymyksiä ja vastauksia

Tarvitaanko omaa konesalia?
Ei. Useimmille pk-yrityksille riittää yksi VPS tai kompakti kone, jonka te omistatte tai vuokraatte. Valfi määrittelee tehon, pystyttää mallin ja hoitaa ylläpidon etänä. Fyysistä konesalia tai omaa IT-osastoa ei tarvita.
Onko paikallinen malli yhtä hyvä kuin ChatGPT?
Yleisessä kirjoittamisessa julkinen huippumalli on usein sujuvampi. Paikallisen mallin etu on toinen: se käsittelee teidän aineistonne ilman että data lähtee talosta. Monessa yrityskäytössä se riittää, etenkin kun alle liitetään omat dokumentit.
Kuka omistaa ympäristön?
Te. Tunnukset, levy ja malli ovat teidän hallinnassanne. Valfi ylläpitää niitä sopimuksen mukaan, mutta emme sido teitä alustaan, jota ette voi siirtää.
Voiko paikallista mallia käyttää puhelimesta tai etätöistä?
Kyllä, jos yhteys ympäristöön on järjestetty hallitusti, esimerkiksi VPN:llä. Malli pysyy silti teidän palvelimellanne. Ulkoa käyttäminen ei tarkoita, että data siirtyisi julkiseen pilveen.
Miten tämä eroaa Copilotista tai ChatGPT:stä?

Copilot ja ChatGPT ovat valmiita pilvipalveluita. Ne ovat nopeita ottaa käyttöön ja hyviä yleiseen kirjoittamiseen. Vastineeksi data käsitellään toimittajan ympäristössä, vaikka sopimus olisi yritystasolla.

Itse hostattu kielimalli kääntää tämän asetelman. Te vastaatte koneesta ja pääsystä. Valfi vastaa asennuksesta, päivityksistä ja siitä, että malli ylipäätään käynnistyy maanantaiaamuna. Ette saa samaa kuluttajakiiltoa, mutta saatte rajan: mitä lähtee talosta ja mitä ei.

Usein nämä elävät rinnakkain. Julkinen työkalu yleiseen työhön, paikallinen malli sille aineistolle, jota ei saa viedä ulos. Linjaus kirjataan, jotta henkilöstö ei joudu arvaamaan.

Mitä ylläpito ja kapasiteetti vaativat?

Malli tarvitsee riittävästi muistia ja yleensä näytönohjaimen. Pienelle tiimille riittää kompakti kone tai vuokrattu VPS. Isommalle yhtäaikaisten käyttäjien määrälle tehoa lisätään. Valfi kertoo mitä tarvitaan. Laitteen hankkii asiakas tai tämän valitsema toimittaja.

Ylläpito on päivityksiä, varmistuksia, käyttöoikeuksia ja sitä, että joku huomaa kun ympäristö kaatuu. Tämä on retainer-työtä: ympäristö ei jää kertaprojektin jälkeen orvoksi.

Emme jätä teitä manuaalin kanssa. Emme myöskään tule paikan päälle kaapeloimaan. Jos kone pitää kiinnittää räkkiin, sen tekee teidän tiloissanne oleva taho tai kumppani.

Voiko mallin yhdistää yrityksen omiin dokumentteihin?

Kyllä, ja usein juuri siksi paikallinen asennus tehdään. Pelkkä malli ei tunne teidän ohjeitanne. Kun alle liitetään RAG-ratkaisu, vastaukset haetaan teidän tiedostoistanne ja malli jää silti omaan ympäristöön.

Sama ympäristö voi palvella tekoälyagenttia, joka hoitaa rajatun rutiinin ilman että aineisto kiertää julkisen rajapinnan kautta. Jos ette vielä tiedä, tarvitaanko omaa konetta vai riittääkö pilvi, työ alkaa tekoälykonsultoinnista.

Jos käsittelette aineistoa, jota ette antaisi julkiseen chattiin, kertokaa käyttökohde yhteydenottolomakkeella. Palataan ehdotuksella, jossa on malli ja teho.

Valmiina aloittamaan?

Kerro tilanteenne, niin ehdotamme sopivan ratkaisun. Vastaamme arkisin vuorokauden sisällä.

Ota yhteyttä