Paikallinen tekoäly omalla palvelimella

Copilot ja ChatGPT ovat valmiita pilvipalveluita. Ne ovat nopeita ottaa käyttöön ja hyviä yleiseen kirjoittamiseen. Vastineeksi data käsitellään toimittajan ympäristössä, vaikka sopimus olisi yritystasolla.

Itse hostattu kielimalli kääntää tämän asetelman. Vastaat itse koneesta ja pääsystä. Valfi vastaa asennuksesta, päivityksistä ja siitä, että malli ylipäätään käynnistyy maanantaiaamuna. Et saa samaa kuluttajakiiltoa, mutta saat rajan: mitä lähtee talosta ja mitä ei.

Usein nämä elävät rinnakkain. Julkinen työkalu yleiseen työhön, paikallinen malli sille aineistolle, jota ei saa viedä ulos. Linjaus kirjataan, jotta henkilöstö ei joudu arvaamaan.

Malli tarvitsee riittävästi muistia ja yleensä näytönohjaimen. Pienelle tiimille riittää kompakti kone tai vuokrattu VPS. Isommalle yhtäaikaisten käyttäjien määrälle tehoa lisätään. Valfi kertoo, mitä tarvitaan. Laitteen hankkii asiakas tai tämän valitsema toimittaja.

Ylläpito on päivityksiä, varmistuksia, käyttöoikeuksia ja sitä, että joku huomaa, kun ympäristö kaatuu. Tämä on retainer-työtä: ympäristö ei jää kertaprojektin jälkeen orvoksi.

Emme jätä sinua manuaalin kanssa. Emme myöskään tule paikan päälle kaapeloimaan. Jos kone pitää kiinnittää räkkiin, sen tekee omissa tiloissasi oleva taho tai kumppani.

Kyllä, ja usein juuri siksi paikallinen asennus tehdään. Pelkkä malli ei tunne ohjeitasi. Kun alle liitetään RAG-ratkaisu, vastaukset haetaan omista tiedostoistasi ja malli jää silti omaan ympäristöön.

Sama ympäristö voi palvella tekoälyagenttia, joka hoitaa rajatun rutiinin ilman, että aineisto kiertää julkisen rajapinnan kautta. Jos et vielä tiedä, tarvitaanko omaa konetta vai riittääkö pilvi, työ alkaa tekoälykonsultoinnista.

Jos käsittelet aineistoa, jota et halua siirtää julkiseen palveluun, kerro käyttökohteesta yhteydenottolomakkeella. Palaamme ehdotuksella, jossa on malli ja teho.