Fine-tune je eigen LLM

Trainingsdata blijft trainingsdata van jou

Tijdens een fine-tuning-project verlaat je dataset de EU niet en wordt er buiten jouw project niets mee gedaan. Er wordt nooit op klantdata getraind voor andere doeleinden, er ligt een verwerkersovereenkomst onder en de subprocessorlijst is openbaar.

Digitale soevereiniteit in plaats van afhankelijkheid

Een eigen fine-tune op een open model is van jou: de gewichten draaien op infrastructuur die je zelf huurt en je kunt er altijd mee weg. Vergelijk dat met een fine-tune bij een gesloten Amerikaanse aanbieder, waar je model vastzit aan hun platform en hun voorwaarden. Loes, het soevereine Nederlandse modelmerk, laat zien wat dit oplevert: een model dat op Nederlandse data is getraind en Nederlands echt aanvoelt.

Voorbereid op de EU AI Act

De EU AI Act vraagt om inzicht in hoe je model tot stand komt en op welke data het is getraind. Met een eigen fine-tune op een open basismodel kun je die vragen beantwoorden; met een black box wordt dat lastig. EU-hosting helpt je die verantwoording rond te krijgen.

Begin met de basislijn: test een open model op jouw taak voordat je traint, dan weet je wat fine-tuning moet verbeteren. Na het project draait je fine-tune op een dedicated GPU-instance achter hetzelfde OpenAI-compatible endpoint; hoe zo'n deploy werkt lees je in de vLLM-deploygids.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://hostyourai.com/api/v1",
  apiKey: "hyai-jouw-key",
});

const completion = await client.chat.completions.create({
  model: "mistral-7b",
  messages: [
    { role: "user", content: "Herschrijf deze polistekst in klare taal: ..." },
  ],
});

console.log(completion.choices[0].message.content);