01
De serving-laag ziet elke prompt
Alles wat gebruikers aan het model vragen passeert de inference-laag. Wie die laag host, verwerkt dus je gevoeligste verkeer. Door vLLM in Europese datacenters te draaien valt die verwerking onder een AVG-keten die je kunt controleren, in plaats van onder buitenlandse wetgeving.







