open weight forced guardrails

De ontwikkelingen qua AI frontier modellen blijven interessant. Amerikaanse modellen lopen voorop qua mogelijkheden en vragen ook de daarvoor bijbehorende premium prijs. Aziatische modellen lopen iets achter qua mogelijkheden maar wel met veel sterkere pricing en veel meer modellen die open weight worden aangeboden. Een directie aanval voor de economische mogelijkheden voor bedrijven om frontier modellen via een premium pricing aan te bieden. Je kan immers zo een open weight model van hugging face laden en met vLLM je model voor eigen gebruik draaien.

Dit geeft een probleem voor de potentiële marktwaarde van een Antropic en OpenAI op de beurs en het is daarbij interessant te zien dat ze gedeeltelijk anti open weight modellen policies binnen de VS willen aanwakkeren of het vermommen onder het verplichten van bepaalde guardrails die aanwezig moeten zijn in open weight modellen zodat die nooit bepaalde mogelijkheden kunnen uitnutten. En uiteraard het risico van buitenlandse modellen aanwakkeren met daarbij de mogelijkheid te forceren dat Amerikaans bedrijven vanuit compliance en risicobeleid nooit niet-Amerikaanse of niet-westerse modellen kunnen draaien. Dit zorgt voor een mooie duopoly als je naar huidige AI marktverdelingen kijkt.

cyber

Maar het verplichten heeft ook nog andere nadelen. Zoals het hype verhaal dat het Amerikaanse OpenAI dagenlang het Franse Hugging Face hackt en de Amerikaanse AI modellen die Hugging Face gebruikt weigeren te assisteren in het beëindigen van dit probleem. Uiteindelijk zou een Aziatisch model zonder bepaalde guardrails wel geholpen hebben om het hacken te laten stoppen. Als alle open weight modellen straks verlicht AI guardrails hebben betekend dit dus dat Europese bedrijven en overheden een groot probleem hebben als de AI modellen niet kunnen helpen tegen het geweld van AI modellen (en slechte sandboxes) die van buiten de EU komen.

europese frontier

Dit wordt nog verder versterkt met de pivot van Mistral waarbij er een nieuwe niche is gevonden van specifieke efficiëntere modellen die lokaal gedraaid kunnen worden in enterprise omgevingen binnen het westen vanwege compliance eisen. Een slimme en goede niche voor Mistral om te pakken maar voor Europa als geheel wel een issue als we nu nul partijen hebben die de uitgesproken wens hebben om mee te doen in het frontier model geweld. Waar Aziatische modellen ~8 modellen zouden achterlopen zou Europa nu ~2 jaar achterop zitten met geen partij die actief bezig is met het gat dichten.

Daarbij is het goed om te zien dat Europa subsidies en investeringen doet voor diverse modellen vanuit diverse Europese ondernemingen. Hier zijn al wat interessante TTS en STT modellen uitgekomen en uiteraard een hoop modellen die beter kunnen werken met de diverse talen die Europa rijk is. Alleen helaas op dit moment nog geen nieuwe club met frontier LLM ambities.

afspraken

Het zal interessant zijn of er iets van wereldwijde afspraken komen voor guardrails (en de vraag wie dit dan handhaaft) tussen de VS en China. Vooral voor Europa zonder eigen frontier model provider zal het misschien beter zijn van niet.

Terug naar thuis