Co się stało
29 października Mistral opublikował na Hugging Face wagi Mistral Large 4, trzy tygodnie po tym, jak udostępnił model w publicznej wersji preview przez API. To model typu mixture-of-experts z około bilionem parametrów, z których przy każdym tokenie pracuje 52 mld. Według Mistrala został wytrenowany od zera na jego własnej infrastrukturze w Europie. Firma pozycjonuje go przede wszystkim pod programowanie i obronę przed cyberatakami.
Licencja nazywa się Mistral Ecosystem Open-Weight License i jest zmodyfikowaną licencją MIT. Pozwala na użycie komercyjne i niekomercyjne, z jednym wyjątkiem: firma, która prowadzi biznes typu Model-as-a-Service, potrzebuje osobnej licencji komercyjnej od Mistrala. To otwarte wagi, nie open source w pełnym sensie.
Model można pobrać i uruchomić u siebie (vLLM, SGLang). Przykłady na karcie modelu zakładają serwer z ośmioma GPU, a osobny, skwantyzowany wariant jest przygotowany pod karty NVIDIA Blackwell. Kto nie chce trzymać sprzętu, ma API Mistrala w cenie 0,70 USD za milion tokenów wejścia i 2,10 USD za milion tokenów wyjścia. Model jest też dostępny przez OpenRouter, NVIDIA i Microsoft Foundry, w tym w prywatnym wdrożeniu na Azure.
Wyniki w benchmarkach, w tym deklaracja, że to najlepszy otwarty model do programowania, pochodzą od Mistrala. Niezależnych pomiarów w chwili pisania nie ma.
Nasza teza
Oznaczamy jako naszą interpretację. W czerwcu pisaliśmy, że suwerenność chmury staje się kryterium zakupowym: pytanie, gdzie i pod czyją jurysdykcją działa Twój stack AI, trafia do tabelki przetargowej. Do tej pory ten wiersz miał jedną słabość. Najmocniejsze modele były zamknięte i dostępne tylko przez API dostawców spoza UE, więc „europejska opcja" oznaczała zwykle kompromis w jakości. Large 4 tego problemu nie rozwiązuje w całości, ale go zmniejsza. Pierwszy raz model tej skali od europejskiego dostawcy można pobrać i uruchomić we własnej infrastrukturze, bez zgody kogokolwiek na każde zapytanie.
Otwarte wagi nie znaczą jednak „za darmo u siebie". Bilion parametrów to decyzja o klastrze, a nie o kluczu API. Węzeł z ośmioma kartami klasy Blackwell, zasilanie, chłodzenie, ludzie do utrzymania i aktualizacji. Dla większości firm realna droga do tego modelu to i tak API albo wdrożenie w chmurze, a wtedy pytanie o jurysdykcję wraca, tylko w innej formie: czyja chmura, który region, kto ma dostęp do logów.
Drugi punkt to licencja. Wyjątek dla Model-as-a-Service jest krótki, a granica nie jest oczywista. Wewnętrzny asystent dla pracowników mieści się w zwykłym użyciu komercyjnym. Produkt, w którym klient płaci za dostęp do odpowiedzi modelu, może już być usługą modelową. Z tekstów, które czytaliśmy, nie wynika, gdzie dokładnie Mistral stawia tę kreskę. To jest pytanie do prawnika i do Mistrala, nie do zespołu developerskiego.
Trzeci punkt to benchmarki. Liczby są od producenta, a model jest porównywany głównie z innymi otwartymi modelami. Spodziewamy się, i to jest spekulacja, że na polskich dokumentach i w wąskich procesach różnica względem zamkniętych modeli, których już używasz, będzie większa, niż sugerują tabele. Sprawdzić to można tylko na własnych danych.
Dlaczego to ma znaczenie
Private Equity
Jeśli spółka w portfelu sprzedaje produkt oparty na AI, zapytaj, na jakiej licencji stoi model i czy sposób, w jaki klienci z niego korzystają, nie jest przypadkiem usługą modelową w rozumieniu licencji. Otwarte wagi zmniejszają ryzyko odcięcia przez dostawcę, ale nie zdejmują ryzyka licencyjnego. W due diligence to jeden wiersz więcej, za to konkretny.
Enterprise
Dla banków, energetyki, ochrony zdrowia i administracji, gdzie dane nie mogą opuścić własnej infrastruktury, to pierwszy europejski kandydat tej skali do realnego testu. Zanim jednak powstanie budżet na sprzęt, rozdziel dwa wymagania, które często się zlewają: „dane nie mogą wyjść poza nasze serwery" i „dane muszą zostać w jurysdykcji UE". Pierwsze wymaga własnego klastra, drugie może spełnić europejskie wdrożenie przez API. Przy takim rozróżnieniu w projektach enterprise zwykle okazuje się, że on-premise potrzebuje tylko część procesów.
MŚP / średni rynek
Nie kupuj kart graficznych. Jeśli dla Twoich klientów albo w przetargach liczy się europejski dostawca, przetestuj model przez API na jednym zadaniu i porównaj wynik z tym, czego używasz dziś. Cena wejścia jest niska, ale koszt policz na zadaniu, nie na tokenie.
Jeden ruch na ten tydzień
Weź jeden proces, który stoi, bo „dane nie mogą wyjść na zewnątrz", i zapisz, co dokładnie blokuje: przepis, umowa z klientem, polityka wewnętrzna czy przyzwyczajenie. Przy każdym blokerze zaznacz, czy wymaga on-premise, czy wystarczy jurysdykcja UE. Potem przepuść 50 historycznych przypadków z tego procesu przez Large 4 i przez model, którego już używasz. Rozmowa o sprzęcie ma sens dopiero wtedy, gdy wynik jest wystarczająco dobry, a bloker naprawdę wymaga własnej serwerowni. Opisz swój przypadek: mailto:[email protected]?subject=Rozmowa%20z%20Aurora%20AI