Meta oddaje do pobrania model z 816 mld parametrów, a czołówka i tak zostaje zamknięta

Meta, Reflection i NVIDIA dały do pobrania duże modele

15 października Meta opublikowała Muse Spark Open. To model typu MoE (mixture of experts): ma 816 mld parametrów, ale przy każdym tokenie pracuje tylko 42 mld z nich, co obniża koszt działania. Przyjmuje tekst, obraz, dźwięk i wideo, a jego okno kontekstu to 1 mln tokenów. Meta nazywa go najmocniejszym amerykańskim modelem z otwartymi wagami. W rankingu LMArena WebDev zajmuje jednak 55. miejsce.

Model ma dwa haczyki. Pierwszy to licencja: Muse Model License ogranicza użycie komercyjne, więc nie jest to open source, a dostęp do repozytorium Meta przyznaje ręcznie. Drugi to sprzęt. Według Hugging Face najmocniej skompresowana wersja potrzebuje co najmniej 700 GB pamięci GPU, a pełna 2 TB. Dla większości firm to model do centrum danych albo chmury, a nie do serwera w biurze.

Dzień później Reflection AI dotrzymało obietnicy z początku miesiąca i opublikowało wagi Beam. Model ma 501 mld parametrów, z czego 23 mld aktywnych. Wagi można pobrać bez ręcznej akceptacji, a licencja Apache 2.0 pozwala na użycie komercyjne. Firma dołączyła raport bezpieczeństwa.

NVIDIA wydała Nemotron 3.5 w dwóch wersjach. Super VL (120 mld parametrów, 12 mld aktywnych) rozumie obraz i tekst. Mniejszy Bolt mieści się w 24 GB pamięci, czyli działa na jednej mocnej karcie graficznej. NVIDIA udostępniła też zbiory danych i receptury treningowe, więc widać, na czym modele się uczyły.

Czwarty duży model z otwartymi wagami jeszcze nie dotarł. Wag Mistral Large 4 nadal nie ma, a strona na Hugging Face podaje termin 31 października.

Przy podobnej skali o wyborze modelu decydują więc licencja i sprzęt. Beam i Muse Spark Open są porównywalnie duże, ale tylko Beam można wbudować w produkt na standardowej licencji.

W zadaniach agentowych wygrywają modele zamknięte

Ranking agentów LMArena z 17 października nie zostawia wątpliwości. Pierwsze miejsce ma Claude Opus 5.5, za nim są GPT-6 Astra, Claude Fable 5.1 i GPT-6.1 Sol. Gemini 4 Argon jest piąty. Beam zajmuje w kategorii agentów dopiero 38. miejsce.

Podobnie wypada cyberbezpieczeństwo. Epoch AI prowadzi zbiorczy indeks umiejętności w tej dziedzinie, liczony z kilkudziesięciu testów. Najlepszy model z otwartymi wagami, GLM-5.3 od Zhipu, ma w nim 160 punktów. Claude Opus 5.5 i GPT-6 Astra mają po około 171. Według Epoch otwarte modele są pod tym względem 6–7 miesięcy za zamkniętymi.

Google tymczasem konkuruje ceną. 13 października Gemini 4 Argon trafił do API, aplikacji Gemini i AI Mode. Do 30 listopada milion tokenów kosztuje 2 USD na wejściu i 10 USD na wyjściu, potem dwa razy więcej.

Nawet Meta trzyma swój nowy model czołowy w zamknięciu. 12 października firma uruchomiła Muse Wonder, dostępny tylko przez jej API i narzędzie Muse Code. Meta działa więc na dwa sposoby naraz: jeden model sprzedaje, drugi oddaje do pobrania.

Dla zespołów budujących agentów do trudnych zadań nic się w tym tygodniu nie zmieniło: najlepsze wyniki wciąż dają modele z API kilku firm. Zmieniła się za to cena. Promocja Argona ułatwia testy, ale od grudnia budżet liczy się już według stawki 4 i 20 USD.

Otwarte modele obsługują większość ruchu, ale nie większość wydatków

Vercel opublikował dane ze swojej bramki AI, przez którą klienci łączą się z modelami wielu dostawców. Modele z otwartymi wagami przetwarzają tam 71,5% tokenów, ale odpowiadają tylko za około 23% wydatków.

Druga liczba z tego raportu dobrze tłumaczy, dlaczego rachunki rosną mimo tanienia AI. Wrześniowe wydatki klientów były około 13 razy wyższe niż w grudniu, choć średnia cena tokena spadła w tym czasie o 47%. To sugeruje, że firmy nie oszczędzają na tańszych modelach, tylko zlecają AI znacznie więcej pracy.

Badanie Cohere pokazuje, jak taki podział wygląda w jednym systemie. Firma porównała zespoły agentów piszących programy. Zespół, w którym jeden mocny model kierował pracą, a 16 tańszych wykonywało zadania, osiągnął wynik 61,8%. Zespół złożony wyłącznie z mocnych modeli miał 63,2%, ale kosztował 510 zamiast 155 USD. Odwrotny układ się nie sprawdził: tani wykonawcy nie nadrabiali słabego lidera.

Z tych danych wynika prosty rachunek. O koszcie systemu z AI decyduje nie tyle cena za token, ile to, które zadania trafiają do drogiego modelu, a które do taniego.

Anthropic utrudnia kopiowanie Claude'a i testuje, czy modele potrafią same się rozprzestrzeniać

Destylacja polega na trenowaniu własnego modelu na odpowiedziach cudzego. 12 października Anthropic opisał nowe zabezpieczenia przed tą praktyką. Według firmy zmniejszają one 10–100 razy ilość rozumowania modelu, którą da się w ten sposób wyciągnąć. Tok rozumowania widzi teraz tylko organizacja, która wysłała zapytanie, a od 24 września Anthropic pobiera opłaty także za zablokowane zapytania. Zablokował też dziesiątki tysięcy kont.

Według Anthropic Zhipu destylowało umiejętności Claude'a z zakresu cyberbezpieczeństwa na potrzeby GLM-5.3, czyli modelu, który Epoch uznał za najlepszy otwarty model w tej dziedzinie.

Tego samego dnia Anthropic opublikował test samoreplikacji. Sprawdzał, czy model potrafi skopiować się na tanie urządzenia domowe bez centrum danych. Model z 9 mld parametrów zdołał się uruchomić na 8 z 9 typów sprzętu. W uproszczonych warunkach, na urządzeniach z otwartym dostępem bez hasła, pełną replikację wykonał tylko GLM-5.2: skopiował się na wszystkie 8 urządzeń w 4 z 5 prób.

W pokazie model działał na 15 przystawkach Android TV za około 55 USD sztuka, choć bardzo wolno. Anthropic szacuje, że małe otwarte modele mogą osiągnąć poziom GLM-5.2 do końca 2026 roku. Jeśli ta prognoza się sprawdzi, problem przestanie dotyczyć tylko centrów danych i obejmie źle zabezpieczone urządzenia w domach i biurach.

Anthropic wpuszcza też do siebie zewnętrznych testerów. Sześcioosobowy zespół organizacji METR dostał dostęp jak pracownicy i może publikować wyniki. Anthropic nie może zablokować publikacji, może tylko wymagać usunięcia informacji z wcześniej ustalonych kategorii.

W narzędziach są zmiany, które mogą zepsuć integracje

• Transformers 5.20 obsługuje Muse Spark Open, a od wersji 5.20.1 także Beam. Usuwa przestarzałe narzędzia cache i wymaga pakietu kernels w wersji 0.17.2 lub nowszej.
• llama.cpp v0.7.0 według autorów generuje do 2,2 raza szybciej przy modelach MoE. Zmienia jednak domyślny port serwera na 9931 i format odpowiedzi czatu, więc integracje oparte na ustawieniach domyślnych przestaną działać.
• NVIDIA udostępniła jako open source całą platformę Run:ai, która dzieli karty graficzne między zadania w klastrach Kubernetes.

Otwarte modele obniżają rachunek, ale nie dają przewagi w jakości

Duże modele z otwartymi wagami z USA przestały być zapowiedzią. W jakości nie dogoniły jednak czołówki: w zadaniach agentowych i w cyberbezpieczeństwie są wyraźnie za nią. Pełnią dziś inną rolę. Biorą na siebie masową, prostą pracę, a o wyniku w trudnych zadaniach decyduje kilka firm z zamkniętymi modelami. Kto dobrze dzieli pracę między te dwie grupy, może płacić ułamek tego, co konkurent, przy prawie tym samym wyniku.

Ta sama otwartość ma drugą stronę. Wagi raz opublikowane trafiają do każdego, także na tanie urządzenia bez zabezpieczeń, a Anthropic właśnie pokazał, jak mocno zamknięci dostawcy pilnują, żeby nikt nie skopiował ich modeli. O przewadze firmy nie decyduje więc wybór między modelem otwartym a zamkniętym, tylko to, jak łączy oba.