NVIDIA wydała Nemotron 3.5 Bolt 74B-A9B, 2-bitowy model wizyjno-językowy mieszczący się w 24 GB

Wpis archiwalny: opisuje wydarzenie z 15 października 2026, a opublikowaliśmy go 8 listopada 2026. Dane pochodzą ze źródeł z tamtego dnia i mogły się od tego czasu zmienić.

15 października 2026 r. NVIDIA wydała na Hugging Face model NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB, wizyjno-językowy model do lokalnych, codziennych zadań agentowych. Według karty modelu na Hugging Face natywne wagi 2-bitowe z treningu uwzględniającego kwantyzację (quantization-aware training) pozwoliły zmieścić model o 74B parametrów w 24 GB.

Co się zmieniło

• Natywne wagi 2-bitowe IQ2 z treningu uwzględniającego kwantyzację pozwalały zmieścić model w 24 GB.
• Model miał 74B parametrów łącznie, z czego 9B aktywnych, w hybrydzie Mamba-2-Transformer z LatentMoE i enkoderem wizyjnym C-RADIO v4-H.
• Miał kontekst 256K i przyjmował tekst, obrazy oraz wideo.
• Dostarczano go z drafterem LiLiCorr DFlash dla 7 tokenów spekulatywnych.

Co to oznaczało dla osób budujących z AI

Programiści z jedną kartą graficzną 24 GB mogli uruchomić lokalnie multimodalny model agentowy o 74B parametrach na licencji dopuszczającej użytek komercyjny. Zmieszczenie się w pamięci zapewniały natywne wagi 2-bitowe IQ2, a model przyjmował tekst, obrazy i wideo przy kontekście 256K, więc jeden lokalny model obsługiwał kilka rodzajów danych wejściowych.

Środowisko uruchomieniowe, licencja i data wydania

Karta modelu podawała, że model działał z vLLM na GPU A100, H100-80GB i Blackwell. Licencją była OpenMDW-1.1, która pozwala na użytek komercyjny, a istniała też wersja GGUF. Jako datę wydania na Hugging Face karta podawała 15 października 2026 r.

Źródła

• nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB (NVIDIA, 15 października 2026, oficjalne)

Tekst przygotowany z pomocą AI wyłącznie na podstawie źródeł wymienionych powyżej. Zanim trafił na stronę, przeszedł automatyczną kontrolę dat, źródeł i wszystkich wersji językowych.