Bielik 11B v3.1
na Twoim własnym GPU.
Najnowszy Bielik — otwarty polski model językowy od SpeakLeash i ACK Cyfronet AGH, wydany 10 listopada 2026. Serwowany przez vLLM na dedykowanym GPU w Polsce, za endpointem /v1 zgodnym z OpenAI.
- 11.2B
- 32 768 tokenów
- Apache 2.0
- BF16 · FP8 · NVFP4
- vLLM · /v1
Model z opublikowanych wag
- Twórca
- SpeakLeash · ACK Cyfronet AGH
- Wydany
- 10 listopada 2026
- Parametry
- 11 168 796 672 (11.2B)
- Licencja
- Apache 2.0
- Kontekst
- 32 768 tokenów
- Języki
- 57 tagów językowych · zoptymalizowany pod polski
- Architektura
- dekoder typu Llama · 50 warstw
- Atencja
- GQA · 32 głowice query / 8 KV · wymiar głowicy 128
- Słownik
- 32 128 tokenów
- Szablon czatu
- wywołania narzędzi · tryb rozumowania (think)
- Model szkicowy
- DFlash · 1 174 455 552 (1.2B) parametrów · dekodowanie spekulatywne
Które GPU wystarczy wolne tokeny pamięci KV
| Wagi | Rozmiar | RTX 5090 · 32 GB | DGX Spark · 128 GB | H200 · 141 GB |
|---|---|---|---|---|
| BF16 | 22,34 GB | 31 542mniej niż jedna pełna sekwencja | 453 41713 × sekwencji z pełnym kontekstem | 510 54615 × sekwencji z pełnym kontekstem |
| FP8 dynamic | 11,44 GB | 84 7652 × sekwencji z pełnym kontekstem | 506 64015 × sekwencji z pełnym kontekstem | 563 76917 × sekwencji z pełnym kontekstem |
| NVFP4 | 6,66 GB | 108 1053 × sekwencji z pełnym kontekstem | 529 98016 × sekwencji z pełnym kontekstem | 587 10917 × sekwencji z pełnym kontekstem |
| AWQ 4-bit | 6,19 GB | 110 4003 × sekwencji z pełnym kontekstem | 532 27516 × sekwencji z pełnym kontekstem | 589 40417 × sekwencji z pełnym kontekstem |
Pamięć, którą bierze vLLM (90% GPU), minus wagi, podzielona przez 204 800 B pamięci KV w BF16 na token (2 × 50 warstw × 8 głowic KV × 128 × 2 B). Jedna rozmowa z pełnym kontekstem 32 768 tokenów to jedna sekwencja.
Jak jest serwowany jeden najemca na GPU
- Endpoint
- /v1 zgodne z OpenAI — chat, completions, streaming.
- Silnik
- vLLM, format wag do wyboru: BF16, FP8 lub NVFP4.
- Przyspieszenie
- Opcjonalne dekodowanie spekulatywne DFlash z oficjalnym modelem szkicowym Bielika.
- Najem
- Jeden klient na GPU — nikt inny nie uruchamia na nim zapytań.
- Lokalizacja
- Polska, UE — na maszynach, które sami posiadamy i utrzymujemy.
- Rozliczenie
- Za godzinę pracy GPU, USD + VAT. Dłuższe bloki wyceniamy indywidualnie.
Uruchom Bielika na własnym GPU.
Napisz, jakiego obciążenia się spodziewasz i ile kontekstu potrzebujesz — format wag i maszyna wynikną z tego. Odpowiedź w ciągu jednego dnia roboczego.