Sztuczna inteligencja · Asystent AI (RAG)
Asystent AI na dokumentach
Asystent AI na dokumentach firmy: odpowiedzi z cytowaniem źródeł, uprawnienia z repozytoriów, wdrożenie on-premise lub w chmurze UE, ocena jakości i testy.
Sztuczna inteligencja · Bielik i PLLuM
Wdrożenie Bielika i PLLuM w firmie - polskie modele językowe on-premise
Bielik i PLLuM to otwarte polskie modele językowe, które można uruchomić we własnej infrastrukturze - bez wysyłania dokumentów do zewnętrznego dostawcy. Pomagamy firmom wybrać wariant i licencję, uruchomić model on-premise albo w prywatnej chmurze w UE i sprawdzić na Twoich dokumentach, czy polski model wystarczy do zadania. Innovix pracuje z Wrocławia dla firm z całej Polski, zdalnie i na miejscu.
01Kiedy polski model
Kiedy polski model językowy ma sens w firmie?
Bielik i PLLuM to modele z otwartymi wagami, rozwijane z myślą o języku polskim i publikowane do pobrania na Hugging Face. Firma może uruchomić je u siebie, więc dokumenty i pytania nie trafiają do zewnętrznego dostawcy usługi AI. Polski model warto rozważyć, gdy:
- pracujesz na polskich dokumentach - umowach, pismach, procedurach, korespondencji z klientami - i liczy się poprawna polszczyzna oraz terminologia,
- dane nie mogą opuścić firmy - tajemnica zawodowa, bankowa, medyczna albo przedsiębiorstwa wyklucza usługę w chmurze dostawcy modelu,
- chcesz przewidywalnego kosztu - stała infrastruktura zamiast opłat za każde zapytanie,
- potrzebujesz kontroli nad wersją - model zmienia się wtedy, gdy Ty zdecydujesz, a nie gdy dostawca wycofa wersję.
Polski model nie jest jednak wyborem domyślnym. Mniej oczywisty bywa wtedy, gdy:
- zadanie wymaga możliwości, których kandydat nie osiąga w testach na Twoich danych - wtedy rozważamy większy model otwarty albo usługę API na danych zanonimizowanych,
- treści są w wielu językach spoza obszaru, na który wydawca ukierunkował trening.
Niezależnie od zadania odpadają warianty z licencją niekomercyjną - w firmie wybieramy wersje na Apache 2.0 lub Llama 3.1.
02Modele
Bielik i PLLuM - jakie warianty są dostępne
Zestawienie według kart modeli i listy repozytoriów wydawców na Hugging Face. Stan na: październik 2026 (odczyt 19.10.2026).
| Rodzina | Gdzie publikowana | Przykładowe warianty | Na czym zbudowana | Dostęp do plików |
|---|---|---|---|---|
| Bielik v3 | Hugging Face, organizacja speakleash | Bielik-11B-v3.0-Instruct (11 mld parametrów), Bielik-PL-11B-v3.0-Instruct, Bielik-Minitron-7B-v3.0-Instruct (7,35 mld), Bielik-4.5B-v3.0-Instruct, Bielik-1.5B-v3.0-Instruct | 11B i PL-11B - warianty instrukcyjne modelu Bielik-11B-v3-Base-20250730; Minitron-7B - przycięty (pruning) i destylowany z tego modelu; 4.5B i 1.5B - warianty instrukcyjne modeli bazowych Bielik-4.5B-v3 i Bielik-1.5B-v3 | Repozytoria główne - po zalogowaniu i akceptacji warunków (udostępnienie danych kontaktowych); wersje skwantyzowane wydawcy (np. GGUF, FP8) - bez akceptacji warunków |
| PLLuM (wydanie 2512) | Hugging Face, organizacja CYFRAGOVPL; strona projektu pllum.org.pl | PLLuM-4B i PLLuM-12B (base, instruct, chat), Llama-PLLuM-8B (base, instruct, chat), Llama-PLLuM-70B (instruct, chat) | 4B - gemma-3-4b-pt, 12B - Mistral-Nemo-Base-2407, 8B i 70B - Llama 3.1 | Bez dodatkowych warunków dla wariantów 2512; warianty niekomercyjne - po akceptacji warunków |
Bielik. Według karty modelu Bielik-11B-v3.0-Instruct to model generatywny z 11 mld parametrów, wielojęzyczny (32 języki europejskie, zoptymalizowany pod polski). Wariant Bielik-PL-11B-v3.0-Instruct ma tokenizer APT4 zoptymalizowany pod język polski. Bielik-Minitron-7B-v3.0-Instruct powstał przez zmniejszenie modelu 11B o 33,4% (do 7,35 mld parametrów); według karty zachowuje około 90% wyników modelu bazowego przy przyspieszeniu wnioskowania do 50%. Wydawca publikuje też wersje skwantyzowane (m.in. GGUF, AWQ, FP8, MLX), które zmniejszają wymagania pamięci kosztem części jakości.
PLLuM. Rodzina modeli rozwijana w projekcie finansowanym ze środków Ministra Cyfryzacji; strona projektu podaje, że modele działają lokalnie (on-premise) na serwerze z GPU. Wydanie 2512 powstało w grudniu 2025 r. Karta modelu opisuje PLLuM jako wyspecjalizowany w języku polskim, z dodatkiem danych angielskich; wariant chat jest dostrojony do preferencji ludzi i - według wydawcy - lepiej nadaje się do dialogu. Do asystentów i ekstrakcji danych w pierwszej kolejności sprawdzamy warianty instruct i chat.
Karty Bielika zastrzegają, że model nie ma mechanizmów moderacji i może podawać nieprawdziwe informacje, a karta PLLuM - że może generować treści błędne lub zmyślone. To normalne dla modeli językowych i dlatego kontrolę jakości budujemy wokół modelu.
03Licencje
Licencje Bielika i PLLuM - czy można ich używać komercyjnie?
Licencja dotyczy konkretnej wersji modelu, nie całej rodziny. Stan na: październik 2026 - przed wdrożeniem sprawdzamy kartę wybranej wersji.
| Warianty | Licencja | Użycie komercyjne | Na co uważać |
|---|---|---|---|
| Bielik v3.0 (11B, PL-11B, Minitron-7B, 4.5B, 1.5B) | Apache 2.0 | Tak, na warunkach licencji | Przy dalszej dystrybucji modelu - kopia licencji i zachowanie informacji o autorach; pliki z głównych repozytoriów v3 pobiera się po akceptacji warunków na Hugging Face (wersje skwantyzowane wydawcy są dostępne bez akceptacji warunków). |
| Bielik-7B-Instruct-v0.1 (pierwsza wersja instrukcyjna) | CC BY-NC 4.0 | Nie | Starsza wersja z licencją niekomercyjną - nie do zastosowań w firmie. Inne starsze wersje i ich eksporty sprawdzamy pojedynczo. |
| PLLuM-4B i PLLuM-12B (2512), PLLuM-12B-base (2508), PLLuM-12B i PLLuM-8x7B bez oznaczenia „nc” (2412) | Apache 2.0 | Tak, na warunkach licencji; dla 4B także warunki modelu bazowego | PLLuM-4B powstał na modelu gemma-3-4b-pt, który Google udostępnia na warunkach Gemma Terms of Use. Te warunki zaliczają modele zbudowane na Gemmie do „Model Derivatives” i określają dla nich ograniczenia użycia oraz obowiązki przy dalszej dystrybucji - przed wdrożeniem 4B sprawdzamy je razem z licencją Apache 2.0 zadeklarowaną przez wydawcę. PLLuM-12B bazuje na Mistral-Nemo-Base-2407 (Apache 2.0). Łańcuch licencji dokumentujemy w projekcie razem z pochodzeniem modelu. |
| Llama-PLLuM-8B i Llama-PLLuM-70B | Llama 3.1 Community License | Tak, z dodatkowymi warunkami | Przy udostępnianiu produktu lub usługi z modelem - informacja „Built with Llama” i kopia licencji; model pochodny udostępniany dalej ma nazwę zaczynającą się od „Llama”; polityka dozwolonego użytku; jeśli w dniu wydania Llama 3.1 (23.07.2024) produkty lub usługi licencjobiorcy i jego podmiotów powiązanych miały w poprzednim miesiącu kalendarzowym ponad 700 mln aktywnych użytkowników miesięcznie - osobna licencja od Meta. |
| PLLuM z oznaczeniem „nc” | CC BY-NC 4.0 (2412) albo PLLuM-1.1 (2507) | Nie | Według wydawcy wyłącznie cele badawcze; dla wydania 2507 dostęp mają określone podmioty (m.in. uczelnie, instytuty badawcze), a wydawca zastrzega możliwość odmowy dostępu. |
Strona projektu PLLuM ujmuje to wprost: modele oznaczone jako niekomercyjne są przeznaczone wyłącznie do celów niekomercyjnych, a modele bez tego oznaczenia są dostępne na licencji Apache 2.0 lub Llama 3.1 - również do zastosowań komercyjnych.
Licencja Apache 2.0 udziela bezterminowej, nieodpłatnej licencji na kopiowanie, modyfikowanie i rozpowszechnianie utworu, pod warunkiem m.in. dołączenia tekstu licencji przy redystrybucji. Licencja Llama 3.1 ma własne warunki - streszczamy je w tabeli, a pełny tekst podajemy w źródłach.
04Infrastruktura
Wymagania sprzętowe Bielika i PLLuM - od czego zależą?
Ile pamięci GPU potrzebuje polski model, zależy od kilku czynników, które ustalamy przed zakupem lub wynajmem sprzętu:
- rozmiar modelu - liczba parametrów decyduje o pamięci na wagi; Minitron-7B i warianty 4B lub 4.5B to tańsza alternatywa dla modeli 11-12B, a 70B wymaga już kilku kart,
- precyzja i kwantyzacja - wersje 8- i 4-bitowe zajmują mniej pamięci, ale ich jakość trzeba sprawdzić na Twoich zadaniach,
- długość kontekstu - im dłuższe dokumenty i rozmowy, tym więcej pamięci na kontekst,
- liczba jednoczesnych użytkowników i oczekiwany czas odpowiedzi,
- elementy wokół modelu - w asystencie na dokumentach także modele wyszukiwania i ponownej oceny trafności.
Karty modeli Bielik nie podają wymagań sprzętowych. Dlatego model uruchamiamy najpierw na dedykowanych GPU w naszej chmurze prywatnej w UE, mierzymy rzeczywiste obciążenie i dopiero na tej podstawie dobieramy konfigurację on-premise. Orientacyjne przeliczenie parametrów na pamięć GPU pokazujemy w artykule własny LLM czy API.
| Komponent | Wymagana pamięć GPU | Rekomendowane karty NVIDIA |
|---|---|---|
| Retrieval + Reranker | 24-48 GB (zależnie od ustawień) | 1× A10 (24 GB) · 1× V100 (32 GB) · 1× L40 (48 GB) |
| Generator 70B | ~168 GB | 2× H100 / GH200 · 4× A100 · 4× A6000 / L40 |
| Generator 8×7B | ~134 GB | 2× H100 / GH200 · 2× A100 · 4× A6000 / L40 |
| Generator 24B | ~70 GB | 1× A100 · 2× A6000 / L40 · 4× A10 |
| Generator 12B | ~48 GB | 1× A100 · 2× A6000 / L40 · 4× A10 |
| Generator 8B | ~34 GB | 1× A6000 / L40 · 2× A10 |
Według strony projektu wymagania dotyczą wdrożenia systemu RAG wraz z modelem PLLuM, a wyszukiwanie (retrieval) i reranker współdzielą zasoby GPU. To punkt wyjścia do rozmowy o sprzęcie, a nie wynik pomiaru dla Twojego obciążenia.
05Ewaluacja
Ewaluacja na Twoich dokumentach zamiast rankingów
Publiczne zestawienia mierzą zadania ogólne. O wyborze modelu do Twojej firmy decyduje wynik na Twoich zadaniach.
-
Zestaw zadań z Twoich dokumentów
Pytania z oczekiwanymi odpowiedziami, dokumenty do streszczenia, pola do wydobycia - przygotowane z Twoimi ekspertami, na danych zanonimizowanych tam, gdzie to potrzebne.
-
Kandydaci
Dwa lub trzy modele: Bielik lub PLLuM w wariancie dopasowanym do licencji i sprzętu oraz model globalny z otwartymi wagami jako punkt odniesienia.
-
Te same warunki
Ten sam zestaw, te same instrukcje i ten sam sposób wyszukiwania dokumentów dla każdego kandydata - różni się tylko model.
-
Miary
Poprawność i kompletność odpowiedzi, oparcie w źródłach, poprawność polszczyzny i terminologii, zgodność z wymaganym formatem, czas i koszt odpowiedzi.
-
Rekomendacja
Wybór modelu, wariantu i sposobu uruchomienia z liczbami, które to uzasadniają - oraz lista zadań, w których żaden kandydat nie spełnił progu.
06Porównanie
Polski model czy model globalny - porównanie kryteriów
Porównujemy kryteria wyboru, a nie wyniki - bo te zależą od zadania.
| Kryterium | Bielik i PLLuM | Globalne modele z otwartymi wagami | Modele w API dostawcy |
|---|---|---|---|
| Gdzie działa | U Ciebie albo w prywatnej chmurze w UE | U Ciebie albo w prywatnej chmurze w UE | W infrastrukturze dostawcy, region według umowy |
| Ukierunkowanie na polski | Deklarowane przez wydawców jako cel projektu | Zależy od modelu - sprawdzamy w ewaluacji | Zależy od modelu - sprawdzamy w ewaluacji |
| Licencja | Apache 2.0, Llama 3.1 albo niekomercyjna - zależnie od wariantu | Różne, także z ograniczeniami - zależnie od modelu | Regulamin i umowa dostawcy |
| Rozmiary | Bielik - warianty od 1.5B do 11B, PLLuM - od 4B do 70B (oznaczenia z nazw modeli) | Szeroki wybór rozmiarów | Także największe modele dostawcy |
| Kontrola wersji | Ty decydujesz, kiedy zmienić model | Ty decydujesz, kiedy zmienić model | Dostawca zmienia i wycofuje wersje |
| Dane do trenowania | Model nie uczy się na Twoich pytaniach | Model nie uczy się na Twoich pytaniach | Według umowy i ustawień konta |
Szersze porównanie własnego modelu i usługi w chmurze - z kosztami i zasadami przetwarzania danych u dostawców - opisujemy w artykule własny LLM czy API, a sposób łączenia modelu z wiedzą firmy (RAG i dotrenowanie) - na stronie lokalnych modeli językowych.
07Wdrożenie
Jak wdrażamy Bielika lub PLLuM on-premise
-
Wariant i licencja
Dobór rodziny, rozmiaru i wersji do zadania, sprzętu i licencji; zapis wersji, licencji i źródła pobrania w dokumentacji projektu.
-
Prototyp w chmurze prywatnej
Uruchomienie kandydatów na dedykowanych GPU w UE, ewaluacja na Twoich dokumentach i pomiar obciążenia.
-
Serwer inferencji u Ciebie
Instalacja w Twojej infrastrukturze: uwierzytelnianie punktów końcowych, dostęp tylko z aplikacji, limity zapytań i długości kontekstu, dziennik zdarzeń.
-
Połączenie z danymi
Asystent na dokumentach z uprawnieniami z repozytoriów albo ekstrakcja danych z dokumentów do systemów firmy.
-
Test i utrzymanie
Test bezpieczeństwa aplikacji przed startem, a później aktualizacje modelu z regresją na zestawie zadań.
Łańcuch dostaw modelu. Model pobieramy z oficjalnego repozytorium wydawcy, wskazujemy go w konfiguracji niezmiennym identyfikatorem wersji (a nie samą nazwą), weryfikujemy sumy kontrolne i przechowujemy kopię w Twojej infrastrukturze. Tak ograniczamy ryzyko, które OWASP Top 10 for LLM Applications 2026 opisuje w kategorii LLM04:2026 Supply Chain (łańcuch dostaw) - omawiamy je w artykule OWASP Top 10 dla aplikacji LLM.
Zastosowania. Polski model może być silnikiem asystenta AI na dokumentach firmy albo automatyzacji dokumentów.
Moderacja i bezpieczeństwo. Skoro karty Bielika zastrzegają brak mechanizmów moderacji, filtrowanie treści i reguły biznesowe egzekwujemy poza modelem. SpeakLeash publikuje też klasyfikatory Bielik-Guard do wykrywania treści szkodliwych po polsku (m.in. nienawiść i agresja, wulgaryzmy, treści seksualne, przestępstwa, samookaleczenia) - karta wprost zaznacza jednak, że nie rozpoznają dezinformacji ani prób obejścia zabezpieczeń (jailbreak). Nie zastępują więc uprawnień i kontroli po stronie aplikacji.
Przed udostępnieniem aplikację z modelem testują nasi pentesterzy - zakres opisujemy na stronie testów bezpieczeństwa aplikacji LLM, a politykę użycia AI w firmie - na stronie bezpieczeństwa AI.
Najczęściej zadawane pytania
Czy Bielik i PLLuM są darmowe?
Tak, jeśli chodzi o same modele - można je pobrać bez opłat: strona projektu PLLuM podaje, że dostęp do modelu jest bezpłatny, a warianty Bielik v3 mają licencję Apache 2.0. Kosztem jest infrastruktura (GPU w Twojej serwerowni albo w chmurze), wdrożenie, integracja z danymi, testy i utrzymanie. Dlatego zaczynamy od prototypu, który pokazuje realne obciążenie i koszt.
Który model jest lepszy: Bielik czy PLLuM?
Nie ma jednej odpowiedzi. Rodziny różnią się rozmiarami, modelami bazowymi i licencjami, a wynik zależy od zadania. Porównujemy wybrane warianty na zestawie zadań z Twoich dokumentów, w tych samych warunkach, i rekomendujemy model na podstawie liczb - zobacz sekcję ewaluacja.
Czy generator PLLuM 12B zmieści się na jednej karcie GPU?
Tak, według wydawcy: dla generatora 12B, który potrzebuje ok. 48 GB pamięci GPU, strona projektu PLLuM wymienia wśród rekomendowanych konfiguracji jedną kartę NVIDIA A100. Tabela nie podaje pojemności, a A100 ma warianty 40 GB i 80 GB - ok. 48 GB mieści tylko ten drugi. Jako alternatywy strona wymienia dwie karty A6000 lub L40 albo cztery A10. Wyszukiwanie i reranker mają w tej samej tabeli osobną pozycję (24-48 GB), więc cały system RAG na jednej karcie to inna kalkulacja niż sam generator. Konfigurację potwierdzamy pomiarem w prototypie, bo zmieniają ją kwantyzacja, długość kontekstu i liczba jednoczesnych użytkowników.
Kiedy polski model wystarczy do asystenta na dokumentach firmy?
Wtedy, gdy wiedzę dostarcza wyszukiwanie w dokumentach, a model ma przede wszystkim zrozumieć pytanie i sformułować odpowiedź po polsku - sprawdzamy to na pytaniach Twojego zespołu przed decyzją. Architekturę opisujemy na stronie asystenta AI na dokumentach firmy.
Czy Innovix jest partnerem twórców Bielika lub PLLuM?
Nie. Korzystamy z modeli udostępnionych publicznie przez wydawców, na warunkach ich licencji, tak jak każdy inny podmiot. Nasza rola to dobór wariantu, wdrożenie w Twojej infrastrukturze lub w prywatnej chmurze w UE, ewaluacja, integracja z danymi i testy bezpieczeństwa.
Źródła
- SpeakLeash - Bielik-11B-v3.0-Instruct (karta modelu, Hugging Face; licencja Apache 2.0) ()
- SpeakLeash - Bielik-PL-11B-v3.0-Instruct (karta modelu, Hugging Face; tokenizer APT4) ()
- SpeakLeash - Bielik-Minitron-7B-v3.0-Instruct (karta modelu, Hugging Face) ()
- SpeakLeash - Bielik-Guard-0.5B-v1.1 (karta modelu, Hugging Face) ()
- Hugging Face - lista modeli organizacji speakleash z licencjami i statusem dostępu (pole „gated”, API Hub) ()
- PLLuM - strona projektu (modele, licencje, wymagania techniczne) ()
- NVIDIA - A100 Tensor Core GPU (strona produktu; warianty 40 GB i 80 GB) ()
- CYFRAGOVPL - PLLuM-12B-chat-2512 (karta modelu z zestawieniem rodziny PLLuM, Hugging Face) ()
- CYFRAGOVPL - Llama-PLLuM-8B-chat-2512 (karta modelu, Hugging Face; licencja Llama 3.1) ()
- CYFRAGOVPL - PLLuM-12b-nc-chat-2507 (karta modelu, Hugging Face; licencja PLLuM-1.1, użycie niekomercyjne) ()
- Hugging Face - lista modeli organizacji CYFRAGOVPL z licencjami i statusem dostępu (pole „gated”, API Hub; m.in. wydania 2508 i 2512) ()
- Meta - Llama 3.1 Community License Agreement (wersja z 23.07.2024; pkt 2 Additional Commercial Terms) ()
- Google - Gemma Terms of Use (ostatnia zmiana: 1.04.2026; pkt 1.1(e) Model Derivatives, pkt 3.1 i 3.2) ()
- Mistral AI - Mistral-Nemo-Base-2407 (karta modelu, Hugging Face; licencja Apache 2.0) ()
- Apache Software Foundation - Apache License, Version 2.0 ()
- SpeakLeash - Bielik-4.5B-v3.0-Instruct (karta modelu, Hugging Face; model bazowy Bielik-4.5B-v3) ()
- SpeakLeash - Bielik-1.5B-v3.0-Instruct (karta modelu, Hugging Face; model bazowy Bielik-1.5B-v3) ()
- OWASP GenAI Security Project - OWASP Top 10 for LLM Applications 2026 (wydanie 2026, sierpień 2026; licencja CC BY-SA 4.0; na stronie przywołujemy kategorię LLM04:2026 Supply Chain we własnym opracowaniu) ()
Powiązane usługi
Sztuczna inteligencja · Lokalne modele LLM
Lokalne modele LLM
Lokalny model językowy dla firmy: LLM on-premise lub w prywatnej chmurze UE, dotrenowanie i RAG na dokumentach firmy, ewaluacja i Zero Data Retention.
Testy penetracyjne · Aplikacje LLM
Testy aplikacji LLM
Testy bezpieczeństwa aplikacji LLM według OWASP Top 10 for LLM Applications 2026: prompt injection, wyciek danych z RAG, uprawnienia agentów, raport i retest.