Asystent AI na dokumentach firmy - prywatny RAG z cytowaniem źródeł

Asystent działa w technice RAG: przed odpowiedzią wyszukuje fragmenty dokumentów i przekazuje je modelowi językowemu razem z pytaniem. Sama zasada jest prosta. O jakości w firmie decydują szczegóły, które pomija się w prototypach:

• podział dokumentów według struktury - rozdziałów, punktów umowy, kroków procedury - a nie co stałą liczbę znaków, żeby cytat miał sens,
• metadane - wersja, data obowiązywania, właściciel dokumentu i dział, dzięki którym asystent woli wersję aktualną od archiwalnej,
• wyszukiwanie hybrydowe - po znaczeniu i po słowach kluczowych, bo numery umów, symbole produktów i nazwy własne giną w samym wyszukiwaniu semantycznym,
• ponowna ocena trafności znalezionych fragmentów, zanim trafią do modelu.

Model dostaje polecenie, żeby odpowiadał wyłącznie na podstawie przekazanych fragmentów, a aplikacja - nie model - dołącza do odpowiedzi odnośniki do dokumentów. Jeżeli wyszukiwanie nic nie znajdzie, asystent ma powiedzieć „nie znalazłem tego w dokumentach”, a nie zgadywać.

Model językowy dobieramy do zadania i miejsca wdrożenia. Dla treści po polsku sprawdzamy także polskie modele otwarte - opisujemy je na stronie Bielik i PLLuM w firmie. Porównanie RAG z dotrenowaniem modelu znajdziesz na stronie lokalnych modeli językowych.

Zasadę „Twoje dokumenty nie uczą modelu” zapisujemy w architekturze i w umowie, bo jedno bez drugiego nie wystarcza. Osobno opisujemy wprost, co i jak długo zostaje w indeksie.

W architekturze. Model jest tylko wywoływany - nie dotrenowujemy go na pytaniach ani na dokumentach z indeksu. Wiedza o firmie jest w indeksie, który respektuje uprawnienia.

Co zostaje w indeksie. Asystent nie działa bez przechowywania dokumentów: indeks zawiera fragmenty dokumentów z metadanymi i to z niego pochodzą cytaty w odpowiedziach. Fragment zostaje w indeksie tak długo, jak dokument jest w uzgodnionym źródle. Indeks działa w wybranym wariancie infrastruktury. Synchronizacja przenosi do niego usunięcie dokumentu w repozytorium albo wyłączenie źródła. Indeks można też przebudować albo usunąć w całości. Treść pytań i odpowiedzi nie trafia do dziennika zdarzeń, a to, czy i jak długo użytkownik widzi historię swoich rozmów, ustalamy w projekcie z inspektorem ochrony danych.

W umowie. Gdy przetwarzamy dane w Twoim imieniu, podpisujemy umowę powierzenia z zakazem wykorzystania danych do trenowania modeli, miejscem przetwarzania, listą podwykonawców i zasadami usunięcia danych - także indeksu - po zakończeniu współpracy.

Asystent jest systemem, w którym trzeba umieć odpowiedzieć na pytanie „kto, kiedy i na jakiej podstawie dostał tę informację”. Dlatego projektujemy dziennik zdarzeń razem z działem bezpieczeństwa i inspektorem ochrony danych:

• kto pytał i kiedy - z tożsamością z logowania firmowego,
• które dokumenty zostały użyte - identyfikatory i wersje źródeł cytowanych w odpowiedzi,
• zmiany w konfiguracji - źródła, uprawnienia konta technicznego, wersja modelu i instrukcji,
• bez treści dokumentów i pytań - w dzienniku zostają metadane zdarzeń, a nie treść; okres przechowywania dziennika ustalamy z działem bezpieczeństwa.

Dokumenty z danymi osobowymi wymagają oceny, czy potrzebna jest ocena skutków dla ochrony danych: przeprowadza się ją przed rozpoczęciem przetwarzania, które - w szczególności z użyciem nowych technologii - z dużym prawdopodobieństwem może powodować wysokie ryzyko naruszenia praw lub wolności osób fizycznych (art. 35 ust. 1 RODO).

Przy projektowaniu stosujemy zasady, które RODO formułuje wprost: dane mają być ograniczone do tego, co niezbędne do celów przetwarzania (art. 5 ust. 1 lit. c RODO), a środki ochrony uwzględnia się już przy określaniu sposobów przetwarzania (art. 25 ust. 1 RODO). W praktyce oznacza to, że do indeksu trafiają tylko uzgodnione źródła, a nie „wszystko, co jest na dysku”.

Z aktu w sprawie sztucznej inteligencji (AI Act, rozporządzenie (UE) 2024/1689): dostawca systemu AI przeznaczonego do bezpośredniej interakcji z osobami fizycznymi zapewnia, że osoby te są informowane o interakcji z systemem AI, chyba że jest to oczywiste (art. 50 ust. 1 AI Act), a dostawcy i podmioty stosujące podejmują środki wspierające kompetencje personelu w zakresie AI (art. 4 AI Act). Rolę firmy w AI Act i terminy opisujemy na stronie wdrożenia AI w firmie. Opis ma charakter informacyjny i nie jest poradą prawną. Stan na: październik 2026.