LLM w biznesie: zastosowania co model naprawdę robi i co z tego wynika
Bez nazw wersji, bez benchmarków i bez cen za tokeny, bo to starzeje się w miesiąc. Zamiast tego jedno zdanie o tym, jak działa model językowy, i wszystko, co z tego zdania wynika dla Twojej firmy: skąd biorą się halucynacje, dlaczego model nie zna Waszych danych, na jakich trzech poziomach firmy go używają i które zadania trzeba mu odebrać, zanim wejdzie do procesu.
- 3 poziomytyle jest sposobów użycia modelu w firmie: rozmowa z człowiekiem, model w środku procesu, agent wykonujący działanie. Wartość i ryzyko rosną razem
- 4 typy zadańczytanie, klasyfikowanie, streszczanie, przepisywanie między formatami: tu model pracuje powtarzalnie. Liczenie i decyzje wymagające pewności zostają poza nim
- 5 do 10 sekundw tyle BOND, nasz firmowy agent AI, odpowiada na pytanie o dane z Waszych systemów
- 0,02 do 0,30 złtyle kosztuje jedno zapytanie do modelu w naszych wdrożeniach, płacone dostawcy bezpośrednio
Krótka odpowiedź
LLM w biznesie: co model językowy naprawdę robi?
Model językowy przewiduje kolejne kawałki tekstu na podstawie tego, co dostał na wejściu. Nie sprawdza, nie liczy, nie pamięta Waszych danych. Buduje odpowiedź najbardziej prawdopodobną, a prawdopodobna nie znaczy prawdziwa. Cała reszta, z halucynacjami włącznie, wynika z tego jednego zdania.
Z mechanizmu wynika podział zadań. Model dobrze czyta tekst, przypisuje mu kategorię, skraca go i przepisuje z jednego formatu na drugi. Źle liczy, źle rozpoznaje, czego nie wie, i nie nadaje się na źródło prawdy o Waszej firmie. Danych firmowych sam nie ma, trzeba mu je podać przy każdym pytaniu.
Praktycznie: weź jedno powtarzalne zadanie na tekście, w którym błąd da się wyłapać przed wysyłką, i tam wpuść model. Zadania wymagające pewności zostaw regule albo człowiekowi. Który model, to najmniej ważna decyzja w tym projekcie i można ją odłożyć: kryteria zebraliśmy w porównaniu ChatGPT i Claude.
Co model językowy robi, gdy odpowiada na pytanie?
Wyobraź sobie funkcję, która dostaje kawałek tekstu i dopisuje do niego najbardziej prawdopodobny ciąg dalszy. Potem bierze to, co powstało, i dopisuje kolejny kawałek. I tak aż do końca odpowiedzi. To jest cały mechanizm, bez metafory i bez uproszczenia.
Prawdopodobieństwo bierze się z ogromnej liczby tekstów, na których model był uczony. Dlatego brzmi jak ktoś oczytany. I dlatego nie ma w środku bazy danych, do której mógłby zajrzeć, ani kalkulatora, który wykonałby działanie.
Dla firmy wniosek jest jeden: model produkuje tekst prawdopodobny, nie sprawdzony. Sprawdzanie to osobna czynność. Robi ją system, robi ją człowiek albo nie robi jej nikt, a wtedy nieprawdziwa odpowiedź idzie dalej w takim samym opakowaniu jak prawdziwa.
- Model nie wie, czy coś jest prawdą; wie, jak zwykle wygląda odpowiedź na takie pytanie
- Nie ma dostępu do Waszych systemów, dopóki ktoś mu ich nie poda
- Nie liczy, tylko odtwarza wzór działania na liczbach, więc wynik bywa prawie dobry
- To samo pytanie zadane dwa razy może dać dwie różne odpowiedzi, obie brzmiące sensownie
- Nie pamięta poprzedniej rozmowy, jeśli nikt jej nie dołączył do pytania
Dlaczego model zmyśla i co z tym zrobić?
Halucynacja to nie awaria, tylko ten sam mechanizm w niewygodnym momencie. Model, który nie ma w materiale odpowiedzi, i tak dopisuje najbardziej prawdopodobny ciąg dalszy. Powstaje zdanie poprawne językowo i nieprawdziwe, podane z tą samą pewnością co reszta.
Dlatego pytanie „czy model kłamie” jest źle postawione. On nie odróżnia wiedzy od zgadywania, bo w środku to ta sama operacja. Odróżnić musi Wasz proces: przez podanie dokumentów, z których wolno odpowiadać, przez walidację wyniku i przez zostawienie człowieka tam, gdzie błąd kosztuje.
Trzy rzeczy zbijają halucynacje najmocniej. Daj modelowi materiał źródłowy zamiast liczyć na jego pamięć. Wymuś wskazanie miejsca, z którego wzięła się odpowiedź. Napisz polecenie tak, żeby wolno mu było odpowiedzieć „nie mam tego w materiałach”. Szerzej opisujemy to w poradniku halucynacje AI: jak ich unikać.
Czym wiedza modelu różni się od danych Twojej firmy?
To rozróżnienie ginie w rozmowach o AI najczęściej, a od niego zależy, czy wdrożenie ma sens. Model zna język, ogólne fakty i sposób, w jaki ludzie piszą o świecie. Nie zna Waszego cennika, stanu magazynu ani tego, co ustaliliście z klientem w czwartek po południu.
Wiedzy o firmie nie da się do modelu wgrać raz na zawsze. Podaje się ją przy każdym pytaniu: system wyszukuje właściwy fragment dokumentu albo odpytuje Wasz CRM, arkusz czy hurtownię danych i dokłada wynik do polecenia. Model dostaje materiał i układa z niego odpowiedź. Tak pracuje BOND, nasz firmowy agent AI: pytasz po polsku, on sięga do systemów i odpowiada w 5 do 10 sekund. Mechanikę rozpisujemy na stronie agent AI na danych firmy.
| Rodzaj wiedzy | Skąd pochodzi | Co z tego wynika dla Ciebie |
|---|---|---|
| Język i ogólne fakty | trening modelu, zamknięty w chwili wydania danej wersji | działa bez konfiguracji, bywa nieaktualny i nie da się go poprawić po Waszej stronie |
| Dane z Waszych systemów | CRM, ERP, arkusze, hurtownia danych, dołączane do pytania | aktualne co do minuty, wymagają integracji i kontroli, kto co widzi |
| Dokumenty firmowe | regulaminy, umowy, instrukcje wyszukiwane pod konkretne pytanie | odpowiedź da się sprawdzić, bo wskazuje plik i fragment |
| Treść bieżącej rozmowy | to, co ktoś wkleił w tym oknie | znika razem z rozmową, nie staje się wiedzą firmy |
| Wyniki z internetu | wyszukiwarka podpięta do modelu | aktualne, ale odpowiadają za nie cudze strony, więc do decyzji wymagają sprawdzenia |
Środkowa kolumna jest ważniejsza, niż wygląda. Jeśli nie umiesz powiedzieć, skąd wzięła się odpowiedź, nie masz jak jej obronić ani przed klientem, ani przed kontrolą.
Na jakich trzech poziomach firmy używają modelu?
Mylenie tych poziomów jest źródłem większości nieporozumień w rozmowach o AI. Na pierwszym człowiek rozmawia z modelem i sam decyduje, co zrobić z odpowiedzią. Na drugim model siedzi w środku procesu i przetwarza dane bez patrzenia człowieka na każdy wynik. Na trzecim agent AI wykonuje działanie: zapisuje, wysyła, zmienia status w systemie.
Wartość rośnie z każdym krokiem, bo znika czas człowieka. Ryzyko rośnie razem z nią, bo znika też jego oko. To nie jest argument, żeby zostać na pierwszym poziomie. To argument, żeby na każdym kolejnym dokładać kontrolę, której poprzedni nie potrzebował.
Trzeci poziom pracuje u nas na produkcji od marca 2026, w dwóch spółkach naszych założycieli. Pomiar razem z tym, czego te liczby nie dowodzą, opisujemy na stronie AI dla firm.
| Poziom | Co dostajesz | Co musisz dołożyć |
|---|---|---|
| Rozmowa z człowiekiem | szybsze pisanie, streszczenia, pierwsza wersja tekstu; człowiek czyta każdą odpowiedź | konta firmowe zamiast prywatnych i jasną listę danych, których nie wolno wklejać |
| Model w środku procesu | setki dokumentów albo zgłoszeń przetworzonych bez udziału człowieka | walidację wyniku, próg pewności i ścieżkę wyjątku do człowieka |
| Agent wykonujący działanie | domknięty proces: agent czyta, wybiera w wąskich ramach i zapisuje wynik w systemie | ograniczone uprawnienia, log każdej operacji, możliwość cofnięcia |
Przeskok z pierwszego poziomu na trzeci w jednym kroku kończy się zwykle wycofaniem projektu. Na warsztacie ustawiamy pilot na drugim poziomie i idziemy wyżej dopiero wtedy, gdy błędy są policzone, a nie opisane wrażeniem.
Do jakich zadań model się nadaje, a do jakich nie?
Granica jest ostrzejsza, niż wynikałoby z reklam. Model jest dobry tam, gdzie wejściem i wyjściem jest tekst, a poprawność da się ocenić spojrzeniem. Jest słaby wszędzie tam, gdzie wynik musi być pewny, powtarzalny co do znaku i możliwy do wyprowadzenia z reguły.
Liczenie to najczęstsza pomyłka. Model potrafi napisać poprawnie wyglądające zestawienie faktur, w którym suma się nie zgadza, bo odtwarza wzór działania, zamiast je wykonać. Liczyć ma arkusz, baza albo kod. Model może co najwyżej wyciągnąć liczby z dokumentu i podać je dalej do policzenia.
| Zadanie | Czy model to udźwignie | Co zostaje po Twojej stronie |
|---|---|---|
| Czytanie dokumentu i wyciąganie z niego pól | tak, to jego najmocniejsza strona | reguła, co zrobić, gdy pola w dokumencie brakuje |
| Klasyfikowanie zgłoszeń i maili | tak, przy jasno opisanych kategoriach | lista kategorii i ścieżka dla przypadków niepewnych |
| Streszczanie długiego tekstu | tak, jeśli powiesz, co ma znaleźć się w streszczeniu | wskazanie, dla kogo jest streszczenie i do czego posłuży |
| Przepisanie treści z formatu na format | tak, to zadanie mechaniczne | szablon docelowy i sprawdzenie zgodności z nim |
| Policzenie sumy, marży albo terminu | nie, wynik bywa prawie dobry | obliczenie w arkuszu, bazie albo kodzie |
| Decyzja z konsekwencją prawną albo finansową | nie, model nie zna własnego progu pewności | decyzja człowieka albo reguła zapisana wprost |
| Bycie źródłem prawdy o firmie | nie, model nie ma Waszych danych | system, który dostarcza dane i wskazuje ich źródło |
Wiersze z „tak” łączy jedna cecha: wynik da się sprawdzić, zanim pójdzie dalej. To jest praktyczne kryterium na pierwsze wdrożenie, lepsze niż lista przypadków użycia z prezentacji dostawcy.
Kiedy zwykła reguła wystarczy i model jest zbędny?
Model kusi, bo robi wrażenie. Ale jeśli zadanie da się zapisać jako „gdy X, zrób Y”, to reguła wykona je taniej, szybciej i zawsze tak samo. Model dokłada w tym miejscu koszt zapytania, opóźnienie i element losowy, którego wcześniej w procesie nie było.
Kolejność z naszych warsztatów jest odwrotna niż w ofertach: najpierw sprawdzamy, czy wystarczy reguła w Make albo n8n. Model wchodzi dopiero tam, gdzie wejście jest nieuporządkowane, a wyjątków jest więcej, niż da się wypisać. Najwięcej wdrożeń psuje się nie na modelu, tylko na wstawieniu go w miejsce, gdzie wystarczyłby warunek.
- Przepięcie danych między systemami, gdy pola są te same: reguła, bez modelu
- Powiadomienie po przekroczeniu progu albo terminu: warunek, bez modelu
- Faktura zawsze w tym samym szablonie od tego samego dostawcy: parser, bez modelu
- Mail od klienta opisujący dwie sprawy naraz: tu reguła się kończy, zaczyna model
- Dokument, który każdy dostawca przysyła w innym układzie: model, bo wyjątków nie da się wypisać
Jak wpuścić model do procesu, żeby dało się to odkręcić?
Kolejność poniżej jest tą samą, którą stosujemy u klientów: warsztat, pilot na prawdziwych danych, produkcja, pomiar po 30 i 90 dniach. Nie dlatego, że jest ostrożna, tylko dlatego, że po każdym kroku wiadomo, co robić dalej. Pełny opis tej drogi, także po stronie kosztów i błędów, jest w przewodniku wdrożenie AI w firmie.
Najwięcej rozstrzyga się w kroku trzecim, przy pisaniu polecenia. To samo zadanie postawione precyzyjnie i postawione ogólnikowo daje różnicę większą niż zmiana dostawcy modelu. Jak pisać polecenia, żeby wynik był powtarzalny, rozpisujemy w poradniku prompt engineering dla firm.
Wybierz jedno zadanie
Powtarzalne, na tekście, z wynikiem, który ktoś dziś sprawdza wzrokiem. Nie zaczynaj od procesu, w którym błąd wychodzi dopiero u klienta.
Zbierz 20 prawdziwych spraw
Z ostatniego miesiąca, razem z przypadkami trudnymi. Do każdej dopisz, jak wygląda dobra odpowiedź. Robi to osoba, która wykonuje tę pracę dzisiaj, bo tylko ona wie, co idzie do wysyłki, a co do poprawki.
Napisz polecenie i sprawdź je na tych sprawach
Ocena zero-jedynkowa: do wysłania bez poprawki albo nie. Bez skali od 1 do 5, bo w skali wszystko wychodzi na cztery. Liczysz jedną liczbę: ile z 20 spraw przeszło.
Wpuść na produkcję z człowiekiem w środku
Przez pierwsze tygodnie model proponuje, człowiek zatwierdza. Zbierasz w tym czasie listę przypadków, w których się mylił, i to ona decyduje o kolejnym kroku, nie kalendarz projektu.
Zmierz po 30 i 90 dniach
Na wskaźnikach spisanych przed startem: ile spraw przeszło bez poprawki, ile godzin zeszło z zespołu, ile kosztowały zapytania. Bez tych liczb nie stwierdzisz, czy wolno iść na wyższy poziom.
Najczęstsze błędy
Pięć błędów przy wpuszczaniu modelu do firmy
Traktowanie modelu jak wyszukiwarki po danych firmy
Model odpowiada z tego, co wie o świecie, a nie z Waszego systemu. Odpowiedź brzmi wiarygodnie i dotyczy nie Waszej firmy. Bez integracji z danymi to zwyczajnie inne narzędzie.
Zlecanie modelowi liczenia
Suma, marża albo termin wychodzą prawie dobrze, czyli najgorzej jak można. Błąd jest za mały, żeby rzucił się w oczy, i za duży, żeby przeszedł przez księgowość.
Agent wykonujący działania bez logu i bez możliwości cofnięcia
Pierwsza pomyłka jest nieodwracalna, a nikt nie umie odtworzyć, co się stało. Kończy się to zwykle wycofaniem całego projektu, także tej części, która działała poprawnie.
Model tam, gdzie wystarczyłaby reguła
Płacisz za zapytania, czekasz dłużej i dokładasz losowość do procesu, który wcześniej był przewidywalny. Utrzymanie robi się droższe, a zysk zostaje zerowy.
Ocena na demie zamiast na własnych danych
Na przygotowanym przykładzie działa wszystko. Różnica wychodzi na Waszej fakturze korygującej i na mailu, w którym klient opisuje dwie sprawy naraz.
Lista kontrolna
Lista kontrolna przed wpuszczeniem modelu do procesu
Jeśli któryś punkt jest na „nie”, zadanie jeszcze nie jest gotowe dla modelu.
- Zadanie ma tekst na wejściu i tekst na wyjściu, a poprawność da się ocenić spojrzeniem
- Sprawdzone, czy zwykła reguła nie załatwia sprawy taniej i pewniej
- Dane firmowe dostarczane modelowi z systemu, nie zakładane po jego stronie
- Każda odpowiedź wskazuje źródło albo wprost przyznaje, że go nie ma
- 20 prawdziwych spraw z ostatniego miesiąca, z oczekiwaną odpowiedzią spisaną przez praktyka
- Liczenie po stronie arkusza, bazy albo kodu, nigdy po stronie modelu
- Log operacji i możliwość cofnięcia, zanim agent dostanie prawo zapisu w systemie
- Termin pomiaru po 30 i 90 dniach wpisany do kalendarza
Źródła
Źródła
- Anthropic: dokumentacja modeli Claude oraz warunki dla klientów firmowych
- OpenAI: dokumentacja modeli i warunki korzystania
- Rozporządzenie 2016/679 (RODO), art. 28 o podmiocie przetwarzającym i rozdział V o transferach poza EOG
- Rozporządzenie 2024/1689 (AI Act), obowiązki przy stosowaniu systemów AI
- JustAutomate, AI dla firm: wdrożenia u nas z metodą pomiaru i zastrzeżeniami
Zacznijmy od jednego zadania
Model wybiera się na końcu, nie na początku
Na bezpłatnej konsultacji (30 minut) bierzemy jedno Wasze zadanie i mówimy wprost, czy nadaje się dla modelu, czy wystarczy zwykła reguła. Warsztat procesowy kosztuje 2500 zł netto za tydzień i kończy się mapą procesu, listą zadań dla modelu oraz planem pilota na 30 dni. Wdrożenie wyceniamy po warsztacie, a koszt zapytań, od 0,02 do 0,30 zł za zapytanie, zostaje po Waszej stronie i płacicie go dostawcy bezpośrednio.
Umów bezpłatną konsultacjęNajczęstsze pytania
Czym jest LLM i czym różni się od zwykłego programu?
LLM to model językowy, który przewiduje kolejne kawałki tekstu na podstawie tego, co dostał na wejściu. Zwykły program wykonuje zapisane wprost instrukcje i przy tych samych danych zawsze zwróci ten sam wynik. Model zwraca wynik prawdopodobny, więc dwa uruchomienia mogą się różnić, a poprawność trzeba sprawdzić osobno.
Dlaczego model AI zmyśla?
Bo zawsze dopisuje najbardziej prawdopodobny ciąg dalszy, także wtedy, gdy odpowiedzi nie ma w materiale. Nie odróżnia wiedzy od zgadywania, bo w środku to ta sama operacja. Pomaga podanie dokumentów, z których wolno mu odpowiadać, wymuszenie wskazania źródła i zgoda na odpowiedź „nie mam tego w materiałach”.
Czy model zna dane mojej firmy?
Nie zna, dopóki mu ich nie podasz. Model wie, jak działa język i jak ludzie piszą o świecie, nie zna Waszego cennika ani stanu magazynu. Dane firmowe dokłada się do pytania: system wyszukuje fragment dokumentu albo odpytuje CRM i podaje wynik modelowi. Tak pracuje agent BOND, który odpowiada w 5 do 10 sekund.
Do czego LLM nadaje się w firmie najlepiej?
Do zadań, w których wejściem i wyjściem jest tekst: czytanie dokumentów i wyciąganie z nich pól, klasyfikowanie zgłoszeń, streszczanie, przepisywanie treści z jednego formatu na drugi. Te zadania łączy jedno: wynik da się sprawdzić wzrokiem, zanim pójdzie dalej, więc pomyłka modelu nie wychodzi dopiero u klienta.
Czy modelowi można powierzyć liczenie?
Nie. Model odtwarza wzór działania na liczbach, zamiast je policzyć, więc wynik bywa prawie poprawny, a to najgorszy rodzaj błędu. Liczyć ma arkusz, baza albo kod. Model może wyciągnąć liczby z dokumentu i podać je dalej, ale sumę wykonuje narzędzie stojące obok niego.
Czym różni się czat z modelem od agenta AI?
W czacie człowiek zadaje pytanie i sam decyduje, co zrobić z odpowiedzią. Agent AI ma dostęp do systemów firmy i wykonuje działanie: odczytuje dane, zapisuje wynik, zmienia status. Wartość jest większa, bo znika czas człowieka, więc trzeba dołożyć ograniczone uprawnienia, log każdej operacji i możliwość cofnięcia.
Ile kosztuje używanie modelu językowego w firmie?
Samo zapytanie kosztuje od 0,02 do 0,30 zł i płacicie je dostawcy bezpośrednio, a o miejscu w tych widełkach decyduje długość tekstu trafiającego do modelu. Do tego dochodzi wdrożenie, które wyceniamy po warsztacie, oraz czas zespołu na poprawki. Ten ostatni zwykle przewyższa koszt samych zapytań.
Czy do wdrożenia LLM potrzebny jest dział IT?
Do pierwszego testu nie. Wystarczy osoba, która zna proces i wie, jak wygląda dobra odpowiedź. Dział IT albo partner wdrożeniowy jest potrzebny przy wpięciu modelu w systemy, walidacji wyniku i pilnowaniu, żeby do modelu nie trafiały dane, których do wykonania zadania nie potrzebuje.