LLM i agenci AI · Branże
Zastosowania agentów LLM w różnych branżach
Agent LLM planuje kroki, pobiera dane z Twoich systemów i doprowadza zadanie do wyniku. Nasze projekty pokazują, jak buduje się agentów i jakie zadania przejmują dziś w motoryzacji, produkcji, ochronie zdrowia, public affairs i administracji publicznej.
Aleksandra Osztynowicz
Najważniejsze w skrócie
- Sercem agenta LLM jest duży model językowy, uzupełniony o narzędzia, pamięć, planowanie i reguły.
- Firmy nie trenują w tym celu własnego modelu językowego. Najwięcej pracy wymagają narzędzia, dane, integracja i testy.
- Przykłady z naszych projektów: dane planistyczne z SAP BW w kilka sekund, o 90% mniej ręcznych interwencji przy wprowadzaniu zamówień, o 70% mniej rutynowej pracy w zespole public affairs.
- Nie każdy proces potrzebuje agenta. Czasem wystarczą reguły albo pojedynczy krok modelu.
Czym jest agent LLM
Agent LLM wykorzystuje duży model językowy jako centralny element sterujący. Model rozumie zlecenie, dzieli je na kroki, decyduje, jakich narzędzi potrzebuje, i sprawdza wynik. Od chatbota odróżnia go to, że działa: agent odczytuje dane z systemów, pisze wersje robocze, zakłada zgłoszenia albo uruchamia kolejny krok procesu.
Jak zbudowany jest agent LLM
| Element | Rola |
|---|---|
| Rdzeń | Model językowy rozumie zlecenie, wnioskuje i wybiera kolejny krok. |
| Planowanie | Dzieli duże zadania na mniejsze kroki i w razie potrzeby koryguje plan. |
| Narzędzia | Zdefiniowany dostęp do systemów, np. odczyt danych z ERP, zapytanie do bazy danych albo szkic e-maila. |
| Pamięć | Przechowuje historię, kontekst i wcześniejsze wyniki przez kolejne kroki. |
| Wiedza | Odpowiedzi na podstawie dokumentów firmy, zwykle podłączonych przez RAG. |
| Reguły i prompty | Określają rolę, cel i granice, np. które działania wymagają zatwierdzenia. |
Na produkcji dochodzą do tego logowanie i przekazywanie spraw ludziom: wszystko, czego agent nie potrafi rozstrzygnąć z pewnością, trafia do osoby odpowiedzialnej.
Zastosowania w poszczególnych branżach
Motoryzacja: odpowiedzi z kilku systemów
Z praktyki: producent samochodów premium (objęty NDA)
Planiści produktu spędzali godziny na odpytywaniu SAP BW i kilku hurtowni danych. Dziś asystent przyjmuje pytanie po niemiecku lub angielsku, tekstem lub głosem, decyduje, które systemy odpytać, i łączy wyniki. Godziny zamieniają się w sekundy, a dane pozostają we własnej infrastrukturze firmy.
Produkcja: zamówienia z e-maili
Z praktyki: Radaway
System klasyfikuje każdy przychodzący e-mail, odczytuje zamówienia razem z załącznikami, dopasowuje produkty do bazy danych i weryfikuje wynik, zanim trafi on do działu wprowadzania zamówień. Efekt: o 90% mniej ręcznych interwencji i ponad 95% trafności dopasowania produktów.
Ochrona zdrowia i wydarzenia: odpowiedzi na pytania na żywo
Z praktyki: Niemiecki Kongres Chirurgiczny (DCK)
Podczas 141. Kongresu Niemieckiego Towarzystwa Chirurgicznego asystent głosowy przez cztery dni odpowiadał na pytania o program i drogę do sal. Odpowiadając, pobierał przez wywołania funkcji (function calling) dane programowe setek równoległych sesji. Działał na kiosku z ekranem i w VR.
Public affairs i doradztwo: analiza dokumentów
Z praktyki: RPP Group
W zespole public affairs pięciu wyspecjalizowanych agentów przegląda nowe dokumenty polityczne, streszcza najważniejsze punkty, porządkuje stanowiska i przygotowuje treści zgodnie z wewnętrznymi standardami. Rutynowej pracy jest o 70% mniej, a ostatnie słowo należy do ekspertów.
Administracja publiczna: właściwe kierowanie zapytań
Z praktyki: instytucja nadzoru technicznego
Obywatele pytają potocznym językiem, a odpowiedzi kryją się w dokumentacji technicznej. Agent główny odczytuje pytanie i rozdziela je między 11 wyspecjalizowanych obszarów wiedzy; nikt nie musi wcześniej wybierać kategorii.
Przykład: agent w obsłudze klienta
Uproszczony przykład z handlu internetowego pokazuje, jak agent współpracuje z systemami. Scenariusz jest fikcyjny i służy wyłącznie jako ilustracja.
- Zapytanie: klientka pyta na czacie, gdzie jest jej zamówienie.
- Plan: agent rozpoznaje, że potrzebuje numeru zamówienia, jego statusu i informacji o przesyłce.
- Narzędzia: przez interfejs odpytuje system zamówień, wyłącznie do odczytu i tylko w odniesieniu do tej klientki.
- Odpowiedź: podaje status i link do śledzenia przesyłki.
- Przekazanie: jeśli paczka jest uszkodzona lub zaginęła, zakłada zgłoszenie i przekazuje sprawę zespołowi obsługi.
Od strony technicznej dostęp odbywa się przez zdefiniowane interfejsy, np. bramkę API przed systemem zamówień i bazą danych. Dzięki temu jest jasne, co agentowi wolno, a czego nie.
Jak firmy wdrażają agentów LLM
- Określ zadanie: jasno wydzielony proces z mierzalnym wynikiem, np. przyjmowanie zamówień albo zapytania o dane planistyczne.
- Ustal narzędzia i uprawnienia: które systemy agent może odczytywać lub zmieniać i które działania wymagają zatwierdzenia.
- Podłącz wiedzę: przygotuj dokumenty i dane tak, by agent pracował na aktualnych źródłach.
- Zbuduj prototyp na prawdziwych przypadkach: testuj na rzeczywistych zapytaniach, także z wyjątkami i brakującymi informacjami.
- Oceń wyniki: zmierz trafność, odsetek spraw przekazywanych ludziom i czas działania, zanim agent trafi na produkcję.
- Monitoruj działanie: przeglądaj logi, analizuj błędy i stale ulepszaj agenta.
Nie trenuje się przy tym własnego modelu językowego. Dlaczego przejście od pilotażu do produkcji często się nie udaje, opisujemy w artykule Pilotaż się udał, wdrożenie nie.
Kiedy agent ma sens
Nie każdy proces potrzebuje agenta. Stałe przebiegi pracy z jasnymi regułami często lepiej obsłużą reguły i skrypty. Wiele zadań wymaga tylko jednego kroku modelu, np. streszczenia. Agent opłaca się wtedy, gdy zadanie łączy kilka kroków i systemów, a za każdym razem przebiega trochę inaczej. Przy jeszcze większych zadaniach współpracuje ze sobą kilku agentów, co opisujemy w artykule o systemach wieloagentowych.
Które zadanie powinien przejąć agent?
Sprawdzamy, czy do Twojego procesu pasują reguły, pojedynczy krok modelu czy agent, i jak połączyć rozwiązanie z Twoimi systemami.
Zapytaj o analizę procesuNajczęściej zadawane pytania
To system AI, którego sercem jest duży model językowy, uzupełniony o planowanie, narzędzia, pamięć i reguły. Dzięki temu może wykonywać zadania w kilku krokach i działać w istniejących systemach.
Chatbot odpowiada na pytania. Agent dodatkowo planuje kroki, pobiera dane lub uruchamia działania przez zdefiniowane narzędzia, a to, czego nie potrafi rozstrzygnąć z pewnością, przekazuje ludziom.
Na przykład w motoryzacji do zapytań o dane planistyczne, w produkcji do przyjmowania zamówień, w ochronie zdrowia i na kongresach do obsługi pytań uczestników, w public affairs do analizy dokumentów, a w administracji publicznej do zapytań obywateli.
Zwykle nie. Agenci opierają się na istniejących modelach językowych. Praca polega na przygotowaniu narzędzi, podłączeniu danych, integracji, testach i utrzymaniu.
Aleksandra od 2021 roku tworzy w theBlue.ai dedykowane rozwiązania AI. Specjalizuje się w systemach agentowych i wdrożeniach lokalnych modeli LLM dopasowanych do potrzeb firm. Jako AI Engineer pomaga organizacjom automatyzować procesy za pomocą systemów gotowych do pracy produkcyjnej: od modeli open source działających on-premise po wewnętrzne bazy wiedzy oparte na RAG dla branż regulowanych. Na bieżąco poszerza swoją wiedzę w szybko zmieniającym się świecie sztucznej inteligencji.
W swoich artykułach dzieli się doświadczeniem z prawdziwych projektów enterprise AI i pokazuje, że wdrożenie AI w firmie nie musi być skomplikowane.