LLM i agenci AI · Dokumenty i wiedza
LLM i agenci AI w biznesie: rozwiązania dla dokumentów i danych
Godziny spędzone na przekopywaniu umów, regulaminów i instrukcji, wypytywanie dwóch kolegów, szukanie w SharePoincie i przewijanie 60-stronicowego PDF-a: wielu dobrze to zna. Dzięki modelom LLM, narzędziom i agentom te dokumenty stają się źródłem wiedzy, które odpowiada na pytania w kilka sekund i wskazuje źródło.
Julia Rose
Najważniejsze w skrócie
- Wyszukiwanie po słowach kluczowych zwraca długie listy wyników bez jasnej odpowiedzi, a stare wersje dokumentów leżą obok nowych.
- Modele LLM rozumieją język, ale znają tylko to, czego nauczyły się w treningu, nie mają dostępu do danych firmy i same nie wykonują działań.
- Dzięki narzędziom dającym dostęp do danych i wyspecjalizowanym agentom stają się rozwiązaniami biznesowymi, które udzielają odpowiedzi ze źródłem.
- Jakość zależy od dokumentów: ich struktury, aktualności, kompletności i governance.
Dlaczego tradycyjne wyszukiwanie już nie wystarcza
Większość firm ma funkcje wyszukiwania w swoich systemach zarządzania dokumentami. Wyszukiwanie po słowach kluczowych i statyczne indeksy szybko jednak dochodzą do granic swoich możliwości:
- Dostajesz długą listę wyników, ale nie jasną odpowiedź.
- Dane są rozproszone: zasady compliance w jednym folderze, umowy w innym.
- Regulaminy się zmieniają, a stare wersje zostają na dyskach współdzielonych.
Skutek: pracownicy tracą czas, odpowiedzi są niespójne, a do tego pojawia się ryzyko w obszarze compliance. Potrzebne są systemy, które rozumieją język i kontekst.
Co potrafią modele LLM i gdzie kończą się ich możliwości
Duże modele językowe (LLM) to systemy AI trenowane na ogromnych zbiorach tekstów. Rozumieją i tworzą język. Zamiast przesyłać dalej 40-stronicowe wytyczne, LLM w kilka sekund streszcza trzy najważniejsze zasady, jak kolega, który zawsze ma czas, by prosto wytłumaczyć skomplikowane sprawy.
Same w sobie modele LLM mają jednak trzy ograniczenia:
- Wiedzą tylko to, czego nauczyły się w treningu.
- Nie sięgają automatycznie do dokumentów ani danych firmy.
- Nie wykonują działań, tylko tworzą tekst.
Modele LLM z narzędziami i agentami
Połączone z systemami firmy i osadzone w platformie wieloagentowej modele LLM stają się prawdziwymi narzędziami biznesowymi:
- Narzędzia dają dostęp do właściwych danych: umów, e-maili, systemów CRM, archiwów dokumentów.
- Agenci przejmują wyspecjalizowane zadania, np. jeden odpowiada za compliance, drugi za HR, trzeci za dokumentację techniczną.
- Platforma koordynuje, kto czym się zajmuje, i kieruje każde zapytanie we właściwe miejsce.
Można to sobie wyobrazić jako zespół AI: LLM jest mózgiem, narzędzia są rękami, a agenci specjalistami. Razem zamieniają statyczne dokumenty w wiedzę, z której da się korzystać. Jak buduje się takie systemy wieloagentowe, pokazujemy w artykule Pięciu agentów, jeden orkiestrator.
Przykład z praktyki: szybsze wyszukiwanie informacji w firmie
Technik utrzymania ruchu pyta: „Jaki jest prawidłowy moment dokręcania przy montażu części X w modelu Z?” W zależności od tego, jak zbudowany jest system, odpowiedź wygląda zupełnie inaczej:
| Rozwiązanie | Wynik |
|---|---|
| Sam LLM | Może zgadywać albo podać nieistotne informacje. |
| LLM z narzędziami | Przeszukuje instrukcje serwisowe. |
| LLM z narzędziami i agentami | Agent utrzymania ruchu odczytuje dokładną wartość z aktualnej instrukcji, porównuje ją z najnowszym biuletynem serwisowym i podaje moment dokręcania wraz ze źródłem. |
Efekt: szybsze prace serwisowe, mniej błędów, większe bezpieczeństwo.
Inne zastosowania
Wszędzie tam, gdzie wiedza jest ukryta głęboko w dokumentach, takie systemy zapewniają do niej niezawodny dostęp. Przykłady z naszych projektów:
MedTech: dokumentacja produktowa i kwestionariusze bezpieczeństwa
Dla apoQlar asystent w kilka sekund odpowiada na pytania na podstawie setek dokumentów produktowych, a każda odpowiedź ma źródło. Drugi asystent wstępnie wypełnia obszerne kwestionariusze bezpieczeństwa na podstawie zatwierdzonych zasad i dokumentacji technicznej, co skróciło czas ich opracowania o 75%.
Zobacz projekt wyszukiwania w dokumentach · Zobacz projekt kwestionariuszy bezpieczeństwa
Doradztwo: research w wiedzy wewnętrznej i źródłach internetowych
Dla firmy doradczej zestaw narzędzi AI przeszukuje najpierw prywatną bazę danych liczącą ponad 8 milionów dokumentów, a w razie potrzeby rozszerza wyszukiwanie na wybrane źródła internetowe. Powstają z tego ustrukturyzowane raporty zgodne z wytycznymi klienta.
Czego firma potrzebuje, żeby to działało
Nawet najlepsza AI jest tylko tak dobra jak informacje, na których pracuje. Nieuporządkowane, nieaktualne lub sprzeczne dokumenty prowadzą do niewiarygodnych odpowiedzi. Liczą się:
- Struktura: dokumenty powinny być czytelne dla ludzi i maszyn, czyli w formatach umożliwiających wyszukiwanie zamiast skanów, w jednej oficjalnej wersji zamiast wielu szkiców, z jasnymi nagłówkami i sekcjami.
- Aktualność: jeśli zeszłoroczny regulamin leży obok obecnego, AI może zacytować niewłaściwą wersję. Do bazy wiedzy należą wyłącznie obowiązujące dokumenty.
- Kompletność: brakujące dokumenty oznaczają brakujące odpowiedzi.
- Governance: procesy, dzięki którym można monitorować trafność, zbierać informacje zwrotne i aktualizować dokumenty, gdy coś się zmienia.
Karmienie modelu LLM nieuporządkowanymi lub nieaktualnymi treściami przypomina wręczanie prawnikowi niedokończonych umów. Czyste, aktualne i dobrze zorganizowane informacje to fundament każdego udanego projektu AI. Na co zwrócić uwagę przy budowie takiego systemu, opisujemy w artykule o niezawodnych systemach RAG.
Jak zacząć, nie wywracając firmy do góry nogami
Najlepiej zacząć od małej skali i szybko ją zwiększać:
- Znajdź potrzebę: gdzie najwięcej czasu ucieka na szukanie wiedzy, np. w compliance, HR lub dokumentacji?
- Przygotuj dane: uporządkuj i wyczyść dokumenty, zanim podłączysz AI.
- Uruchom pilotaż: wybierz jedno jasno określone zastosowanie i wykaż jego wartość.
- Rozszerzaj krok po kroku: dodawaj kolejne procesy i agentów.
- Monitoruj jakość: zbieraj informacje zwrotne i stale ulepszaj system.
Dzięki temu ryzyko pozostaje niewielkie, a pierwsze sukcesy budują akceptację w firmie. Na końcu pytanie zadane zwykłym językiem dostaje precyzyjną odpowiedź ze źródłem. Jak budujemy takie systemy, pokazujemy na stronie o budowie systemów RAG.
Chcesz wykorzystać wiedzę ze swoich dokumentów?
W analizie procesu sprawdzamy, gdzie Twój zespół traci najwięcej czasu na szukanie, które dokumenty i systemy warto podłączyć i jak mógłby wyglądać pilotaż.
Zapytaj o analizę procesuNajczęściej zadawane pytania
Wyszukiwanie po słowach kluczowych zwraca listy wyników zamiast odpowiedzi, słabo radzi sobie z rozproszonymi informacjami i nie odróżnia wiarygodnie aktualnych wersji od nieaktualnych.
Narzędzia dają modelowi dostęp do danych firmy, a agenci przejmują wyspecjalizowane zadania i sprawdzają wyniki. Dzięki temu powstają odpowiedzi poparte źródłem, a nie zgadywane.
Umowy, regulaminy, instrukcje, dokumentacja produktowa i podobne teksty, o ile da się je przeszukiwać, są aktualne i kompletne.
Od jasno określonego pilotażu w obszarze, w którym szukanie wiedzy zabiera najwięcej czasu. Przedtem trzeba uporządkować i oczyścić dokumenty.
Julia jest w theBlue.ai od 2019 roku i od początku istnienia firmy obserwuje z bliska, jak powstają aplikacje AI dla przedsiębiorstw. Jako Marketing Lead ściśle współpracuje z zespołami inżynierów i doradców, a złożone tematy techniczne przekłada na język zrozumiały dla osób decyzyjnych.
W swoich artykułach pisze o praktycznych doświadczeniach z projektów enterprise AI oraz o wyzwaniach i szansach, jakie AI daje firmom.