Preskočiť na obsah
{ RBH } TECHNOLOGY
Späť na blog
AI · 5 min čítania

AI chatbot nad vašimi dokumentmi (RAG): ako funguje a čo dokáže

Zamestnanci strácajú hodiny hľadaním v zmluvách, smerniciach a manuáloch. Ukážeme, ako AI chatbot nad firemnými dokumentmi (RAG) odpovedá z vašich dát - s odkazom na zdroj.

Ing. Richard Böhmer

Schéma RAG: používateľ sa pýta AI asistenta, ktorý vyhľadá vo vašich dokumentoch a vygeneruje odpoveď

„Kde nájdem aktuálnu verziu tej smernice?” „Aká je výpovedná lehota v zmluve s týmto dodávateľom?” „Čo hovorí manuál o tomto chybovom kóde?” Vo väčšine firiem je odpoveď rovnaká: niekto to ide hľadať - v zdieľanom disku, e-maile alebo v hlave kolegu, ktorý má práve dovolenku. AI chatbot nad vašimi dokumentmi (technicky RAG) tento problém rieši priamočiaro: opýtate sa prirodzeným jazykom a dostanete odpoveď z vašich dokumentov, s odkazom na zdroj.

Čo je RAG (jednoducho)

RAG je skratka pre Retrieval-Augmented Generation - po slovensky „generovanie odpovede obohatené o vyhľadávanie”. Znie to komplikovane, ale princíp je jednoduchý:

Namiesto toho, aby AI odpovedala „z hlavy” (a občas si vymýšľala), najprv si nájde relevantné pasáže vo vašich dokumentoch a až potom z nich zostaví odpoveď. Je to rozdiel medzi študentom, ktorý háda na skúške, a študentom, ktorý si najprv nalistuje správnu stranu v učebnici.

Ako to funguje - v 4 krokoch

  1. Otázka - zamestnanec sa opýta prirodzeným jazykom, napr. „Aký je proces schvaľovania dovolenky pre vedúceho?”
  2. Vyhľadanie (retrieve) - systém prehľadá vaše dokumenty (smernice, zmluvy, manuály, wiki) a nájde najrelevantnejšie časti.
  3. Vygenerovanie (generate) - jazykový model (GPT, Claude, Azure OpenAI) z nájdených pasáží zostaví zrozumiteľnú odpoveď.
  4. Odpoveď so zdrojom - zamestnanec dostane odpoveď aj s odkazom na konkrétny dokument, takže si to vie overiť.

Kľúčové je práve to posledné: odpoveď nie je „dôveruj mi”, ale „tu je odpoveď a tu je dokument, z ktorého pochádza”.

Čo to reálne dokáže

  • HR a interné smernice - „Koľko dní PN mi prepláca zamestnávateľ?” bez otravovania personálneho.
  • Zmluvy a právne dokumenty - rýchle odpovede na výpovedné lehoty, sankcie, podmienky - s odkazom na konkrétny článok.
  • Technická dokumentácia a manuály - servisný technik dostane postup k chybovému kódu za sekundy, nie za pol hodinu listovania.
  • Zákaznícka podpora - agent (alebo priamo zákazník) dostane presnú odpoveď z vašej dokumentácie, konzistentne.
  • Onboarding - nový človek sa pýta chatbota namiesto toho, aby prerušoval kolegov.

Typický prínos: drastické skrátenie času hľadania a menej opakovaných otázok na kľúčových ľudí.

Prečo nie „len ChatGPT”

Bežný ChatGPT je skvelý, ale nepozná vaše dokumenty a keď nevie, občas si odpoveď vymyslí (halucinácia). RAG rieši oba problémy:

  • Odpovedá z vašich dát, nie z internetu.
  • Menej halucinácií - keď odpoveď v dokumentoch nie je, dobre navrhnutý systém povie „neviem”, nie vymyslenú vetu.
  • Odkaz na zdroj - každú odpoveď si viete overiť.
  • Aktuálnosť - keď zmeníte smernicu, chatbot hneď odpovedá podľa novej verzie.

O tom, kde AI vo firme reálne dáva zmysel a kde je skôr drahou hračkou, sme písali v článku AI agenti vo firme: kde reálne dávajú zmysel.

Čo treba, aby to fungovalo

RAG nie je zázrak na neporiadok. Aby dobre fungoval, potrebuje:

  • Dostupné dokumenty - tam, kde sa k nim systém dostane (nie len v hlave kolegu).
  • Aký-taký poriadok - duplicity a tri verzie tej istej smernice zhoršia odpovede. Platí staré známe „garbage in, garbage out” - viac v článku Kvalita dát: prečo jej nedôverujete.
  • Prístupové práva - aby každý videl len to, na čo má právo.

Dobrá správa: nemusíte mať poriadok v úplne všetkom. Začne sa jednou oblasťou (napr. HR alebo technická dokumentácia) a rozširuje sa.

A čo bezpečnosť?

Najčastejšia otázka. Riešenie sa dá postaviť tak, že:

  • Dáta zostávajú vaše - beží to vo vašom prostredí alebo v dôveryhodnom cloude (napr. Azure OpenAI), bez trénovania modelu na vašich dátach.
  • Prístupové práva sa dodržiavajú rovnako ako v origináli dokumentov.
  • Každá odpoveď je auditovateľná - viete, z čoho vychádzala.

Koľko to stojí

Jednoduchý chatbot nad dokumentmi sa dá rozbehnúť rýchlo a lacnejšie, než väčšina ľudí čaká - konkrétne rozpätia sme rozpísali v článku Koľko stojí nasadenie AI agenta.


Chcete chatbota, ktorý pozná vaše dokumenty? Pozrite si naše AI projekty alebo nám napíšte - na nezáväznej konzultácii navrhneme riešenie na mieru vašim dátam.

Tagy: #ai #rag #chatbot #automatizácia

Potrebujete pomoc s podobným projektom?

Začnime nezáväzným rozhovorom o tom, ako môžeme priniesť hodnotu vašim dátam.