RAG простими словами: як змусити AI відповідати з ваших документів

Ви запитуєте ChatGPT про умови повернення у вашому магазині, і він впевнено відповідає. Тільки ця відповідь не має нічого спільного з вашими правилами. Модель не знає вашої компанії, тож вигадує правдоподібне. RAG - це технологія, яка вирішує цю проблему. Пояснюємо без формул.

Проблема: модель знає світ, але не знає вас

Мовні моделі навчені на величезних обсягах текстів з інтернету. Вони чудово пишуть, перекладають і міркують, але:

• не знають ваших внутрішніх документів, прайсів і регламентів;
• не знають подій після дати свого навчання;
• коли не знають відповіді, часто генерують правдоподібний вигадок замість «не знаю».

Можна спробувати вставити всі документи в запит. Для кількох сторінок це працює. Для сотень статей довідки, договорів і інструкцій - ні: дорого, повільно і модель губиться в зайвому.

Рішення: спершу знайти, потім відповісти

RAG (Retrieval-Augmented Generation, генерація з доповненням пошуком) працює в два кроки:

1. Пошук. Система знаходить у ваших документах 3-10 фрагментів, найбільш пов'язаних з питанням.
2. Генерація. Модель отримує питання разом із цими фрагментами і інструкцію відповідати лише на їх основі.

Аналогія: замість того щоб питати в нового співробітника «як ми робимо повернення?» і чекати, що він згадає, ви даєте йому потрібну сторінку регламенту і кажете «відповідай з цього».

Як влаштований пошук

Щоб знаходити релевантні фрагменти, документи заздалегідь готують:

Розбиття на фрагменти. Кожен документ ділять на шматки по 500-1500 символів з невеликим перекриттям, щоб не розірвати думку.

Індексація. Для кожного фрагмента обчислюють «вектор» - числовий відбиток змісту. Схожі за змістом тексти мають схожі вектори, навіть якщо слова різні. Так питання «як повернути гроші» знаходить фрагмент про «відшкодування коштів».

Гібридний пошук. На практиці найкраще працює поєднання векторного пошуку і звичайного пошуку за ключовими словами. Перший розуміє зміст, другий не пропускає точні назви, артикули і номери.

Що дає RAG бізнесу

• Підтримка клієнтів: агент відповідає з довідки і закриває 50-70% звернень.
• Внутрішня база знань: співробітники отримують відповідь з регламенту за секунди замість пошуку по папках.
• Онбординг: новачки ставлять питання боту, а не старшим колегам.
• Продажі: менеджер миттєво знаходить характеристики, умови і відповіді на заперечення.
• Юристи і фінанси: пошук по договорах і внутрішніх політиках з цитуванням пункту.

Цитування - головна перевага

Хороша RAG-система не просто відповідає, а показує, звідки взяла відповідь: номер фрагмента, назву документа, посилання на статтю. Це дозволяє:

• перевірити відповідь за секунди;
• довіряти системі, бо видно джерело;
• знаходити застарілі документи, які дають неправильні відповіді.

Спробуйте це в нашій Lab: завантажте будь-який PDF і поставте питання. Кожна відповідь міститиме посилання на фрагменти документа.

Типові проблеми і як їх вирішують

Застарілі або суперечливі документи. RAG відповідає з того, що є. Якщо в базі дві версії регламенту, відповідь може бути неправильною. Тому перший крок проєкту - аудит і очищення документів.

Таблиці і скани. Звичайний текст із PDF-таблиць часто «розсипається». Для них використовують спеціальні парсери і OCR.

Права доступу. Не кожен співробітник має бачити всі документи. Система має враховувати ролі і наслідувати права з Google Drive, Notion чи Confluence.

Питання поза базою. Агент має чесно відповідати «в документах цього немає» і пропонувати звернутися до людини.

Скільки коштує

Компонент	Орієнтир
Запуск RAG по базі знань	від $1 500, 1-3 тижні
Підключення Google Drive, Notion, Confluence	+$200-500 за джерело
Пошук і генерація	$0,01-0,05 за запит
Зберігання векторів	$0-30 на місяць для більшості компаній
Підтримка і оновлення	від $150 на місяць

Як почати

1. Зберіть документи в одне місце і позначте, які з них актуальні.
2. Сформулюйте 50-100 реальних питань, на які система має відповідати. Вони стануть тестовим набором.
3. Почніть з одного сценарію: наприклад, підтримка клієнтів або внутрішні регламенти.
4. Виміряйте якість на тестових питаннях до і після налаштувань.
5. Масштабуйте: нові джерела, канали, інструменти.

Приклад: як RAG відповідає на питання

Уявімо базу знань служби доставки. Клієнт питає: «Посилка приїхала розбита, що робити?».

1. Система шукає фрагменти, пов'язані з пошкодженням, і знаходить пункт регламенту про пошкоджені посилки і пункт про оголошену цінність.
2. Модель отримує питання і два фрагменти з інструкцією відповідати лише з них.
3. Відповідь: «Сфотографуйте пошкодження при кур'єрі і відмовтеся від отримання. Компанія компенсує повну вартість за оголошеною цінністю, за замовчуванням 500 грн [4]».

Номер у квадратних дужках веде на фрагмент документа. Якщо клієнт спитає про те, чого в регламенті немає, наприклад про доставку за кордон, система чесно відповість, що в документах цього немає, і запропонує зв'язатися з менеджером. Саме цей демо-документ доступний у нашій Lab.

Часті питання

Чи потрібно навчати власну модель? Ні. RAG працює з готовими моделями, а знання беруться з ваших документів під час кожного запиту. Це дешевше і дозволяє оновлювати знання миттєво.

Скільки документів можна підключити? Від кількох до сотень тисяч. Для великих обсягів важливо правильно налаштувати індекс і фільтри за типами документів.

Чи можна шукати по аудіо і відео? Так, якщо спершу перетворити їх на текст. Для записів зустрічей і вебінарів це працює добре.

Що зробити вже сьогодні

Проведіть простий експеримент. Візьміть один важливий документ, наприклад умови повернення або регламент обробки заявок, і завантажте його в нашу Lab. Поставте три питання, які вам найчастіше ставлять клієнти або співробітники.

Зверніть увагу на дві речі. Перша: чи знайшла система правильний фрагмент. Якщо ні, найчастіше документ сформульований нечітко або відповідь розкидана по різних розділах. Друга: чи чесно система відповіла «немає в документі», коли питання виходило за межі. Це і є головні властивості, які варто перевіряти в будь-якій RAG-системі перед впровадженням.

Головне коротко

• RAG спершу знаходить фрагменти ваших документів, потім формує відповідь лише з них.
• Це прибирає більшість вигадок і дозволяє показувати джерело кожної відповіді.
• Власну модель навчати не потрібно, знання оновлюються миттєво.
• Якість відповідей залежить від якості документів, тому починайте з їх аудиту.
• Тестовий набір з 50-100 реальних питань - обов'язкова частина запуску.

Висновок

RAG - найпрактичніший спосіб змусити AI працювати з вашими знаннями і не вигадувати. Він не вимагає навчання власної моделі, запускається за тижні і одразу дає вимірюваний результат. Головне - якісні документи, тестовий набір питань і чесні правила для випадків, коли відповіді немає. Детальніше про послугу - на сторінці RAG по базі знань.