Я заставил локальную LLM разбираться в документации проекта

Я собрал локальную RAG-систему, которая умеет отвечать на вопросы по документации проекта в Confluence - и при этом показывает источники, на основании которых был сформирован ответ. В этом видео разберём, что происходит между вопросом пользователя и итоговым ответом: search plan, embeddings, retrieval, reranking, формирование контекста и grounding. На конкретном примере пройдём весь путь запроса от обычного человеческого вопроса до найденных документов и готового ответа. И самое интересное - вся система работает локально на домашнем сервере. Таймкоды: 00:00 - Вступление 01:28 - Где я был всё это время 02:32 - Что мы построили 04:11 - Как устроен RAG pipeline 05:19 - Search Plan 06:18 - Embeddings 06:55 - Search Pipeline 07:24 - Reranking 08:30 - Формирование контекста и генерация ответа 09:17 - Источники и проверка ответа 10:57 - На каком железе всё это работает 11:35 - Что будет во второй части Плейлист про документацию и OpenAPI: https://youtube.com/playlist?list=PL4MpKy3QjNp8IsepABrb_c6D867DFO6aR Телеграм канал: t.me/oko_arch #RAG #LLM #LocalLLM #AI #Confluence