Qwen 3.8 на RTX 2080. Рабочий день с реальными задачами

256 подписчиков

12+
12+

158 просмотров

месяц назад

ПожаловатьсяНарушение авторских прав

256 подписчиков

12+
12+

158 просмотров

месяц назад

ПожаловатьсяНарушение авторских прав
12+
12+

158 просмотров

месяц назад

Мой ИИ-провайдер: https://ai.wormsoft.ru Мой Telegram-канал: https://t.me/gmoreva Целый рабочий день гоняю Qwen 3.8 27B в реальных агентских и разработческих сценариях — без постановочных задачек, только боевые проекты. План был такой: начинаем с Q4_K_M на одной 2080 (22 ГБ VRAM), если не справится — поднимаем ставки до Q8.0 на двух 2080, а потом и до FP8 на двух 3090. Но всё пошло не по плану и все задачи сделала 2080 с запущенным на ней q4km. Что тестировали: — генерация лендинга одним промптом (Q4_K_M vs Q8.0); — Telegram-коннектор к агенту: управление локальной моделью с телефона; — полноценное приложение трекера тренировок: фронт, бэк, проверка через браузер, субагенты и автономная работа 2+ часа; — реальная продуктовая задача: страница аналитики расходов в личном кабинете, работа с такс-менеджером, комментариями и создание MR в GitLab через MCP; — починка дашборда в Grafana: SQL-запросы к Postgres, расчёт кредитов и стоимости по моделям; — сбор информации из Obsidian и бронирований с поездки. Внутри ролика: — сколько контекста реально влезает в 22 ГБ VRAM и чем это ограничивает; — почему я отключаю reasoning у локальных моделей; — работа с субагентами и MCP (браузер, GitLab, Grafana, Postgres); — где Q4_K_M буксует, а где удивляет; — честные выводы: может ли локальная модель на дешёвом железе заменить облачную в агентской разработке. Запись заняла почти весь рабочий день — смотрите, что из этого вышло. #Qwen #локальнаяLLM #агентскийкодинг #llamacpp #Qwen3 #нейросети Таймкоды: 00:00 Введение 00:35 План ролика 03:52 Задача из провайдера 08:36 Делаем коннектор к pi.dev 23:16 Делаем систему учета тренировок 35:23 Создаем субагентов 42:54 Проверяем результат трекера тренировок 49:06 Третья задача. Аналитика расходов в провайдере 01:00:20 Смотрим результат. Пишем правки 01:11:32 Добавляем дашборды в Grafana 01:24:13 Агентская задача с браузером 01:27:57 Подведение итогов

Название:

Qwen 3.8 на RTX 2080. Рабочий день с реальными задачами