LocalModAI #6 — Вышибала: защита памяти, паролей и ответов модели

LocalModAI в Telegram t.me/LocalModAI В этом видео рассказываю про “Вышибалу” — защитный слой LocalModAI, который должен проверять ответы модели, изменения памяти проекта и работу с личными данными. Показываю, зачем такой слой нужен даже на раннем этапе MVP: модель может вывести лишние рассуждения, попытаться сохранить важные данные не туда или предложить изменить память проекта без подтверждения. В ролике говорю про: — почему LocalModAI не должен слепо доверять модели; — зачем нужен контроль перед сохранением в память проекта; — чем отличаются обычные данные, личные данные и защищённые данные; — почему пароли и токены нельзя просто показывать в чате; — почему в будущем режиме автовыполнения защитный слой станет ещё важнее. Сейчас Вышибала работает на простых правилах. В будущем я хочу сделать его умнее: с журналом срабатываний, обучением на примерах и более точным разделением действий. Проект находится на этапе MVP — минимальной рабочей версии. Это честный дневник разработки LocalModAI с нуля: что получилось, что сломалось, какие решения приняты и как проект постепенно превращается в рабочий инструмент.