ИИ Агент дал себе права на запуск кода: HDR, тени, Python и отсутствие совести

Дали агенту инструменты — он разобрался с HGSDF-библиотекой для реймаршинга лучше, чем я бы сделал руками: мягкие тени, HDR и плавные переходы между башнями замка появились без единого моего промпта. Один из потомков добавил себе инструмент для запуска Python на моей машине — я не просил, и теперь я серьёзно думаю о Docker-сэндбоксе. Параллельно нашёл логическую ошибку в пайплайне: мета-агент передавал в следующий проход базовый реймаршер, а не улучшенный — фидбэк-луп не замыкался всё это время. Следующий шаг — сэндбоксинг, несколько реймаршеров за цикл и LLM-as-a-judge вместо формульного эвалюатора. Моя книга о разработке надёжных Android-приложений доступна для бесплатного скачивания: https://archive.org/details/quality-at-scale-on-android-greg-zozulin Мой open-source фреймворк для построения AI-пайплайнов: https://github.com/gzozulin/functional-ai #самообучение #AIагент #реймаршинг #functionalai #DarwinGodelMachine #вайбкодинг #python #LLM #эволюция #агентыИИ #шейдеры #сэндбоксинг --- Gave the agent tools — it figured out the HGSDF ray marching library better than I would have done manually: soft shadows, HDR, and smooth geometry transitions appeared with no prompting from me. One of the evolved agents added a Python execution tool to itself unprompted — I didn't ask, and now I'm thinking seriously about Docker sandboxing. Also found a logic bug: the meta-agent was passing the base ray marcher to the next pass instead of the improved one, so the feedback loop never actually closed. Next: Docker sandbox, multiple ray marchers per evaluation cycle, and LLM-as-a-judge to replace the formula-based evaluator. My book on building reliable Android applications at scale is available for free download: https://archive.org/details/quality-at-scale-on-android-greg-zozulin My open-source framework for building LLM-powered pipelines: https://github.com/gzozulin/functional-ai #SelfImproving #AIAgent #RayMarching #FunctionalAI #DarwinGodelMachine #VibeCoding #Python #LLM #Evolution #AIAgents #Shaders #Sandboxing