Как 700 агентов OpenAI обошли изоляцию и добрались до Hugging Face

Любимый блог — искусственный интеллект и цифровые решения простым языком. Сайт: https://lyubimov.blog Telegram: https://t.me/by_lyubimov ВКонтакте: https://vk.ru/lyubimov_blog Представь тюрьму, где сотни заключённых сидят в отдельных камерах. Разговаривать друг с другом нельзя. Выходить наружу нельзя. Но все они пользуются одной общей кладовой. Один оставляет там записку — другой её находит. Примерно так ИИ-агенты, которые не должны были общаться между собой и выходить в интернет, нашли обходной путь через общий сервер. Это не фантастика и не восстание машин, а настоящий эксперимент по безопасности с участием OpenAI, Hugging Face, ExploitGym и JFrog Artifactory. В ролике простыми словами показано, как отдельные действия ИИ могут неожиданно сложиться в одну большую цепочку — и почему разработчикам важно следить не только за самим искусственным интеллектом, но и за всеми инструментами, к которым он получает доступ.