Комплексный подход к формальной верификации систем ИИ - Дмитрий Кондратьев - Семинар AGI

Комплексный подход к формальной верификации систем искусственного интеллекта, основанных на нейронных сетях - Кондратьев Дмитрий Александрович (кандидат физико-математических наук, научный сотрудник Института систем информатики им. А.П. Ершова СО РАН и старший преподаватель Новосибирского государственного университета) Семинар русскоязычного сообщества AGI 17 сентября 2026 18:00 мск В настоящее время искусственный интеллект, основанный на нейронных сетях, стал активно применяться в программном обеспечении систем, к надежности и корректности которых предъявляются повышенные требования. В качестве примера таких систем можно привести беспилотные авиационные системы, беспилотные транспортные системы, роботизированные системы, экспертные системы в банковской сфере и т.д. Традиционно для проверки корректности и надежности программного обеспечения применяется тестирование. Но известно, что тестирование не может гарантировать корректность программ. Это может сделать только формальная верификация, которая позволяет формально доказать, что программа корректна относительно своих спецификаций. Формальную верификацию можно применить и к нейронным сетям, чтобы сделать основанный на них искусственный интеллект доверенным. В отличие от тематики формальной верификации программного обеспечения общего назначения, тематика формальной верификации нейронных сетей начала активно развиваться относительно недавно. Итого, проблема формальной верификации систем искусственного интеллекта, основанных на нейронных сетях, является актуальной. В данном докладе будет рассмотрено наше исследование по созданию комплексного подхода к формальной верификации систем искусственного интеллекта, основанных на нейронных сетях, созданный ранее в ИСИ СО РАН теоретический и практический задел для нашего исследования, преимущества нашего исследования перед новейшими зарубежными исследованиями и перспективы нашего исследования. Теоретический и практический задел для создания комплексного подхода к формальной верификации: https://doi.org/10.1134/S036176882205005X В зарубежном гранте-проекте "AISEC: AI Secure and Explainable by Construction" ( https://gtr.ukri.org/projects?ref=EP%2FT026952%2F1 ) занимаются в том числе подобной формальной верификацией нейронных сетей. Смотрим видео в ВК https://vk.com/video/@agirussia на RUTUBE https://rutube.ru/channel/24279932/ на YouTube https://www.youtube.com/siberai и в Telegram https://t.me/agitopics/53344/53347 Мы ведем группы и организуем семинары русскоязычного сообщества разработчиков систем AGI (Artificial General Intelligence или Общий Искусственный Интеллект) или Strong AI (Сильный Искусственный Интеллект), а также - являющийся их частным случаем HLAI (Human-Level Artificial Intelligence или Искусственный Интеллект Человеческого Уровня). https://agirussia.org/ Группы: https://t.me/agirussianews (новостной канал) https://t.me/agirussia (основная) https://t.me/agitopics (различные темы по группам) https://t.me/agibots (разговорный интеллект) https://t.me/agifintech (финансовые технологии) https://t.me/collectivei (коллективный интеллект) https://vk.com/agirussia (основная) https://www.facebook.com/groups/agirussia (основная) https://www.facebook.com/groups/socialintelligence (коллективный интеллект) https://groups.google.com/g/agirussia (рассылка) Онлайн-семинары идут по средам или четвергам, в 17:00 или 18:00 по Московскому времени. Продолжительность два часа, обычно это либо доклад на один-полтора часа и последующее обсуждение на полчаса-час либо круглый стол с регламентом на усмотрение модератора дискуссии. Технические средства проведения, регламент и модерацию обычно обеспечивает инициатор конкретного семинара либо спикер и его коллеги. Регистрация на семинары (внизу страницы): https://aigents.timepad.ru/event/1412596