ИНЖЕНЕРИЯ ЗНАНИЙ ОБРАЗОВАТЕЛЬНОЙ СРЕДЫ: Как обмануть систему распознавания лиц

В сюжете рассматриваются состязательные атаки на системы искусственного интеллекта — от специальных оправ очков и изменений дорожных знаков до воздействия на медицинские изображения. Такие эксперименты показывают, что высокая точность распознавания ещё не гарантирует устойчивости системы в реальном мире. Состязательные примеры ставят и более глубокий вопрос: означает ли правильное распознавание объекта наличие знания и понимания? Человеческое восприятие опирается на широкий контекст и фоновые знания о мире, тогда как представления нейронной сети могут оказаться значительно более хрупкими.