Метод усовершенствования нейросетей, который позволяет пресекать попытки обойти защиту систем видеонаблюдения на их основе, разработали в исследовательском центе доверенного искусственного интеллекта на базе института системного программирования имени Иванникова, передает телеканал «Якутия 24» со ссылкой на ТАСС.
Как рассказал инженер центра Леонид Старых, ученые развивают платформу доверенного искусственного интеллекта, которая позволяет разработчикам проверять разрабатываемые нейронные сети на уязвимости и защищаться от них. Она уже позволяет обучать нейросеть в основе системы обнаружения объектов, <…> распознавать области, которые были атакованы хакерами, «закрашивать» их, и после этого нейронная сеть, несмотря на атаку, способна обнаруживать человека.
Ученый пояснил, что злоумышленники с помощью специальных изображений на объектах могут сделать себя невидимыми для камер — слиться с фоном. Новый подход позволяет защитить системы от «слепоты» и принятия неверных решений. Так, растет безопасность эксплуатации беспилотников и сильнее становится защита данных пользователей функции «оплата лицом».
Как пояснил младший научный сотрудник исследовательского центра Максим Рындин, на сегодня не существует платформ, которые позволяют производить проверку на атакуемость и защиту широкого спектра моделей [машинного обучения], в том числе в сфере классификации изображений и текстов. А разработанная учеными платформа позволяет улучшать собственную защиту.
Он также отметил, что решение можно использовать для защиты ИИ-систем от устаревания данных, за счет постоянно обновления данных сети.
