Европейский институт телекоммуникационных стандартов ETSI недавно выпустил отчет ETSI GR SAI 005, в котором обобщены и проанализированы текущие и предполагаемые меры по снижению угроз для систем безопасности на базе искусственного интеллекта. Установление основы для общего понимания соответствующих угроз кибербезопасности искусственного интеллекта и способов их устранения будет ключом к повсеместному развертыванию и принятию систем и приложений.
Согласно ETSI, этот отчет проливает свет на доступные методы защиты интеллектуальных систем видеонаблюдения и охранных датчиков на основе искусственного интеллекта, а также решений умного дома — путем смягчения известных или предполагаемых угроз безопасности, выявленных в недавней публикации ландшафта угроз ENISA и отчете о проблеме ETSI GR SAI 004. В нем также рассматриваются возможности, проблемы и ограничения безопасности при принятии мер по снижению рисков для решений на основе искусственного интеллекта в определенных предполагаемых сценариях использования.
Искусственный интеллект был обусловлен быстрым развитием технологии Deep learning и ее расширенных применений, таких как классификация изображений, обнаружение объектов, распознавание речи и языковой перевод. Таким образом, ETSI GR SAI 005 фокусируется на глубоком обучении и исследует существующие меры противодействия атакам.
Отчет ETSI GR SAI 005 описывает рабочий процесс моделей машинного обучения, где жизненный цикл модели включает этапы разработки и развертывания. На основе этого рабочего процесса в отчете обобщаются существующие и потенциальные подходы к смягчению последствий обучающих атак (т.е. смягчения для защиты модели машинного обучения от заражения и атак через бэкдор) и против атак с логическим выводом, в том числе от уклонения, кражи модели и извлечения данных. Подходы к смягчению последствий сначала резюмируются как усовершенствованные модели и не зависящие от модели, а затем группируются по своему обоснованию.
Из-за быстрого развития технологий атак для систем на основе ИИ текущие средства защиты со временем могут стать менее действенными, хотя их подходы и обоснования остаются в силе. Кроме того, большинство представленных подходов основаны на академическом контексте и создают конкретные предположения, которые необходимо учитывать при применении этих подходов на практике. Отчет ETSI GR SAI 005 призван служить надежным техническим справочником по искусственному интеллекту для планирования, проектирования, разработки, развертывания, эксплуатации и обслуживания систем на основе ИИ.
ETSI заявляет, что в будущем необходимо провести дополнительные исследования в сегменте автоматической проверки и подтверждения, объяснимости и прозрачности, а также новых методов безопасности для противодействия возникающим угрозам решениям с искусственным интеллектом.
Читайте другие интересные новости о системах безопасности:
Интеллектуальные решения Avigilon для безопасности в промышленной отрасли
Компания Johnson Controls добавляет облачный контроль доступа на платформу Cloudvue
