Європейський інститут телекомунікаційних стандартів ETSI нещодавно випустив звіт ETSI GR SAI 005, в якому узагальнені та проаналізовані поточні та передбачувані заходи щодо зниження загроз для систем безпеки на базі штучного інтелекту. Встановлення основи для загального розуміння відповідних загроз кібербезпеки штучного інтелекту та способів їх усунення буде ключем до повсюдного розгортання й прийняття систем та додатків.

Згідно ETSI, цей звіт проливає світло на доступні методи захисту інтелектуальних систем відеоспостереження та охоронних датчиків на основі штучного інтелекту, а також рішень розумного будинку — шляхом пом'якшення відомих або передбачуваних загроз безпеки, виявлених в нещодавній публікації ландшафту загроз ENISA та звіті про проблему ETSI GR SAI 004. В ньому також розглядаються можливості, проблеми та обмеження безпеки при прийнятті заходів щодо зниження ризиків для рішень на основі штучного інтелекту в певних передбачуваних сценаріях використання.

Штучний інтелект був обумовлений швидким розвитком технології Deep learning та її розширених застосувань, таких як класифікація зображень, виявлення об'єктів, розпізнавання мови та мовний переклад. Таким чином, ETSI GR SAI 005 фокусується на глибокому навчанні та досліджує існуючі заходи протидії атакам.

Звіт ETSI GR SAI 005 описує робочий процес моделей машинного навчання, де життєвий цикл моделі включає етапи розробки і розгортання. На основі цього робочого процесу в звіті узагальнюються існуючі та потенційні підходи до пом'якшення наслідків навчальних атак (тобто пом'якшення для захисту моделі машинного навчання від зараження та атак через бекдор) і проти атак з логічним висновком, в тому числі від ухилення, крадіжки моделі та вилучення даних. Підходи до пом'якшення наслідків спочатку резюмуються як вдосконалені моделі та не залежать від моделі, а потім групуються за своїм обґрунтуванням.

Через швидкий розвиток технологій атак для систем на основі ШІ поточні засоби захисту з часом можуть стати менш дієвими, хоча їх підходи та обґрунтування залишаються в силі. Крім того, більшість представлених підходів засновані на академічному контексті й створюють конкретні припущення, які необхідно враховувати при застосуванні цих підходів на практиці. Звіт ETSI GR SAI 005 покликаний служити надійним технічним довідником по штучному інтелекту для планування, проектування, розробки, розгортання, експлуатації та обслуговування систем на основі ШІ.

ETSI заявляє, що в майбутньому необхідно провести додаткові дослідження в сегменті автоматичної перевірки та підтвердження, пояснення та прозорості, а також нових методів безпеки для протидії загрозам рішенням зі штучним інтелектом.

Читайте інші цікаві новини про системи безпеки:

Інтелектуальні рішення Avigilon для безпеки в промисловій галузі

Компанія Johnson Controls додає хмарний контроль доступу на платформу Cloudvue