Інновації в галузі безпеки зосереджені навколо збору інформації. Штучний інтелект використовується не тільки для вказівки на передбачувані чинники ризику для організації (і прогнозування загроз), але й для оптимізації процесів, які часто можуть ускладнювати управління. Але це неможливо, без застосування деяких правил до зібраних даних.

ШІ належить до систем, які можуть бути спроектовані так, щоб приймати підказки з-поміж себе і на основі цього переходити до вирішення проблем, оцінки ризиків, прогнозування і прийняття заходів. У світі безпеки переважна частина інформації, яка може використовуватися для прийняття рішень і заходів, береться з даних, отриманих від ряду пристроїв Інтернету речей (IoT), включаючи відео та дані контролю доступу.

Однак, інновації ШІ не без протиріч. Нещодавно в Сан-Франциско прийняли закон, який забороняє правоохоронним органам і іншим урядовим установам використовувати технологію розпізнавання обличчя, посилаючись на можливі зловживання і проблеми конфіденційності. Етичні наслідки технології і аналізовані дані — головний привід для обговорення питання етики в розгорнутому сенсі. Однак можна балансувати між інноваціями та використанням ШІ при розробці програмних додатків для забезпечення безпеки, розуміючи потенціал і визначаючи те, що вважається «чесною грою» в рамках збору точок даних, а також встановлюючи чіткі правила, що регулюють використання даних.

Потенціал ШІ в додатках безпеки

Штучний інтелект може допомогти зрозуміти потоки даних з різних джерел. В області безпеки ці дані можуть надходити з будь-якого місця, включаючи обладнання для відеоспостереження або IoT-пристрої, які можуть використовуватися для забезпечення того, щоб оператори безпеки збирали тільки діючі сигнали тривоги, а не вручну переглядали дані, що надходять. Це не тільки економить час і ресурси, а й підвищує продуктивність роботи оператора і час відгуку.

ШІ також може співвідносити, здавалося б, не пов'язані події з поверхневим розумінням або відкривати патерни з широкою областю. Наприклад, конкретні схеми руху в деяких місцях міста, можна було порівняти з аномальними умовами, які виникають нерегулярно в інших місцях. Рішення ШІ можуть виявляти ці кореляції і робити прогнози, які, наприклад, полегшують керування рухом.

Крім того, ШІ можна використовувати для виявлення захворювань в скринінгових тестах, таких як магнітно-резонансна томографія (МРТ) та інше.

Які дані можна використовувати?

Хвилююче питання, що стосується ШІ та етики, пов'язане з використанням зібраних даних.Зокрема, відеодані, що регулярно збираються як державними, так і приватними організаціями: реєструється присутність людини в магазині або готелі, терміналі аеропорту або інших місцях. Деякі випадки використання цих даних призначені виключно для розслідування, в разі надзвичайної ситуації або загрози; проте все більше підприємств використовують цю інформацію для збору додаткової інформації та розуміння того, як люди переміщаються по об'єкту, скільки відвідувачів заходить в магазин і здійснює покупки і так далі. Ця інформація може бути зібрана за допомогою відеоданих.

При цьому компанії, які займаються збором цих даних за межами слідчих цілей, повинні бути насправді етичні з даними і забезпечувати дотримання заходів безпеки. Це — ключ до загального визнання ШІ і конфіденційності даних: занадто багато порушень і використання інформації для профілювання або націлювання на конкретні групи, можуть призвести до недовіри для використання технології. Якщо цю довіру порушено, організації ризикують виявитися нездатними усвідомити цінність, яку ШІ може принести в різноманітність варіантів використання.

Розробники, як правило, будують програмне забезпечення на основі вже створених моделей, щоб використовувати інтелект з різних фрагментів даних. Проте, дані, що збираються і використовуються в рамках цих алгоритмів, повинні оброблятися з обережністю, щоб гарантувати, що правові моменти та питання конфіденційності будуть правильно вирішені.

Встановлення правил та положень

За винятком недавнього рішення Сан-Франциско проти використання розпізнавання обличчя, регулювання, нагляд і розвиток порад з етики, виконувалися на спеціальній основі. Наприклад, Google і Microsoft були в центрі дискусій про етику ШІ, беручи участь у внутрішніх оглядах, але діючи без контролю з боку зовнішніх органів над тим, як використовується штучний інтелект.

У міру розвитку ШІ, буде розроблятися більше етичних кодексів, які допоможуть зміцнити довіру до компаній, що використовують ідентифікаційну інформацію. Ці практики та керівні принципи часто підтверджуються за допомогою оглядів процесів і навчання персоналу. В результаті, ці організації можуть отримати вигоду з використання ШІ для бізнесу, в той же час дотримуючись передового досвіду і етичного використання даних.

Настають невеликі проблиски в державному і федеральному регулюванні, але в той же час, приватні підприємства повинні брати до уваги етичну частину обробки даних при впровадженні інновацій, з використанням технології на основі ШІ.

Рух в майбутнє з розвитком ШІ

Підприємства виграють від повсякденного використання точок даних, керованих ШІ, завдяки чому на першочерговому етапі прийняття рішень з'являється здатність виявляти відомості, у вигляді аномалій і дивних патернів. При неетичному використанні, ШІ може знизити продуктивність, збільшити витрати, завдати шкоди репутації компанії і, що ще гірше — негативно позначитися на інтересах і добробуті людей.

Безпека покращиться з розвитком цієї технології, але це й перший крок для виробника, який застосовує цей вид аналізу даних для розробки кодексу поведінки, використання етичних норм і стандартів для управління розробкою програмних платформ. Використовуючи цей посібник, розробники програмного забезпечення повинні прагнути до досягнення балансу між інноваціями та етикою; завдяки дотриманню законів про недоторканність приватного життя, уникнення упередженості і встановлення правил та внутрішніх перевірок етики — це може бути досягнуто сьогодні і в майбутньому.