Инновации в отрасли безопасности сосредоточены вокруг сбора информации. Искусственный интеллект используется не только для указания на предполагаемые факторы риска для организации (и прогнозирования угроз), но и для оптимизации процессов, которые часто могут затруднять управление. Но это невозможно, без применения некоторых правил к собираемым данным.
ИИ относится к системам, которые могут быть спроектированы так, чтобы принимать подсказки из своей среды и на основе этого переходить к решению проблем, оценке рисков, прогнозированию и принятию мер. В мире безопасности подавляющая часть информации, которая может использоваться для принятия решений и мер, берется из данных, полученных от ряда устройств Интернета вещей (IoT), включая видео и данные контроля доступа.
Однако, инновации ИИ не без противоречий. Недавно в Сан-Франциско приняли закон, который запрещает правоохранительным органам и другим правительственным учреждениям использовать технологию распознавания лиц, ссылаясь на возможные злоупотребления и проблемы конфиденциальности. Этические последствия технологии и анализируемые данные — главный повод для обсуждения вопроса этики в развернутом смысле. Однако можно балансировать между инновациями и использованием ИИ при разработке программных приложений для обеспечения безопасности, понимая потенциал и определяя то, что считается «честной игрой» в рамках сбора точек данных, а также устанавливая четкие правила, регулирующие использование данных.
Потенциал ИИ в приложениях безопасности
Искусственный интеллект может помочь понять потоки данных из разных источников. В области безопасности эти данные могут поступать из любого места, включая оборудование для видеонаблюдения или IoT-устройства, которые могут использоваться для обеспечения того, чтобы операторы безопасности собирали только действующие сигналы тревоги, а не вручную просматривали поступающие данные. Это не только экономит время и ресурсы, но и повышает продуктивность работы оператора и время отклика.
ИИ также может соотносить, казалось бы, не связанные события с поверхностным пониманием или открывать паттерны с широкой областью. Например, конкретные схемы движения в некоторых местах города могут быть сопоставлены с аномальными условиями, которые возникают нерегулярно в других местах. Решения ИИ могут выявлять эти корреляции и делать прогнозы, которые, например, облегчают управление движением.
Кроме того, ИИ можно использовать для выявления заболеваний в скрининговых тестах, таких как магнитно-резонансная томография (МРТ) и прочее.
Какие данные можно использовать?
Волнующий вопрос, касающийся ИИ и этики, связан с использованием собранных данных.В частности, видеоданные регулярно собираются как государственными, так и частными организациями: регистрируется присутствие человека в магазине или гостинице, терминале аэропорта или других местах. Некоторые случаи использования этих данных предназначены исключительно для расследования, в случае чрезвычайной ситуации или угрозы; однако все больше предприятий используют эту информацию для сбора дополнительной информации и понимания того, как люди перемещаются по объекту, сколько посетителей заходит в магазин и совершает покупки и так далее. Эта информация может быть собрана с помощью видеоданных.
При этом компании, которые занимаются сбором этих данных за пределами следственных целей, должны быть на самом деле этичны с данными и обеспечивать соблюдение мер безопасности. Это — ключ к общему признанию ИИ и конфиденциальности данных: слишком много нарушений и использование информации для профилирования или нацеливания на конкретные группы, могут привести к недоверию для использования технологии. Если это доверие нарушено, организации рискуют оказаться неспособными осознать ценность, которую ИИ может принести в разнообразие вариантов использования.
Разработчики, как правило, строят программное обеспечение на основе уже созданных моделей, чтобы использовать интеллект из различных фрагментов данных. Тем не менее, данные, собираемые и используемые в рамках этих алгоритмов, должны обрабатываться с осторожностью, чтобы гарантировать, что правовые моменты и вопросы конфиденциальности будут правильно решены.
Установление правил и положений
За исключением недавнего решения Сан-Франциско против использования распознавания лиц, регулирование, надзор и развитие советов по этике выполнялись на специальной основе. Например, Google и Microsoft были в центре дискуссий об этике ИИ, участвуя во внутренних обзорах, но действуя без контроля со стороны внешних органов над тем, как используется искусственный интеллект.
По мере развития ИИ, будет разрабатываться больше этических кодексов, которые помогут укрепить доверие к компаниям, использующим идентифицирующую информацию. Эти практики и руководящие принципы часто подтверждаются с помощью обзоров процессов и обучения персонала. В результате, эти организации могут извлечь выгоду из использования ИИ для бизнеса, в то же время придерживаясь передового опыта и этического использования данных.
Грядут небольшие проблески в государственном и федеральном регулировании, но в то же время, частные предприятия должны принимать во внимание этическую часть обработки данных при внедрении инноваций, с использованием технологии на основе ИИ.
Двигаясь в будущее с развитием ИИ
Предприятия выигрывают от повседневного использования точек данных, управляемых ИИ, благодаря чему на первоочередном этапе принятия решений появляется способность выявлять сведения, в виде аномалий и странных паттернов. При неэтичном использовании, ИИ может снизить продуктивность, увеличить затраты, нанести ущерб репутации компании и, что еще хуже — отрицательно сказаться на интересах и благосостоянии людей.
Безопасность улучшится с развитием этой технологии, но это и первый шаг для производителя, применяющего этот вид анализа данных для разработки кодекса поведения, использования этических норм и стандартов для управления разработкой программных платформ. Используя это руководство, разработчики программного обеспечения должны стремиться к достижению баланса между инновациями и этикой; благодаря соблюдению законов о неприкосновенности частной жизни, избежанию предвзятости и установлению правил и внутренних проверок этики — это может быть достигнуто сегодня и в будущем.
