К основному контенту

Искусственный интеллект в руках преступников: откуда ждать атаки?

Искусственный интеллект в руках преступников: откуда ждать атаки?

Большинство созданных за всю историю человечества технологий, механизмов, машин имеют «созидательно-разрушительное» назначение. Часть из них изначально разрабатывались для улучшения условий труда и жизни людей, а затем модифицировались в орудия убийства, часть предназначалась для военных целей, а впоследствии находила мирные применения.


Такие же трансформации сопутствуют сегодня информационно-компьютерным технологиям, которые, обладая огромным положительным воздействием на все сферы экономики, могут использоваться для их же уничтожения. Все зависит от того, в чьих руках оказываются ИКТ. С каждым годом обостряется противостояние ИТ-преступников, взламывающих компьютерные сети для онлайн-воровства, вмешательства в производственные и бизнес-процессы, и ИТ-защитников, охраняющих рубежи корпоративных сетей. Это противоборство можно сравнить со своеобразной «гонкой вооружений» и с локальными (а то и глобальными) «военными конфликтами», перевес в которых оказывается на стороне, обладающей в данный момент времени более совершенным «ИТ-оружием» – наступательным или оборонительным.

Последние достижения в области искусственного интеллекта уже начали применять в системах ИТ-безопасности, где ИИ позволил существенно повысить эффективность выявления вредоносного ПО. И сразу же появились опасения в том, что мощь ИИ может быть использована киберпреступниками. На чем основаны эти опасения? – На том, что ключевым инструментом ИИ является его способность обучаться. Машинное же обучение построено на «предъявлении» искусственному интеллекту множества примеров и от того, какими будут эти примеры, зависит направленность ИИ, например, цель – «нападение» или цель – «защита от нападения».



ИТ-угрозы, которые может породить искусственный интеллект, проанализированы в недавно опубликованном отчете «Преступное использование ИИ: прогноз, профилактика и предотвращение», разработанном группой экспертов по ИТ-безопасности, работающих в Оксфордском, Кембриджском и Стэнфордском университетах, организациях Electronic Frontier Foundation и OpenAI и ряда компаний, специализирующихся в области ИБ. Исследователи классифицировали возможные ИТ-угрозы, которые могут быть созданы с помощью ИИ, по трем направлениям:
  1. атаки с помощью вредоносного ПО,
  2. атаки с помощью методов социальной инженерии,
  3. физические атаки.
Первый тип ИТ-угроз – основан на облегчении хакерам обнаружений уязвимостей ПО благодаря возможностям искусственного интеллекта в скорости и эффективности анализа ПО различных видов.

Второй тип ИТ-угроз – использование «уязвимостей мышления человека», основанных, например, на применении искусственным интеллектом технологий синтеза речи или создания «контекстного» вредоносного ПО. Эти технологии «усыпят бдительность» человека, который нажмет нужную ИТ-преступникам ссылку (а больше ничего и не нужно для запуска компьютерного вируса или зловредного приложения). В эту же группу ИТ-угроз исследователи поместили использование ИИ для дезориентации людей в политической сфере и для наблюдения за инакомыслящими. ИИ может найти применение для проведения персонализированных кампаний массовой дезинформации.

Третий тип ИТ-угроз – организация атак на физические объекты, например, с использованием боевых дронов, управляемых искусственным интеллектом.

Вспомним одно из предупреждений об опасностях ИИ, высказанное Стивеном Хокингом: «Искусственный интеллект компьютеров обгонит интеллект человеческий уже в ближайшие 100 лет, и когда это случится, нужно убедиться в том, что цели компьютера и человека будут совпадать, а не идти вразрез друг другу». Но можно ли быть 100%-но уверенными в том, что ИИ не попадет в обучение к ИТ-преступникам?

См. также:

Комментарии

Популярные сообщения из этого блога

Цены на услуги хакеров. Почем сегодня стоит взлом?

В преступном мире всегда были, есть и будут разработчики воровских, мошеннических и разбойных схем и организаторы их воплощения – своего рода «белые воротнички», не связывающиеся с «кровью и грязью», которые зачастую сопутствуют темным делам исполнителей грабежей.

Скачать Malwarebytes Anti-Malware Free бесплатно на русском языке с официального сайта!

Malwarebytes Anti Malware – это популярная и совершенно бесплатная утилита-антивирус для поиска и удаления с персонального компьютера или ноутбука таких распространенных вредоносных программ, как: руткиты, черви, троянские программы, программы-шпионы (клавиатурные и др.) и др. Для того, чтобы произвести чистку компьютера необходимо запустить программу и запустить в ней сканирование. Программа имеет русскую версию и предельно простой интерфейс для работы. Программа уже много лет пользуется заслуженной любовью и доверием пользователей во всем мире. Она также имеет высокие оценки известных международных изданий, таких как: AV TEST, PCMAG, CNET, а также сертифицирована ведущей в мире независимой тестовой лабораторией West Coast Labs. Возможности бесплатной версии Базовых функций бесплатной версии программы вполне достаточно, быть уверенным в надежной защите своего ПК. обнаружение и удаление вредоносных программ, которые мог пропустить антивирус; удаление

Кофемашина Krups KP 1002 (1006/1009) Nescafe Dolce Gusto не качает воду. Ремонт своими руками!

На днях случилось так, что моя капсульная кофемашина Krups KP 1002 (1006/1009) ( описание кофемашины ), продающаяся у нас под брендом Nescafe Dolce Gusto перестала работать. Поломка выражалась в том, что машина не качала воду из резервуара и, соответственно, не наливала кофе. Характерной деталью этой поломки был также изменившийся звук ее работы. Вместо привычного громкого шумного наливания кофе, кофемашина еле-еле бурчала. Да, и еще - не задолго до этого кофеварка также стала подтекать.

Ярлыки

Показать больше