ChatGPT – потенциальное орудие внедрения в судовые системы?

Исторически большинство задокументированных кибератак осуществлялись на отдельные суда путем создания помех, глушения и спуфинга навигационных сигналов. Однако все чаще теплоходам угрожают более обширные риски. В частности, недавно 1000 транспортных судов пострадали от кибератаки на программную систему DNV ShipManager. Многие из них сохранили свои автономные функции, что уменьшило количество сбоев, но это масштабное хакерское нападение продемонстрировало, насколько велика потенциальная угроза распространения кибератак против судов. Опасность еще и в том, что хакерские атаки на теплоходы потенциально могут принести злоумышленникам значительную финансовую выгоду. Например, после блокировки Суэцкого канала 400-метровым контейнеровозом в 2021 году, последовавшим за этим сбоем в мировой торговле и потрясениями финансовых рынков хакеры обнаружили, что могут воспользоваться сопутствующими изменениями на фондовом рынке для извлечения дополнительной прибыли. Все это подвергает суда значительным рискам кибернападений.

Искусственный сочинитель

Один из способов незаконного проникновения в судовые системы – это фишинговые электронные письма. Цель этого популярного сегодня метода состоит в том, чтобы побудить членов экипажа перейти по небезопасным ссылкам и тем самым неосознанно загрузить вредоносный контент на компьютер. Электронные письма на первый взгляд не вызывают подозрений, а содержащиеся в них вредоносные ссылки замаскированы под безопасные и подлинные. Они вполне могут быть персонализированы и адресованы конкретному члену экипажа или судна с помощью использования информации из открытых источников, таких как социальные сети. Фишинговые электронные письма играют ключевую роль во многих типах кибератак в морском секторе, суть которых состоит в попытке внедрения вредоносного программного обеспечения в конкретные компьютеры.

Пишутся эти письма обычно вручную. Однако с появлением нового инструмента искусственного интеллекта (ИИ) это может измениться.

Речь идет о ChatGPT – новом чат-боте, основанном на ИИ и разработанном компанией OpenAI. Под ИИ понимается нейронная сеть, работающая на тех же принципах, что и человеческий мозг. ChatGPT использует модель обработки естественного языка, которая позволяет ему хорошо понимать смысл написанного и создавать тексты так, как это делал бы человек. Разумеется, ChatGPT не был разработан для преступников и вообще-то имеет внутренние барьеры, препятствующие созданию вредоносных материалов по прямому приказу. Однако злоумышленники нашли способ обойти это ограничение. Сегодня ИИ может увеличить их возможности, особенно при использовании методов социальной инженерии. В частности, чат-бот по запросу способен создавать убедительные фишинговые электронные письма.

У использующих ChatGPT злоумышленников есть много преимуществ. Например, ИИ может писать тексты на хорошем английском, позволяя скрыть любые типичные различия между подлинными и поддельными электронными письмами, такие как, например, опечатки. Кроме того, у него есть много разных способов ответа на один вопрос, что придает создаваемым нейросетью письмам индивидуальный и аутентичный характер. ChatGPT способен сочинить убедительное и эмоционально манипулятивное фишинговое послание, используя подсказки, ненамеренно предоставленные самим пользователем.

Насколько реальна угроза?

Перед тем, как была выпущена последняя версия ChatGPT, в одном исследовании были проанализированы более 50 000 электронных писем, отправленных пользователям в более чем 100 странах мира в рамках проекта по обучению борьбе с фишингом. Коэффициент кликабельности ссылок, разосланных экспертами Red Team – специалистами, которые по заказу имитируют реальные кибератаки с целью тестирования защиты и уязвимости систем и пользователей – составил 4,2%. У ChatGPT тот же показатель оказался ниже – всего 2,9%. Однако в некоторых странах, включая Швецию, кликабельность ссылок чат-бота с искусственным интеллектом выше.

В дополнение к этому опрос 1500 ответственных специалистов в области ИТ из Северной Америки, Великобритании и Австралии, показал, что 53% особенно обеспокоены угрозой появления более правдоподобных фишинговых писем, а 51% ожидают кибератак с поддержкой ChatGPT в течение следующего года. Компания Darktrace также заказала исследование консалтинговому агентству Censuswide, согласно результатам которого  73% британских сотрудников обеспокоены тем, что хакеры используют ИИ для создания поддельных электронных писем, практически неотличимых от настоящих. Ряд других исследований также подтвердил, что ChatGPT уже манипулирует людьми, чтобы обойти требования безопасности. Так,  ИИ сумел убедить работника TaskRabbit пройти за него капчу – тест для различения людей и компьютеров, – сказав, что у него проблемы со зрением.

Об угрозе фишинговых писем также свидетельствует недавнее исследование Darktrace, которое выявило 135%-ое увеличение «инновационных атак с использованием техник социальной инженерии», включая рост объема текста, знаков препинания и длины предложений без ссылок или вложений, в 2023 году после распространения ChatGPT. Также выяснилось, что общий объем массовых вредоносных рассылок, отправляемых по электронной почте, сократился – им на смену пришли более совершенные в лингвистическом отношении электронные письма.

В связи с этим становится очевидным, что люди обоснованно обеспокоены способностью ChatGPT отправлять убедительные фишинговые письма, и эта угроза была признана национальными и региональными властями. В частности, Европол выпустил предупреждение о том, что ChatGPT могут использовать для создания крайне убедительных и реалистичных текстов.

Последствия для морской отрасли

ChatGPT обладает почти энциклопедическими знаниями, которые можно легко использовать для поиска нужной информации, такой как названия судов или правила Международной морской организации, что позволит сделать электронные письма более убедительными.

Угроза, которую чат-бот представляет для морского транспорта, существенна, особенно с учетом того, что хакерские атаки в отрасли способны принести злоумышленникам очень большую финансовую выгоду. Судоходство – это глобальная индустрия, и нарушение ее работы может обойтись дорого. Суда с отключенными из-за кибератак системами не могут доставлять грузы, от которых зависит работа многих отраслей, например, сырье. Иногда взлом способен даже привести к посадке теплохода на мель, что спровоцирует блокировку движения по какому-нибудь оживленному судоходному маршруту со всеми вытекающими финансовыми потерями.

В Российском профессиональном союзе моряков подчеркивают, что сегодня кибератаки представляют все большие риски для судоходной отрасли в целом и отдельных теплоходов в частности. Поэтому  крайне важно повышать уровень безопасности и обучать моряков, представляя им информацию о новых типах  угроз, связанных с переходом по вредоносным ссылкам.

По материалам maritime-executive.com, фотография – OpenAI Youtube

Перевод – Елена Засыпкина, РПСМ