Россиян предупредили о мошенничестве с использованием нейросетей

Мошенники научились использовать нейросети для обмана. В частности, с их помощью можно генерировать скрипты для общения с жертвой. Также нейросети могут быть использованы для массовых обзвонов. Об этом «Ленте.ру» рассказал специалист по кибербезопасности, глава аналитического центра Zecurion Владимир Ульянов. «Самой распространенной схемой, когда Chat GPT только появился и все хотели попробовать с ним пообщаться, было предложение мошенников какого-то продукта, бота, с базовыми возможностями, который можно было представить как ИИ. Дело в том, что подключиться к настоящему Chat GPT было достаточно сложно, мошенники этим пользовались: брали предоплаты, высылали вредоносные ссылки и так далее», – рассказал Ульянов.

Практически любое мошенничество, по словам специалиста, можно привести к базовому сценарию из трех пунктов: жертву нужно заинтересовать, втереться в доверие и заставить совершить необходимое действие. Написать сценарии, скрипты для первых двух пунктов успешно может нейросеть.

В первую очередь, нужен яркий информационный вброс, чтобы заставить человека задержаться на телефонной трубке, дочитать до конца сообщение. Дальше – заставить поверить в рассказанную историю. Нейросети вполне могут придумать яркий инфоповод, подсказать, как убедить жертву, отметил специалист по кибербезопасности. Он подчеркнул, что нейросеть нужно немного обучить, чтобы она не генерировала просто информационный шум.

Другой вариант использования ИИ, описанный Ульяновым, – голосовые роботы, у которых есть ряд преимуществ перед обычным мошенником: это и охваты, и скорость обзвона, и возможность вести параллельные диалоги. «Кроме того, когда звонит человек, он всегда такой, какой есть. А робота можно настроить: придать нужный акцент, возраст, эмоциональную окраску. В итоге получается дешево и быстро», – заметил специалист.

В Российском профсоюзе моряков отмечают: действительно, искусственный интеллект представляет не только новые возможности, но и угрозы. Так, мошенники с помощью ChatGPT генерируют фишинговые письма, автоматизируют процесс рассылки, повышают достоверность текстов и, соответственно, вероятность обмана. Такие методы атаки могут использоваться не только против пользователей, но и организаций. И компании в судоходной отрасли – не исключение.

По материалам «Лента.ру»; фото – @ashtwinproject on Twitter