Европол предупреждает об опасности ChatGPT: злоумышленники могут использовать его для фишинга и распространения дезинформации

Европейская полиция (Европол) сообщила о потенциальной опасности чат-бота ChatGPT с искусственным интеллектом. По данным правоохранительных органов, эта система может использоваться для различных незаконных действий.

«Поскольку возможности LLM, таких как ChatGPT, активно совершенствуются, потенциальная эксплуатация этих типов систем ИИ преступниками дает мрачные перспективы», — заявили в Европоле.

В техническом отчёте приводятся такие варианты вредоносного использования чат-бота:

• Фишинг.
• Целенаправленное преследование жертв.
• Создание и распространение дезинформации.

Также отмечается, что чат-бот умеет имитировать стиль речи и письма конкретных людей, что позволяет легче обмануть жертву, создать ложные сообщения от её имени и так далее.

«Способность ChatGPT создавать очень реалистичный текст делает его полезным инструментом для целей фишинга», — отметили в Европоле.

Также заявлено, что ChatGPT может легко генерировать и распространять сообщения с ложными данными и даже писать вредоносный код. При этом пока не говорится о конкретных правонарушениях с использованием ИИ, однако наверняка таковые уже есть.