- Регистрация
- 03.06.2012
- Сообщения
- 6 195
- Репутация
На форуме уже несколько раз были темы, что искусственный интеллект может сам создавать программы, или помогать делать это.
И вот сейчас появился инструмент, который уже начали использовать на практике преступные группировки:
ChatGPT (Chat Generative Pre-trained Transformer) — это модель языка, которая была обучена на большом корпусе текста для генерации ответов в чат‑ботах. Она была разработана OpenAI и является разновидностью технологии предварительно обученных трансформеров (Pre-trained Transformer).
Предварительно обученные трансформеры — это модели, которые были обучены на большом корпусе текста для задачи токенизации (разбиения текста на отдельные слова и символы) и затем используются для решения различных задач на основе этой информации. После предварительного обучения модель может быть дообучена для решения конкретной задачи, например генерации текста или классификации документов. ChatGPT был специально разработан для использования в чат‑ботах.
ChatGPT был разработан компанией OpenAI. OpenAI — это некоммерческая организация, которая занимается исследованием искусственного интеллекта и его применения. Она основана в 2015 году и считается одним из ведущих игроков в области искусственного интеллекта. OpenAI разработала множество моделей языка, в том числе GPT и GPT-2, которые также являются предварительно обученными трансформерами.
Обычно люди удивляются тому, насколько хорошо ChatGPT справляется с генерацией ответов в чат‑ботах. Она умеет отвечать на различные вопросы, выполнять команды и даже постить шутки. Часто ChatGPT удивляет людей своей способностью генерировать текст, который читается натурально и не отличается от текста, написанного человеком.
Текст этой врезки сгенерирован при помощи ChatGPT в ответ на вопросы «Что такое ChatGPT?», «Кто разработал ChatGPT?» и «Почему ChatGPT поражает людей?»
Эксперты по кибербезопасности Check Point Research
Вы должны зарегистрироваться, чтобы увидеть внешние ссылки
, что хакеры применяют ChatGPT для написания вредоносного кода и фишинговых электронных писем. При этом часть из них практически не имеют опыта в программировании.Обсуждение кода от ChatGPT на хакерском форуме
Исследователи приводят в качестве примера скрипт на Python, который при некоторой доработке можно превратить в программу-вымогатель.
В другом случае скрипт на Python производит поиск файлов заданного типа, например PDF, на локальной машине, а затем сжимает файлы и отправляет их на сервер потенциального злоумышленника.
Участник форума описывает программу-вымогатель на Python
Второй фрагмент кода, написанный на Java, тайно загрузил клиент SSH и telnet PuTTY и запустил его с помощью Powershell.
Скриншот с описанием программы на Java
Код Python сочетал в себе различные криптографические функции, в том числе подпись кода, шифрование и дешифрование. Одна часть скрипта сгенерировала ключ, используя криптографию на эллиптических кривых и кривую ed25519 для подписи файлов. Другая часть использовала запрограммированный пароль для шифрования системных файлов с помощью алгоритмов Blowfish и Twofish. Третья задействовала ключи RSA и цифровые подписи, подписывание сообщений и хеш-функцию blake2 для сравнения различных файлов.
Эксперты попытались самостоятельно использовать ChatGPT для написания вредоносного кода, и нейросеть справилась с этой задачей. Чат-бот составил фишинговое письмо и написал вредоносный VBA-макрос. Затем исследователи использовали инструмент Codex для разработки других типов вредоносных программ, включая обратную оболочку и скрипты для сканирования портов, обнаружения песочниц и компиляции их кода Python в исполняемый файл Windows.
Фишинговое письмо, сгенерированное ChatGPT
ChatGPT создал первую итерацию скрипта VBA
Более совершенная итерация VBA-макроса
Хотя условия ChatGPT запрещают подобное использование, исследователи без труда настроили запросы так, чтобы обойти эти ограничения.
ChatGPT разработала и в ноябре 2022 года выпустила компания OpenAI. Почти сразу после запуска администрация форума Stack Overflow временно
Вы должны зарегистрироваться, чтобы увидеть внешние ссылки
постить ответы, сгенерированные ChatGPT. Причина в том, что бот часто выдавал ответы, похожие на правильные, но вводящие в заблуждение.В январе департамент образования Нью-Йорка
Вы должны зарегистрироваться, чтобы увидеть внешние ссылки
школьникам и учителям доступ к чат-боту ChatGPT в сетях и на устройствах государственных школ города.
