13 апреля, 22:15 Поделиться: 
OpenAI отреагировала на спамеров со значительной задержкой (Фото: REUTERS/Dado Ruvic/Illustration/File Photo)
Автор: Анастасия Печенюк
Спамеры по крайней мере четыре месяца беспрепятственно использовали чат-бот OpenAI ChatGPT для создания уникальных сообщений, которые с легкостью проходят через спам-фильтры.
SentinelLabs задокументировала масштабные злоупотребления моделями искусственного интеллекта OpenAI с рассылкой спам-писем, которые компания не замечала длительное время. Злоумышленники применяли AkiraBot — фреймворк, который автоматизирует отправку сообщений в больших количествах. Для атак также использовали API чата OpenAI с моделью gpt-4o-mini. С помощью него генерировали уникальные сообщения, которые генерировали под определенную жертву.
Реклама
Чтобы заставить ИИ от OpenAI помогать с созданием писем для рассылки, злоумышленники предложили чат-боту представить, что он — полезный помощник, который генерирует маркетинговые сообщения. Также подсказки злоумышленников приказывали ИИ заменять в письмах данные об атакованных сайтах, в результате чего каждый получатель получал письмо с кратким описанием предоставляемых им услуг.
Читайте также: Упс. ChatGPT раскрыл, какой контент OpenAI украла для его обучения
Эта техника, вероятно, помогла боту обойти фильтры, которые ищут и блокируют идентичный контент, отправленный на большое количество сайтов. Сообщения отправлялись через контактные формы и виджеты чата, встроенные в атакованные веб-сайты.
«Преимущество создания каждого сообщения с помощью LLM заключается в том, что содержание сообщения является уникальным, и фильтрация от спама становится сложнее по сравнению с использованием согласованного шаблона сообщения, который можно легко отфильтровать», — отмечают исследователи.
SentinelLabs получила файлы журналов AkiraBot, которые позволяют понять, насколько успешными были атаки. Один из файлов показал, что уникальные сообщения были успешно доставлены на более 80 000 веб-сайтов с сентября 2024 года по январь этого года. Сообщения, нацеленные примерно на 11 000 доменов, не прошли фильтры.
OpenAI отозвал учетную запись спамеров после того, как об этой деятельности сообщили исследователи SentinelLabs. По крайней мере четыре месяца эта деятельность осталась незамеченной.
Теги: Спам Искусственный интеллект ChatGPT OpenAI
Читать далее
Источник
