Инструменты на основе искусственного интеллекта встроились в реальные кибератаки — от первичной разведки до генерации вредоносного кода. Об этом говорится в отчете F6, охватывающим 2025 год и первую половину 2026.
ИИ в атаках
По данным аналитиков, за полтора года как минимум 18 APT-группировок провели атаки с использованием ИИ. В F6 описали несколько задокументированных случаев применения искусственного интеллекта в реальных атаках.
Группировка GTG-1002 использовала языковые модели для генерации фишинговых писем — тексты адаптировались под конкретную жертву и обходили стандартные спам-фильтры. Кластер TAT26-12 применял ИИ для автоматизации разведки: сбора данных о сотрудниках, инфраструктуре и уязвимостях организаций.
Отдельно выделили инструмент PromptSpy — специализированное ПО для атак на корпоративные системы, построенные на базе LLM. Его задача заключается в извлечении системных промптов и манипуляции поведением моделей.
Еще один инструмент, LAMEHUG, использовался для генерации вредоносного кода с минимальным участием человека.
Обсуждения на форумах
Исследователи обратили внимание, что хакеры стали чаще обсуждать различные ИИ-модели на тематических форумах.
Хотя самым популярным решением среди хакеров-новичков оказался ChatGPT от OpenAI, чаще в полноценных атаках используется Gemini от Google.
Количество упоминаний ИИ-решений на дарк-форумах. Источник: F6.
Сами участники форумов обсуждают способы обхода ограничений у моделей. Некоторые пытались создать с помощью общедоступного ИИ вредоносное приложение.
Источник: F6.
Эволюция вымогателей
За отслеживаемый период появилось более 50 новых группировок, которые распространяют шифровальщики, и более 9300 связанных с ними инцидентов.
Характерная тенденция — отказ от блокировки данных как основного инструмента давления. Вместо него атакующие делают ставку на угрозу публикации похищенной информации. Это снижает технические требования к атаке и усложняет защиту.
За полтора года было закрыто шесть крупных теневых торговых площадок для торговли данными. Однако на их месте появились пять новых.
В действующих кардшопах зафиксировано более 16,5 млн скомпрометированных платежных карт, выставленных на продажу.
Напомним, в августе OpenAI замедлила разработку передовых ИИ-систем после инцидента с Hugging Face и предварительной оценки Astra.
https://forklog.com/news/ai/openai-prisvoila-astra-kriticheskij-uroven-kibervozmozhnostej
