Развитие искусственного интеллекта привело к фундаментальному сдвигу в сфере информационной безопасности. Технологии, которые ещё недавно казались инструментом узкого круга специалистов, сегодня активно осваиваются злоумышленниками. Меня особенно тревожит, насколько стремительно снизился порог входа в киберпреступность: теперь для подготовки сложной атаки не требуется ни многолетнего опыта, ни крупного бюджета. Нейросети берут на себя рутинную работу, ускоряют анализ целей и позволяют автоматизировать целые цепочки вредоносных действий.
Эта тенденция радикально изменила ландшафт угроз. Я наблюдаю, как организации, которые никогда не воспринимали себя в качестве потенциальной мишени, внезапно оказываются в эпицентре серьёзных инцидентов. И дело не только в технической уязвимости — изменилась сама экономика атак. Когда стоимость подготовки нападения падает, злоумышленнику становится выгодно обрабатывать даже небольшие цели, которые раньше не представляли коммерческого интереса.
Масштаб происходящего подтверждается цифрами. Исследование группы компаний «Солар» показало, что за первую половину 2026 года в российских организациях зафиксировано свыше 17 тысяч подтверждённых киберинцидентов — на 17% больше, чем годом ранее. Центр мониторинга Solar JSOC выявил 742 тысячи подозрений на инциденты, что превышает прошлогодний показатель на 40%. Эксперты связывают значительную часть этого роста именно с применением искусственного интеллекта, хотя на динамику влияют и другие факторы: общая активность атакующих, совершенствование систем обнаружения и расширение цифровой инфраструктуры.
Мировая статистика выглядит не менее тревожно. Платформа Forescout зафиксировала рост заявленных атак программ-вымогателей на 25% — до 4544 случаев. Flashpoint сообщила о 6256 публикациях о жертвах подобных атак, что на 45% превышает прежнее значение. По данным IBM, каждая четвёртая вредоносная утечка связана с использованием ИИ, а соответствующий показатель вырос на 56% за год. Конечно, эти цифры получены разными организациями с применением собственных методик, поэтому прямое сопоставление было бы некорректным. Однако общая тенденция прослеживается отчётливо: искусственный интеллект становится полноценным инструментом криминальной автоматизации.
Экономика киберпреступности: почему нейросети сделали атаки доступнее
Чтобы понять суть происходящего, важно разобраться в экономике киберпреступности. Здесь ключевую роль играют три фактора: временные затраты, стоимость подготовки и вероятность обнаружения. Злоумышленник традиционно должен был изучать потенциальную жертву, искать способы воздействия, готовить убедительные сообщения, проверять уязвимости и адаптировать инструменты под конкретную ситуацию. Каждый из этих этапов требовал времени и квалификации.
Искусственный интеллект изменил эту модель. Большие языковые модели способны анализировать значительные объёмы текстовой информации, помогать с подготовкой сообщений, объяснять особенности программного кода и автоматизировать рутинные операции. В руках человека с преступными намерениями эти возможности превращаются в инструмент масштабирования уже существующих методов нападения. Я вижу в этом ключевой парадокс: технологии, созданные для повышения продуктивности, становятся мультипликатором вредоносной активности.
Раньше качественная подготовка персонализированной фишинговой кампании требовала заметных усилий от специалиста, который вручную изучал компанию и подбирал убедительный повод для контакта. Теперь злоумышленники применяют языковые модели для обработки открытых сведений о сотрудниках, должностях, корпоративных процессах и публичных проектах. После этого они адаптируют содержание сообщений под разные группы адресатов. Результат зависит от доступных данных, качества модели и навыков человека, организующего атаку, но скорость подготовки выросла многократно.
Особую опасность представляет сочетание автоматизации с массовой рассылкой. Если раньше атакующему приходилось выбирать между большим количеством однотипных сообщений и сравнительно небольшой персонализированной кампанией, то современные инструменты позволяют совмещать оба подхода. Каждое письмо может выглядеть достаточно правдоподобно, учитывать особенности получателя и содержать контекст, который повышает вероятность ошибки.
Представьте сотрудника, который получает сообщение о согласовании документа от имени знакомого подрядчика. В письме упоминается реальный проект, используются привычные деловые формулировки и предлагается перейти по ссылке для ознакомления с материалами. Если злоумышленник предварительно собрал достаточно открытых сведений, сообщение может выглядеть убедительно даже для человека, который обычно внимательно относится к цифровой безопасности. При этом наличие грамотного текста само по себе ничего не доказывает: проверять необходимо отправителя, адрес ссылки, контекст запроса и соответствие обращения привычным рабочим процедурам.
Фишинг нового поколения: как нейросети обходят традиционные признаки обмана
Фишинг остаётся одним из самых распространённых способов получения доступа к учётным записям и корпоративным системам, поскольку его успех часто зависит от человеческого поведения. Атакующий стремится заставить получателя самостоятельно раскрыть данные, открыть опасное вложение или подтвердить действие, создающее дополнительные риски для организации.
Нейросети помогают адаптировать сообщения под язык, стиль и профессиональную среду конкретной аудитории. Они исправляют ошибки, перестраивают формулировки, создают убедительные деловые объяснения и подготавливают множество вариантов одного обращения. Благодаря этому традиционные признаки мошеннических писем — плохая грамматика, неестественные выражения, шаблонные обороты — становятся менее надёжными ориентирами для быстрой проверки.
Ещё серьёзнее выглядит возможность создавать убедительный контекст на основе общедоступной информации. Если компания публикует сведения о новых продуктах, мероприятиях, вакансиях и партнёрах, атакующий получает материал для подготовки сообщений, которые внешне соответствуют реальной деятельности организации. Нейросеть может обработать такие сведения значительно быстрее, чем человек, который вручную изучает десятки страниц.
Отдельный риск связан с генерацией изображений, голосов и видеоматериалов. Технологии синтеза позволяют имитировать отдельные особенности внешности и речи, поэтому сотрудник может столкнуться с поддельным обращением, которое выглядит или звучит знакомо. Особенно опасными бывают ситуации, когда человеку предлагают срочно изменить платёжные реквизиты, предоставить конфиденциальные сведения или выполнить необычное распоряжение руководителя.
Защититься от подобных сценариев помогает предварительно установленный порядок подтверждения важных действий. Например, изменение банковских реквизитов поставщика следует проверять через независимый канал связи, используя ранее известные контактные данные. Финансовые операции необходимо проводить в соответствии с внутренними правилами согласования. Даже убедительная видеосвязь не должна отменять обязательные проверки, если запрос выходит за пределы обычных рабочих процессов.
Вредоносное ПО и автоматический поиск уязвимостей
Применение ИИ не ограничивается созданием сообщений. Технологии также используются при анализе программного кода, поиске потенциальных ошибок и подготовке инструментов для атак. Нейросеть может помочь разобраться в незнакомом проекте, объяснить работу отдельных функций, предложить варианты исправления ошибок или автоматизировать повторяющиеся операции. Подобные возможности полезны разработчикам и специалистам по информационной безопасности, однако при неправильном использовании они способны ускорить подготовку вредоносных инструментов.
В 2025 году эксперты уже обнаруживали признаки применения искусственного интеллекта при создании вредоносного программного обеспечения. В 2026 году особенно заметным стало расширение масштаба автоматизации. Некоторые сценарии предусматривают последовательное выполнение нескольких задач, при котором отдельные компоненты анализируют результаты предыдущих действий и выбирают следующий шаг в рамках заданных ограничений.
Здесь важно разобраться в понятии эксплойта, которое регулярно встречается в материалах о кибербезопасности. Эксплойтом называют программный код или другой инструмент, использующий определённую уязвимость системы для выполнения нежелательных действий. Если злоумышленник обнаруживает ошибку в приложении, операционной системе или сетевом сервисе, он может попытаться воспользоваться ею для получения доступа, повышения привилегий или нарушения работы инфраструктуры.
Искусственный интеллект способен ускорить анализ информации об известных уязвимостях и помочь специалисту определить, какие участки системы требуют дополнительной проверки. В автоматизированных сценариях подобные инструменты могут работать значительно быстрее человека, обрабатывая множество объектов и результатов сканирования. Однако наличие нейросети не означает, что любая система автоматически становится уязвимой: успешность атаки зависит от конкретной ошибки, конфигурации инфраструктуры, доступных прав и качества защитных механизмов.
Отдельное направление связано с ИИ-агентами, которые способны последовательно выполнять действия с использованием инструментов и внешних сервисов. В отличие от обычного чат-бота, отвечающего преимущественно на запросы пользователя, агент может обращаться к API, анализировать результаты операций и запускать следующие этапы процесса в соответствии с заданной целью. Если такому инструменту предоставлены избыточные полномочия, последствия ошибки или злоупотребления могут оказаться значительно серьёзнее, чем при использовании простой текстовой модели.
При этом не стоит представлять современные нейросети как универсальные системы, которые самостоятельно находят неизвестные уязвимости и безошибочно обходят любые средства защиты. Большинство практических сценариев по-прежнему опирается на известные методы, существующие инструменты и человеческую подготовку. Главный эффект заключается в скорости обработки информации, расширении количества одновременно выполняемых задач и снижении порога входа для людей, которые раньше не обладали достаточными техническими навыками.
Почему под ударом оказались небольшие компании
Один из наиболее неприятных эффектов автоматизации заключается в изменении круга потенциальных жертв. Для подготовки сложной целевой атаки обычно требуются время, знания и ресурсы, поэтому злоумышленники традиционно уделяли больше внимания организациям, где возможный результат оправдывал затраты. Если подготовительные операции становятся дешевле, экономическая привлекательность небольших целей постепенно повышается.
Небольшая компания может хранить клиентские базы, договоры, финансовые документы, учётные данные сотрудников и доступы к облачным сервисам. Даже если её собственная инфраструктура не представляет значительной ценности, она может взаимодействовать с крупными заказчиками, подрядчиками и поставщиками, поэтому компрометация одной учётной записи иногда создаёт риски для других организаций.
Особенно уязвимыми оказываются компании, которые развивают цифровые процессы быстрее, чем успевают выстраивать систему защиты. Сотрудники используют облачные хранилища, корпоративные мессенджеры, сервисы автоматизации и инструменты на основе ИИ, а права доступа со временем накапливаются и перестают соответствовать реальным обязанностям пользователей. В результате потенциальная точка входа может находиться далеко за пределами основного корпоративного сервера.
По данным «Солар», структура зарегистрированных инцидентов также изменилась. Доля сетевых атак и разведки среди подтверждённых случаев выросла с 3% до 24%, тогда как на вредоносное программное обеспечение пришлось 53%, что на два процентных пункта больше прошлогоднего значения. Ещё 23% составили утечки данных, несанкционированный доступ и другие типы инцидентов.
Рост доли сетевых атак и разведки заслуживает отдельного внимания, поскольку подготовительный этап часто остаётся менее заметным для руководства, чем непосредственный сбой или утечка. Если злоумышленник изучает внешние сервисы, проверяет доступные точки входа и собирает сведения об инфраструктуре, компания может ещё не наблюдать очевидных последствий, хотя интерес к её системам уже возник. Именно поэтому обнаружение подозрительной активности до момента компрометации становится важной задачей защитных команд.
Дополнительную сложность создаёт маскировка активности под обычную работу с популярными ИИ-сервисами, включая ChatGPT, DeepSeek и Claude. Некоторые действия могут выглядеть как стандартные обращения к внешним инструментам, а команды и сетевые запросы не всегда сразу отличаются от привычной пользовательской активности. Это не означает, что перечисленные сервисы сами по себе являются источником угрозы: проблема возникает тогда, когда злоумышленник использует похожие рабочие процессы для сокрытия собственных действий или пытается получить доступ к данным через недостаточно защищённую интеграцию.
Внутренние риски: когда ИИ становится частью инфраструктуры
До недавнего времени многие организации рассматривали искусственный интеллект преимущественно как внешний инструмент, которым сотрудник пользуется в отдельном окне браузера. Теперь нейросети постепенно подключаются к корпоративным базам знаний, системам управления задачами, программным интерфейсам и внутренним приложениям, поэтому границы между обычным помощником и участником бизнес-процессов становятся менее очевидными.
Руководитель продукта «Гарда AI Security» Денис Каракай обращает внимание на то, что ИИ расширяет поверхность атаки сразу в нескольких направлениях. Помимо фишинга и автоматизированного поиска уязвимостей появляются риски, связанные с запросами к модели, содержанием её ответов и доступом ИИ-агентов к корпоративным данным. Поэтому защита должна учитывать права доступа, выполняемые действия и взаимодействие интеллектуальных систем с информационной инфраструктурой.
Один из характерных примеров связан с избыточными разрешениями. Представим корпоративного помощника, который может искать сведения во внутренних документах, обращаться к API и создавать записи в рабочих системах. Если его учётная запись обладает правами, необходимыми для гораздо более широкого круга операций, чем требуется для конкретной задачи, ошибка настройки способна привести к раскрытию информации или нежелательным изменениям данных.
Другой риск связан с недоверенным содержимым, которое попадает в контекст модели. В документах, электронных письмах и веб-страницах могут находиться инструкции, рассчитанные на то, чтобы повлиять на поведение ИИ-системы. Такие сценарии часто обсуждаются под названием prompt injection, или внедрение инструкций в запрос. Их практическая опасность зависит от архитектуры приложения, способа обработки внешних данных и полномочий, которыми наделён агент.
Если интеллектуальная система способна выполнять действия самостоятельно, одной фильтрации подозрительных фраз может оказаться недостаточно. Защитные механизмы должны ограничивать доступ к данным, проверять разрешённые операции и контролировать действия, которые могут привести к существенным последствиям. Например, помощнику для поиска документов может быть достаточно права чтения определённого раздела базы знаний, тогда как удаление записей, изменение финансовых сведений и отправка информации за пределы компании должны требовать отдельных разрешений.
Ещё одна проблема возникает, когда сотрудники передают внешним моделям конфиденциальные сведения без понимания правил обработки информации. В запрос могут попасть фрагменты исходного кода, клиентские данные, внутренние документы или технические подробности инфраструктуры. Поэтому организации необходимо заранее определить, какие категории информации разрешено использовать с конкретными ИИ-сервисами, а какие должны оставаться внутри контролируемого корпоративного контура.
Противостояние: кто получает преимущество
На первый взгляд может показаться, что искусственный интеллект неизбежно даёт атакующим преимущество, поскольку злоумышленнику достаточно найти одну подходящую лазейку, тогда как защитной команде приходится учитывать множество возможных сценариев. Однако подобный вывод был бы слишком категоричным, поскольку те же технологические возможности применяются для обнаружения подозрительных действий, анализа журналов событий, поиска ошибок конфигурации и ускорения реагирования на инциденты.
Руководитель Kaspersky GReAT в России Дмитрий Галов отмечает, что ключевой эффект ИИ заключается в появлении нового автономного участника атак, который способен быстрее обрабатывать информацию и одновременно выполнять большое количество задач. При этом технологии не отменяют существующие методы киберзащиты, а повышают требования к их эффективности и скорости применения.
Защитные команды используют машинное обучение для выявления аномалий в сетевом трафике, поиска подозрительных последовательностей действий и сопоставления событий из разных источников. Если система обнаруживает, что учётная запись неожиданно обращается к необычным ресурсам или выполняет нетипичные операции, автоматизированные инструменты могут помочь специалисту быстрее определить приоритет проверки. Дополнительную пользу даёт автоматизация рутинных процессов, позволяющая сотрудникам сосредоточиться на расследовании действительно сложных инцидентов.
При этом внедрение ИИ в защиту требует осторожности, поскольку модель тоже может ошибаться, пропускать угрозы и выдавать ложные срабатывания. Если организация полностью доверяет автоматическим решениям без проверки критически важных действий, она рискует заменить одну проблему другой. Поэтому эффективность системы определяется качеством данных, настройками, возможностями контроля и тем, насколько грамотно автоматизация встроена в рабочие процессы специалистов.
Денис Каракай считает, что на текущем этапе атакующая сторона получила определённое преимущество благодаря возможности масштабировать воздействие на данные и бизнес-процессы. Защитным подразделениям приходится одновременно осваивать новые инструменты и перестраивать архитектуру безопасности с учётом рисков, возникающих при использовании ИИ-агентов. Такая оценка показывает, насколько сложным становится противостояние, хотя окончательный баланс зависит от конкретной отрасли, зрелости защиты и характера угроз.
На практике преимущество получает организация, которая быстрее обнаруживает проблему, ограничивает её распространение и восстанавливает нормальную работу. Даже продвинутые инструменты не принесут ожидаемой пользы, если компания не знает, какие системы у неё существуют, кому предоставлены права доступа и кто отвечает за реагирование на инциденты.
Практические меры защиты от атак с применением ИИ
Начинать следует с инвентаризации цифровых активов, поскольку невозможно надёжно защитить инфраструктуру, состав которой остаётся неизвестным. Организации необходимо определить, какие серверы и приложения доступны извне, какие облачные сервисы используются сотрудниками, где хранятся чувствительные сведения и какие интеграции имеют доступ к внутренним системам. Особое внимание стоит уделить забытым тестовым ресурсам, старым учётным записям и сервисам, которые продолжают работать после завершения первоначальных проектов.
Следующим шагом становится пересмотр прав доступа. Сотрудники, приложения и ИИ-агенты должны получать только те разрешения, которые необходимы им для выполнения конкретных задач. Если автоматизированному помощнику требуется читать определённые документы, предоставление доступа ко всей корпоративной базе может создать неоправданный риск. Аналогичный принцип действует для API-ключей, сервисных учётных записей и интеграций между приложениями.
Необходимо также своевременно устанавливать обновления и устранять известные уязвимости, особенно в системах, доступных из интернета. Автоматизация разведки позволяет атакующим быстрее обнаруживать плохо защищённые ресурсы, поэтому задержка с обновлением программного обеспечения способна увеличить период, в течение которого компания остаётся уязвимой. При этом исправления следует проверять и внедрять в соответствии с критичностью уязвимости и особенностями рабочей инфраструктуры.
Для снижения риска фишинга полезно сочетать технические средства с понятными правилами проверки подозрительных запросов. Многофакторная аутентификация помогает усложнить захват учётной записи, а отдельное подтверждение важных операций снижает вероятность ущерба при компрометации одного пользователя. Сотрудники должны понимать, как сообщить о подозрительном письме, необычном запросе или попытке получить доступ к конфиденциальным сведениям, не опасаясь, что за своевременное сообщение их автоматически обвинят в ошибке.
Организациям, которые уже внедрили ИИ-агентов, необходимо дополнительно проверять их полномочия и контролировать действия, связанные с изменением данных или взаимодействием с внешними системами. Для критически важных операций разумно предусмотреть подтверждение человеком, а также вести журналы действий, позволяющие восстановить последовательность событий при расследовании инцидента. Чем больше самостоятельности получает агент, тем важнее становится возможность быстро ограничить его доступ и остановить выполнение нежелательных операций.
Наконец, компании необходимо заранее подготовить план реагирования на киберинциденты. В нём следует определить ответственных сотрудников, порядок изоляции затронутых систем, способы восстановления данных и правила внутреннего информирования. Регулярные резервные копии, которые проверяются на возможность восстановления, помогают уменьшить последствия разрушительных атак и программ-вымогателей. Проверка сценариев восстановления особенно важна, поскольку наличие резервной копии ещё не гарантирует, что бизнес сможет быстро вернуться к нормальной работе.
Что изменится в ближайшие годы
По мере распространения ИИ автоматизация будет проникать как в атакующие инструменты, так и в системы защиты. Вероятно, компании столкнутся с дальнейшим увеличением числа персонализированных попыток обмана, более быстрым анализом открытой инфраструктуры и расширением количества приложений, которые выполняют действия от имени пользователей. При этом скорость изменений будет зависеть от развития моделей, доступности инструментов, экономических интересов злоумышленников и способности организаций внедрять эффективные меры контроля.
Для бизнеса главный вызов состоит в том, что искусственный интеллект постепенно становится частью повседневной цифровой инфраструктуры. Если раньше организация могла отдельно оценивать безопасность почты, серверов и рабочих станций, то теперь ей приходится учитывать дополнительные связи между моделями, корпоративными данными, API и автономными агентами. Ошибка в одном компоненте при определённых условиях способна затронуть сразу несколько связанных процессов.
Вместе с тем было бы ошибкой считать, что развитие нейросетей делает защиту бессмысленной. Большинство успешных атак по-прежнему зависит от конкретных условий, включая ошибки конфигурации, слабые механизмы контроля доступа, недостаточное обновление систем и нарушения установленных процедур. Исправление этих проблем снижает вероятность компрометации независимо от того, использует ли атакующий ИИ в своей работе.
Искусственный интеллект меняет прежде всего масштаб и темп киберпреступности, позволяя быстрее выполнять знакомые операции и охватывать больше потенциальных жертв. Для компаний это означает необходимость внимательнее относиться к собственной инфраструктуре, регулярно пересматривать права доступа и контролировать интеллектуальные инструменты, которым доверяются корпоративные данные. Для обычных пользователей важнейшими привычками остаются проверка источников сообщений, защита учётных записей и осторожность при выполнении необычных просьб, даже если они выглядят вполне убедительно.