Почему ИИ ускоряет кибермошенничество
На Tech Week Singapore главный специалист Интерпола по информационной безопасности Бйорн Р. Ватне сказал, что искусственный интеллект делает кибермошенничество быстрее, масштабнее и сложнее для обнаружения. Он подчеркнул, что технология не изобретает новые виды преступлений, а усиливает уже известные схемы обмана и мошенничества.
По данным сообщает CNBC, злоумышленники используют ИИ, чтобы одновременно нацеливаться на большое количество потенциальных жертв. Улучшение машинного перевода и развитие цифровых идентичностей усложняют различение подлинного взаимодействия от мошеннического.
Механика атак с использованием ИИ шаг за шагом
Чтобы понять, как происходит такое преступление, полезно разбить процесс на ключевые этапы. Это поможет бизнесу заметить слабые места в защите и применить соответствующие контрмеры.
- Сбор и масштабирование списков целей с помощью автоматизации. ИИ анализирует открытые источники, чтобы найти подходящие контакты и профили.
- Подготовка убедительных сообщений с использованием моделей генерации языка. Сообщения адаптируют под язык и стиль жертвы благодаря машинному переводу.
- Автоматическое тестирование взаимодействия, чтобы выявить какие подходы работают. Система быстро меняет шаблоны и масштабирует те, что дают результат.
- Проведение массированных атак или точечных компрометаций с использованием поддельных цифровых идентичностей. После проникновения злоумышленники продолжают действия вручную или через агента ИИ.
Каждый шаг усиливает предыдущий и делает атаку более эффективной. Комбинация лучшего перевода и поддельных идентичностей позволяет вводить в заблуждение даже хорошо защищенные службы поддержки и сотрудников.
Риски агентного ИИ и советы для бизнеса
Ватне отдельно предупредил об рисках систем агентного ИИ, которые могут самостоятельно выполнять действия от имени пользователей. Он отметил, что ошибки таких систем могут иметь не только информационные последствия, но и физические, если ИИ применяют в устройствах, автомобилях и беспилотном транспорте.
Эксперт советует компаниям в первую очередь определить свои важнейшие активы, от которых зависит непрерывность работы, и выяснить, кто может быть заинтересован в их похищении или нарушении. Далее бизнес должен использовать разведданные об угрозах, чтобы понимать методы и технологии противников и настраивать защиту в соответствии с реальными рисками.
Ватне также отметил, что организациям не стоит пытаться одновременно защищаться от всех возможных угроз, если они не являются целью конкретных атак. По его словам, меры противодействия будут отличаться в зависимости от того, имеет ли компания дело со злоумышленниками, которые используют удобный случай, или с участниками сложных продолжительных кибератак.
Короче говоря, инвестиции в разведданные об угрозах и четкая идентификация критических систем дадут лучший результат, чем рассеивание ресурсов на защиту от всего сразу.
