/Positive Technologies/ О концепции результативной кибербезопасности, возможностях и проблемах искусственного интеллекта (ИИ) и метапродукте Positive Technologies, который заменит дежурную смену SOC
В Москве прошёл 24-й Большой национальный форум информационной безопасности «Инфофорум-2022». Юрий Максимов, сооснователь и председатель совета директоров Positive Technologies, первой компании из мира кибербезопасности на Московской бирже (торговый код — POSI), выступил в пленарном заседании «Национальный цифровой суверенитет и будущее цифровой безопасности» с докладом «Будущие тренды и перспективы развития рынка информационной безопасности в России и мире».
«Чтобы строить будущее — надо честно принимать настоящее, — отметил Юрий Максимов. — Сегодня для взлома любой организации специалистам по тестированию на проникновение требуется максимум пять дней. Несмотря на увеличение числа инструментов защиты, компании по-прежнему незащищены. Если старые подходы не срабатывают, пора признать, что король отчасти голый. Поэтому в последнее время многие игроки на рынке ИБ заговорили о необходимости получения результатов другого уровня. В Positive Technologies это называют концепцией результативной кибербезопасности, в которой есть понятие неприемлемых событий».
В ходе выступления Юрий Максимов подчеркнул, что менять ситуацию в ИБ в целом надо общими усилиями, не дожидаясь пока кто-то что-то за нас решит. Каждый участник отрасли ИБ должен сделать это на своем уровне — производя средства защиты, интегрируя их, выстраивая концепцию безопасности.
Юрий Максимов полагает, что в техническом плане Россия имеет сильные конкурентные преимущества на мировом рынке ИБ: «В России выдающиеся хакеры-исследователи, программисты и не менее замечательные специалисты по ИИ. Объединяя эти компетенции, мы можем сделать масштабируемое решение, которое закроет и проблемы ИБ в России на уровне всего государства, и будет востребовано в других странах. Это, например, Турция, Египет, Узбекистан, Пакистан и другие регионы. Они готовы покупать наши решения по ИБ, но у них нет необходимого числа специалистов высокой квалификации, поэтому для экспорта продуктов в парадигме того ценного результата, о котором мы говорим — исключения недопустимых событий — необходим высокий уровень автоматизации».
Денис Баранов, генеральный директор Positive Technologies, принял участие в стратегической сессии № 1 «Искусственный интеллект: вопросы обеспечения информационной безопасности. Отечественный и мировой опыт. Диалог с ведущими компаниями» с докладом «За секунду до… Остановить кибератаку до реализации неприемлемого сценария».
«Большинство исследованных нами систем ИИ являются уязвимыми, — отметил Денис Баранов.— Например, в одном из устройств со сканером лица использовались две обученных нейросети. Одна из них проверяла являетесь ли вы в принципе человеком — живое лицо перед камерой или нет. Вторая сеть определяла разрешенный доступ. В связи с неопытностью разработчиков ИИ можно было обойти авторизацию весьма банальным способом: вначале нужно было постоять перед камерой буквально полсекунды, чтобы первая нейросеть определила „да, это человек“, а затем быстро, при помощи зеркала подставить фотографию другого пользователя. И такие детские болезни присутствует во всех системах ИИ, которые мы видели, в том числе в очень широко используемых».
Вторая часть трудностей касается machine learning pipeline — конвейера разработки и обучения моделей ИИ. Это и проблемы защищенности набора данных, предназначенных для обучения нейросети, и возможность доступа к чужой нейросети в системах, разработанных для задач глубокого обучения (например, NVIDIA DGX).
«Positive Technologies разрабатывает свои продукты с алгоритмами искусственного интеллекта, а также изучает чужие подобные системы для выявления угроз, связанных с этими технологиями, — рассказал Денис Баранов. — Постоянное исследование систем, построенных на базе искусственного интеллекта, позволяет защитить клиентов Positive Technologies и использовать лучшие стороны подобных алгоритмов в своих средствах защиты».
«Без автоматизации мы не сможем перейти на новый уровень безопасности. Экспертов, способных на потоке анализировать множество „сработок“ и держать в голове всю модель угроз, крайне мало, может быть десятки человек на всю страну, — подчеркнул Денис Баранов. — В ходе наших пентестов нам в 100% случаев удается реализовать весь список страшных и неприемлемых рисков. Сегодня главные наши изыскания вокруг метапродукта MaxPatrol O2, который полностью замещает стандартную смену дежурного SOC, связаны с разработкой алгоритмов ИИ и попыткой типизации пользователей по поведению. Условно, главбух Зинаида Иванова никогда не должна входить на котроллер домена с правами администратора. Для решения подобных задач искусственный интеллект подходит практически идеально».
На мероприятии эксперты Positive Technologies также обсудили темы доверенных сред и безопасности субъектов КИИ. Евгений Зубов, технический директор центра компетенции, выступил с докладом «Доверие в недоверенной среде» в рамках сессии «Российский бизнес шаг за шагом к цифровой независимости». Алексей Новиков, директор экспертного центра безопасности (PT Expert Security Center), представил доклад «Субъекты КИИ — проходной двор или нет?» на сессии «Вопросы обеспечения безопасности критической информационной инфраструктуры и противодействия компьютерным инцидентам».
Источник: Positive Technologies