Мы попросили сотрудников Positive Technologies хорошенько прищуриться и посмотреть вперед: какой будет ИБ в ближайшие 25 лет? В этом материале — футуризм от практиков.
Сохранены авторский стиль и пунктуация.
В каждый ИБ-продукт будет внедрен ИИ, который будет помогать сотрудникам решать тяжелые кейсы, а в простых — вообще заменять их :) Также возрастет количество кибератак в связи с очень обширным количеством различных девайсов с доступом в сеть, а весь интернет будут контролировать спецслужбы разных стран.
Павел Лавров, специалист, отдел выявления атак и реагирования
(должность на момент подготовки публикации)
В моем понимании мы все ближе к тому, что человек теряет контроль над миром, а именно — вытесняется машинами. Уже существуют квантовые компьютеры, и по скорости вычислений они несопоставимы с обычными. Таким образом, мы потихоньку приближаемся к тому, что человеческий мозг перестанет быть самым производительным компьютером.
Есть ощущение, что с распространением технологий скорость происходящих событий для человека скоро будет слишком велика (из разряда: мы не сможем использовать квантовые компьютеры на полную, так как будем медленно ими оперировать), и вот тут управление будет переходить к ИИ.
Так что на вопрос, какой будет ИБ через 25 лет, я бы сказал: автономной.
Сергей Синицын, инженер, отдел автоматизации разработки
Мне кажется, что за такой промежуток времени произойдет множество изменений. Я уже состарюсь, отстану от технологий, буду пользоваться городским телефоном с круглым барабаном и бухтеть на всех! 😊
Есть абсурдный вариант: офисы станут летающими! Сотрудники будут работать в мягких креслах с бокальчиком игристого и видом на облака. Обеденные перерывы на высоте 3000 метров с парашютом или под водой с аквалангом (тут даже не могу представить, как это будет выглядеть)! Кто сказал, что работа не может быть приключением? Я бы хотела увидеть лицо руководителя или топов, когда они скажут: «Время сходить на обед!» — и все сотрудники просто выпрыгнут из офиса 😊
Риск — это жизнь! А если упадешь? Ну, во-первых, можно будет сказать: «Я работала над проектом в условиях экстремального стресса!» Во-вторых, всегда можно приземлиться на мягкие облака... или на сотрудников, которые не успели выпрыгнуть.
Наталья Истомина, офис-менеджер
Акцент сместится с защиты устройств на защиту цифровой идентичности. Современные ИИ эволюционируют в сторону персональных агентов, способных автономно действовать от имени пользователя. А нейроинтерфейсы сотрут грань между цифровым и реальным пространством.
Поэтому мое представление об ИБ через 25 лет больше напоминает сюжет сериала «Черное зеркало».
«Цифровая тень»
Сюжет
В мире, где каждый человек с рождения имеет «цифровую тень» — ИИ-ассистента, который учится на его поведении и полностью заменяет его в интернете (ведет переписку, делает покупки, общается вместо него), главный герой обнаруживает, что его «тень» начала действовать против него.
Постепенно выясняется, что «тени» некоторых людей были взломаны и теперь работают на таинственную организацию, манипулируя реальными людьми через их же цифровые альтер эго.
Финал
Герой пытается «убить» свою тень, но оказывается, что она уже подменила его в ключевых моментах жизни — и теперь он реальный выглядит мошенником.
Тут и замена личности, и доверие к алгоритмам, и утрата контроля над собственной идентичностью.
(Пойду продам идею Netflix)
Юлия Фомина, ведущий эксперт, направление продуктовой экспертизы
Думаю, что использование нейросетей перестанет быть маркетинговой уловкой, трансформируется в обыденность и к 2050 г. рискует стать артефактом прошлого. Из-за упрощения доступности общих знаний люди не будут заниматься их целенаправленным получением и переложат это на плечи электронных систем. Информационная безопасность станет глобальнее и будет затрагивать всех и каждого.
«Дистопия» — скажете вы. «Время покажет» — отвечу я.
Максим Казин, руководитель группы автоматизации и инфраструктуры
Я считаю, что к 2050 г. и даже сильно раньше подход к обнаружению атак в корне изменится: классические правила корреляции исчезнут как устаревший рудимент. Даже ручная работа с матрицей MITRE ATT&CK — написание детектов под каждую технику и тактику — больше не потребуется. Почему? Потому что ИИ-агенты, обученные на ее актуальных версиях, будут «знать» эту матрицу изначально и смогут самостоятельно сопоставлять события с известными TTP. Мы сможем просто подавать на вход LLM-агентам небольшие датасеты нормализованных событий — и LLM будет классифицировать их по техникам и тактикам без участия правил или корреляционной логики. Машинное обучение станет первичным фильтром, сужая воронку из потоков событий и выделяя потенциально подозрительные участки данных.
Но даже этот этап, возможно, со временем исчезнет: LLM смогут обрабатывать события в реальном времени, на лету, в практически неограниченном контексте, и самостоятельно выявлять связанное, значимое, интересное — без явной подачи датасетов, правил или детектов. Возможно, это случится не в 2050-х гг., а значительно раньше. А может быть, наоборот: ИИ еще долго будет нуждаться в помощи человека. Но очевидно одно: традиционные методы обнаружения стремительно теряют актуальность, и нас ждет качественно новый уровень восприятия, анализа и понимания происходящего.
Алексей Потапов, ведущий эксперт, направление продуктовой экспертизы
Я думаю, что в 2050 г. появится ИИ-киберсудья, который будет автоматически рассматривать и выносить решения по киберпреступлениям. Также в повседневной жизни появятся курсы по «кибермедитации», помогающие снижать стресс от постоянных новостей о киберугрозах и цифровом контроле.
Вероника Архипова, менеджер по работе с молодежными программами
2050 г. в моем понимании — это уже прямо будущее со всеми футуристическими компонентами. ИИ точно далеко продвинется и будет активно использоваться во всей жизни, в том числе и в ИБ. Появится новое направление ИБ — безопасность нейросетей (безопасность искусственного интеллекта). Большая часть сервисов перейдет на ИИ, и за безопасность этих ИИ будут отвечать решения класса SAI — security artificial intelligence :) Специалисты по кибербезопасности будут напрямую подключаться к СЗИ через мозг, так как станет возможным и популярным имплантирование чипов, и появятся отдельные специалисты кибербеза, отвечающие за безопасность имплантируемых чипов.
Хакеры научатся «погружать» себя в цифровую копию, то есть делать ИИ, который получит весь объем хакерских знаний и навыков и будет преследовать те же цели. Для этого ИБ должна будет также научиться создавать цифровых двойников :) Кибервойна выйдет на новый уровень. Если резюмировать, в 2050-м точно будет ИБ, да и, скорее всего, отрасль примет другой формат: в ней будет много нововведений, — но она будет жить. Если провести аналогию, ИБ — это «оружейная отрасль»: то есть всегда есть хакеры и их инструментарий, которые двигают вперед «оружие», и есть ИБ, которая создает и развивает «щит» от этого «оружия». В рамках глубоких форматов все останется как есть. Поменяются детали. И еще очень важно: скорее всего, поменяется отношение людей к ИБ (КБ, называть можно как угодно), люди начнут всерьез воспринимать ИБ/КБ на всех уровнях (ждем двухфакторку, когда отводишь ребенка в садик :) ).
Артем Казыханов, старший специалист, отдел реализации стратегических проектов
Многополярности — быть, так как двухполярный мир закончился, однополярный тоталитарный порядок никого в мире не радует, а это значит, что все полюсы будут заинтересованы в своем суверенитете и своей автаркии. Полюсам придется частично договариваться и взаимно дополнять друг друга, а частично — обеспечивать свою независимость самостоятельно. Укрепление суверенитета полюсов предполагает решение проблем технологической и цифровой независимости, в том числе в сфере безопасности, и кибербез — это только частный случай. Из этого следует, что мы будем наблюдать парад импортозамещений устройств, сервисов, программного обеспечения и продуктов ИБ.
А раз будет много новых (незрелых) аппаратных, программных и организационно-технических решений, то и новых уязвимостей будет много. Злоумышленники будут эти слабости использовать, а компании из сферы результативной безопасности без работы не останутся. Это вселяет оптимизм!
Сергей Станкевич, руководитель антивирусной лаборатории
Думаю, что с учетом текущей популяризации ИБ среди молодежи нынешние школьники охотнее пойдут в ИБ и принесут рынку новых специалистов, которые, в свою очередь, найдут места в государственных и коммерческих компаниях — и дефицит закроется. Хакерам будет сложно противопоставить что-то искусственному интеллекту, который уже будет не таким глупым, как сейчас, и начнет хладнокровно выполнять роль операторов, предотвращая атаки через несколько секунд после возникновения угрозы. С другой стороны, хакеры тоже обучат свои модели — и тогда мы увидим настоящую битву роботов :)
Вадим Пантелькин, специалист, группа обнаружения атак на прикладное ПО
К 2050 г. информационная безопасность окончательно перестанет быть узкопрофильной сферой — она растворится в повседневности как когда-то электричество: вроде бы и не видишь, но без нее ничего не работает. Кибербезопасность перестанет быть отдельной дисциплиной — она станет встроенной во все: в тело, быт, сознание. Условный «антивирус» больше не будет программным решением для конечного устройства — это будет биоинтерфейс, интегрированный в нервную систему человека наряду с нейросетевым файрволом, который будет общаться с пользователем и голосом в голове объяснять, почему заблокирован Netflix.
Пользователя больше не попросят задать пароль: его «ключ» будет формироваться на основе мимики, тембра голоса и других биометрических параметров. Слишком нервничаешь? Подожди с доступом до завтра.
Ребенку при рождении будут присваивать персональный «цифровой иммунитет» — как прививка от кори, только немного другое: комплекс настроек, фильтров и нейросетевых щитов.
Для HR’ов появится нейросеть-ассистент, анализирующая, насколько кандидат подвержен социальному инжинирингу, по выражению лица, скорости реакции на фейковые письма, а также по тому, впишется ли он в коллектив. SOC’и будущего превратятся в гибрид ИИ и человека и будут не только реагировать на инциденты, но и предсказывать их на месяцы вперед — по всплескам тревожности в корпоративных чатах, количеству выпитого кофе, предпочтениям в плейлисте и деплою в пятницу. Детям родители будут читать на ночь сказку «Цифрогигиена и основы самозащиты от deepfake», а также истории про самые нелепые компрометации данных.
Одно можно сказать точно: в мире будущего безопасным будет не тот, кто все знает, а тот, кто умеет сомневаться, критически мыслить и вовремя нажимать кнопку «выключить Wi-Fi + включить голову». Мир станет быстрее, сложнее, умнее — но при этом уязвимее. И все, что останется по-настоящему ценным, — это здравый смысл, цифровая интуиция и немного юмора в закладках браузера. А с учетом того, как быстро развиваются технологии, эти прогнозы могут сбыться даже раньше, чем мы думаем.
Дмитрий Павленко, руководитель отдела выявления атак и реагирования
Если не будет ограничения ИИ в этом периоде, это приведет к не очень светлому будущему для нас, обычных горожан. Но, к сожалению, скорее ИИ не получится остановить.
Можно с уверенностью сказать, что ИИ к этому времени будет практически везде использоваться для защиты и нападения на ИС (информационные системы). Следовательно, техническая часть перейдет больше на сторону ИИ. Но для нас, работающих на стороне Red Team, все не так печально, так как я считаю, что атаки будут еще больше учитывать человеческий фактор. А также будут актуальны атаки на обход/обман анализа искусственным интеллектом. Например, ввод дополнительного промпта в код вредоносного ПО или попытка вставить дополнительный промпт в email-сообщение, когда ведется атака типа СИ (социальная инженерия).
ИИ приведет к массовому ослаблению критического мышления, да и в принципе интеллекта. Люди будут больше доверять ИИ, делегировать ему вещи, связанные с анализом информации. Особенно люди, которые родятся и будут взрослеть в эру ИИ. Это открывает дополнительные возможности для «атак через человека». Это приведет к еще большему различию между богатыми/среднеобеспеченными и бедными. Бедным будет труднее перейти к финансовому благополучию. Детей из богатых/средних семей будут стараться изолировать от ИИ во время обучения. Это поможет им сохранить примерно адекватный уровень интеллекта. Но для детей из бедных семей, в связи с тем что контроля в этих семьях меньше, все будет более печально, так как они будут все больше надеяться на ИИ. Работа в сфере ИБ будет больше для людей из средних/богатых семей. Откроется вектор атак на человеческие чипы (вспоминаем Илона Маска).
Элита стран Европы, Америки, РФ будет все больше стараться закрыть свою страну от другого мира, все больше контролировать потоки информации (пример — Китай, Северная Корея). Но это будут в принципе важные для государственной безопасности решения, так как будут использоваться фейки, сделанные ИИ. Также, если это не сделать, другие государства смогут легко манипулировать массами для создания дополнительных угроз. Ну и прослеживается связь с пунктом про ослабление уровня критического мышления, манипулировать массами будет проще.
Увеличение тотального контроля со стороны государства. Уже можно увидеть, что страны Европы, которые когда-то гордились своей свободой слова, неприкосновенностью частной жизни, стараются вводить ограничение на шифрование. В принципе, в РФ можно ждать то же самое.
Уход от наличных денег, переход в безналичные переводы. Всем, кто завязан на теневом бизнесе, придется уходить в бартер либо в криптовалюты. Насчет криптовалют не уверен, думаю, в будущем это будет не так анонимно, а следовательно — не так безопасно для «преступников».
Логично, что будет больше информационно-психологических операций у различных стран. Каждая страна будет создавать свои кибервойска, ну или увеличивать их финансирование, в том числе и РФ. Так как, даже если деглобализация затронет множество стран Европы и Америки, еще остаются Африка, Восток. И эти информационные территории будут использоваться для противостояния различных стран.
Дмитрий Анохин, младший специалист, отдел анализа защищенности веб-приложений (должность на момент подготовки публикации)
- Робот Макс в «Госуслугах» защищает жителей РФ от хакеров, фишинга и подпольных кол-центров.
- Построен памятник государственному ИИ-защитнику от хакерских угроз.
- Продукты ИБ работают на квантовых компьютерах.
Кирилл Кирьянов, Product Expert, отдел экспертизы MaxPatrol SIEM
Пароли исчезнут, все будут пользоваться биометрией для аутентификации. Нет смысла помнить пароли, если каждый человек уникален. Вся информационная безопасность перейдет в руки ИИ, но за ним все равно будут стоять специалисты, которые его обучают. Квантовые компьютеры разрушат устои криптографии — наверное, не останется ни одного человека, чьи данные нельзя будет найти в открытом доступе. Конечно же, квантовые компьютеры появятся в первую очередь у государств, что приведет к массовым атакам на эти же государства.
Веб-сайты будут генерироваться ИИ в реальном времени: зашел на госуслуги, ввел свой запрос, ИИ обработал его и выдал информацию. При плохой архитектуре безопасности таких приложений хакеры смогут доставать и чужие данные, а может, и получать доступ ко всему серверу. Хакерские группировки разрастутся до огромных размеров: сотни, а может, и тысячи людей будут одновременно взламывать организации. Это станет не только огромной угрозой для компаний, но и сильной мотивацией увеличить количество ИБ-специалистов.
Георгий Котов, стажер, отдел анализа защищенности веб-приложений
(должность на момент подготовки публикации)
К 2050-му можно ожидать первых попыток внедрения инфобеза либо в программу старших классов, либо в общеобразовательные программы вузов и ссузов. Чтобы «каждый карапуз» был образован в инфобезе, на мой взгляд, надо еще век-два.
Аноним
- Пароли перестанут существовать. Все будут использовать ключи/сертификаты/токены или что-то еще, что пока еще не изобрели.
- Повсеместное внедрение ИИ-агентов во всех сферах экономики. Это решит многие проблемы, но в то же время создаст новые угрозы.
Юрий Дьяченко, руководитель отдела разработки прикладных сервисов
Наступит эра тотального контроля. Под предлогом кибербезопасности государства национализируют интернет. Доступ в сеть будет только по личному социальному номеру. Который заменит и паспорт, и банковский счет. Все действия, все транзакции, все личные переписки станут доступны госструктурам. Потребуется больше сотрудников ИБ, так как следить будут за всеми и везде. Как в антиутопии Замятина «Мы». Только там была прозрачность на физическом уровне, а у нас будет прозрачность на киберуровне.
Будет развиваться индустрия домашних роботов. Это создаст нишу для нового рода кибератак: получение доступа к управлению домашним роботом. Как следствие, потребуется оборудовать роботов средствами защиты для конечных устройств, что позволит компаниям, производящим продукты EDR, заключать контракты на предустановленное ПО с компаниями, производящими домашних роботов. Конечными узлами будут домашние роботы, а регионы, в которых их продали, — тенантами, отсюда возникнет необходимость в мультитенантности.
Другой вариант развития событий: геополитические конфликты повлекут катастрофу, которая уничтожит интернет. Человечество откатится к 60-м гг. XX века. Люди снова начнут ходить в библиотеки, чтобы добыть нужную информацию, возродят живое общение и вспомнят, каково это — радоваться простым вещам, таким как восход солнца, шелест травы на ветру, смех ребенка.
Ирина Кудрина, ведущий системный аналитик, департамент разработки EDR
Я думаю, что это мрачное будущее в стиле киберпанк, где будет соревноваться сам с собой самообучающийся искусственный интеллект. Всей инфраструктурой заказчиков будет управлять AI, в том числе отвечать за кибербез. В то же время будут площадки, предоставляющие услуги AI для проведения кибератак. Возможно, через 25 лет квантовые компьютеры смогут за адекватное время расшифровать AES-256. Это приведет к краху текущих криптосистем и необходимости перехода на алгоритмы, устойчивые к квантовым атакам.
Константин Маньяков, лидер продуктовой практики, метапродукты
Качественная оценка рисков перестанет приносить нужное качество оценки, обзаведитесь достаточным количеством количественной!
Михаил Толчельников, консультант по РКБ
(должность на момент подготовки публикации)
Я думаю, что в ближайшие 25 лет человечество столкнется с таким понятием, как нейроинтерфейсы, в повседневной жизни. Это может быть некоторое устройство, полностью заменяющее привычный образ интернета. Все взаимодействия с глобальной сетью могут происходить с помощью мысли. Также полагаю, что будет существенный скачок в развитии квантовых компьютеров и вычислений на их основе, что откроет новые горизонты в различных областях жизни человека.
Алексей Соловьев, руководитель группы экспертизы, отдел анализа защищенности веб-приложений
