Развитие генеративного ИИ способно принести значительные преимущества. Однако оно также усилит риски для безопасности, поскольку расширит возможности субъектов угроз и повысит уровень эффективности атак.
Разработка и внедрение технологий генеративного ИИ может принести
значительные преимущества при условии грамотного подхода к управлению. Производительность и скорость внедрения инноваций во многих отраслях, включая здравоохранение, финансы и информационные технологии, возрастут.
Развитие генеративного ИИ также значительно усилит риски. К 2025 году генеративный ИИ, скорее, увеличит существующие риски, чем станет причиной возникновения новых, но при этом резко увеличит скорость и масштаб распространения некоторых угроз. Сложность прогнозирования технологического прогресса создает значительный потенциал для возникновения технологических «сюрпризов»; почти наверняка появятся дополнительные угрозы, которые не прогнозировались.
Быстрое распространение этих технологий почти наверняка позволит менее искушенным субъектам угроз проводить ранее неосуществимые атаки.
Риски в цифровой сфере (например, кибератаки, мошенничество, махинации, кадры, изображающие сексуальное насилие над детьми) с наибольшей вероятностью проявятся и окажут наибольшее влияние к 2025 году.
Риски для политических систем и обществ будут возрастать по мере развития технологии и расширения ее применения. Распространение синтетических медиа может подорвать демократические ценности и доверие общества к институтам власти.
Риски физической безопасности будут расти по мере того, как генеративный ИИ будет внедряться во все большее количество физических систем, включая критически важные объекты инфраструктуры.
Совокупный риск высок. Готовность стран, отраслей и общества к снижению этих рисков находится на различном уровне. Глобальное регулирование несовершенно и, скорее всего, не сможет предвосхитить будущие события.
Эта работа опирается на множество источников, включая новые исследования, оценки спецслужб, мнения экспертов и открытые источники.