Исследователи из AI Futures Project, которые ранее выпустили сценарий AI 2027, представили новый документ под названием AI 2040. В прошлой работе авторы рассматривали два основных исхода гонки искусственного интеллекта. В одном случае человечество теряет контроль над сверхразумными системами. В другом власть над ними получает небольшая группа компаний или политиков. Теперь команда предлагает альтернативный вариант развития событий и подробно описывает, что должно произойти с 2029 по 2040 гг., чтобы избежать обоих сценариев.
План А
Сверхразум откладывают до 2040 года
Главная идея Плана А заключается в том, чтобы не допустить появления сверхразумного ИИ в ближайшие годы. Авторы предлагают растянуть этот процесс до 2040 г. За это время государства должны выработать правила безопасности, а ученые лучше понять принципы работы таких систем.
Согласно сценарию, в 2029 г. США и Китай договариваются остановить гонку за создание сверхразума. Стороны временно прекращают обучение новых передовых моделей и начинают создавать систему взаимного контроля. Авторы считают, что скрыть крупный проект будет сложно, поскольку современные дата-центры хорошо заметны, потребляют огромное количество энергии и зависят от поставок специализированных чипов.
В 2030 г. страны запускают международный консорциум. Его работа строится на четырех принципах. Первый предусматривает замедление развития ИИ, если появляются вопросы к безопасности. Второй требует сделать исследования максимально открытыми. Третий предполагает, что доступ к передовым технологиям должны получить десятки компаний из разных стран. Четвертый принцип позволяет приостановить создание новых ИИ-систем, если они начнут развиваться слишком быстро или покажут признаки опасного поведения.
Дата-центры строят за границей
Одно из самых необычных предложений касается размещения вычислительных мощностей. Авторы предлагают строить новые китайские дата-центры в Канаде, а американские в Монголии. Если договоренности будут нарушены, каждая сторона сможет быстро лишить соперника доступа к вычислительным ресурсам.
По замыслу исследователей, это должно удерживать страны от попыток в одностороннем порядке ускорить создание сверхразумного ИИ. Такой механизм они называют взаимно гарантированным уничтожением вычислительных мощностей.
Миллионы ИИ-агентов и новые доходы государств
В сценарии уже к 2032 г. постоянно работают около 60 млн ИИ-агентов. Они выполняют задачи в десятки раз быстрее человека и берут на себя значительную часть интеллектуального труда.
Чтобы никто не получил слишком большое преимущество, консорциум ограничивает скорость наращивания вычислительных мощностей. Право на строительство новых дата-центров и выпуск дополнительных чипов распределяется через аукционы. По расчетам авторов, такие механизмы приносят государствам десятки триллионов долларов дополнительных доходов.
Часть этих средств предлагается направлять гражданам. В документе говорится о регулярных выплатах населению за счет прибыли, которую создают автоматизация и искусственный интеллект.
ИИ достигает уровня лучших специалистов
Авторы считают, что к 2035 г. системы искусственного интеллекта смогут работать примерно на уровне лучших экспертов в большинстве профессий. В этот момент развитие технологий предлагают намеренно замедлить.
Следующие несколько лет должны уйти на исследования безопасности. Ученым предстоит понять, можно ли надежно контролировать сверхразумные системы и как убедиться, что они не начнут действовать вопреки интересам людей. Только после этого развитие ИИ снова ускоряют. По сценарию это происходит в 2040 г.
План Б
Вместо договора начинается борьба за лидерство
Авторы признают, что их вариант может так и не быть реализован. В качестве альтернативы они рассматривают более жесткий путь, при котором государства продолжают гонку за создание сверхразумного ИИ.
В этом случае власти делают ставку на скорость, секретность и концентрацию ресурсов в руках нескольких компаний. Международное сотрудничество отходит на второй план, а главным становится технологическое превосходство над конкурентами.
Риск борьбы и концентрации власти
По мнению исследователей, такой подход повышает вероятность кибератак, диверсий и политических конфликтов между крупнейшими державами. Одновременно растет риск того, что контроль над самыми мощными системами окажется в руках небольшой группы людей.
Авторы считают этот вариант самым опасным. По их оценке, он может привести либо к потере контроля над искусственным интеллектом, либо к беспрецедентной концентрации власти.
Что в итоге
Составители AI 2040 называют свой документ не прогнозом, а планом действий. Они попытались ответить на вопрос, что должны сделать правительства и технологические компании, чтобы не допустить появления неконтролируемого сверхразумного ИИ. В их версии будущего США и Китай ограничивают гонку технологий, вводят международный надзор за крупнейшими дата-центрами и замедляют развитие самых мощных систем до 2040 г. Авторы признают, что такой сценарий выглядит маловероятным, но считают его менее опасным, чем бесконтрольная гонка за создание сверхразума.
The authors of the acclaimed AI 2027 have released a new forecast until 2040: what awaits us
Researchers from the AI Futures Project, who previously released the AI 2027 scenario, have submitted a new document called AI 2040. In previous work, the authors considered two main outcomes of the artificial intelligence race. In one case, humanity is losing control of superintelligent systems. In another, a small group of companies or politicians gets power over them. The team now offers an alternative scenario and describes in detail what should happen from 2029 to 2040 in order to avoid both scenarios.
Источник: https://dzen.ru/a/alTU6zRgISluF0gT