Нейт Соарес, бывший инженер Google и руководитель Института исследований машинного интеллекта (MIRI), перестал пополнять пенсионные накопления из-за опасений, что искусственный интеллект может уничтожить человечество в ближайшие десять лет. Как сообщает Dexerto, специалист оценивает вероятность такого сценария более чем в 50%.

В интервью для подкаста The Most Interesting Thing in AI, который ведет генеральный директор The Atlantic Николас Томпсон, Соарес рассказал, что не откладывает деньги на пенсию. У него сохранился счет, открытый во время работы в Google, однако он не вносил туда средства уже около десяти лет.

Исследователь считает, что главная опасность заключается не в массовом сокращении рабочих мест из-за автоматизации, а в потенциальном уничтожении людей более развитыми системами ИИ. По его мнению, если такие системы станут достаточно самостоятельными, их цели могут войти в противоречие с интересами человечества.

В беседе с Томпсоном Соарес подчеркнул, что считает риск гибели людей в ближайшее десятилетие превышающим 50%. При этом он не утверждает, что катастрофа неизбежна, и говорит, что продолжает работать над ее предотвращением.

Соарес предлагает ограничить разработку универсальных систем искусственного интеллекта, способных превзойти человека во многих областях. Вместо этого он выступает за более осторожное развитие технологий для конкретных задач, где их возможности можно контролировать.

Опасения исследователя разделяют и некоторые другие специалисты. В сентябре 2026 года Эван Хубингер, руководитель направления исследований согласования ИИ в Anthropic, оценил вероятность уничтожения человечества искусственным интеллектом в ближайшие десять лет более чем в 10%. Он также признал, что у индустрии пока нет четкого решения проблемы контроля над будущими сверхразумными системами. Об этом сообщало Dexerto.

При этом оценки вероятности глобальной катастрофы остаются личными прогнозами отдельных исследователей, а не установленным научным фактом. Специалисты расходятся во мнениях о том, насколько реалистичен такой сценарий и когда он может стать возможным.

Ранее Hi-Tech Mail рассказывал, почему люди готовы платить за то, чтобы наказать искусственный интеллект. Исследование показало, что пользователи могут воспринимать нейросети как нарушителей моральных норм и стремиться восстановить справедливость, даже если алгоритм не способен испытывать боль или раскаяние.

Источник: https://dzen.ru/a/auMn2FOA8hIEhgvN

Поделиться в социальных сетях

Добавить комментарий

Авторизация
*
*
Регистрация
*
*
*
Генерация пароля