
Неуправляемое расширение возможностей искусственного интеллекта (ИИ) является угрозой и требует большего внимания со стороны мирового сообщества. Об этом заявил генеральный секретарь ООН Антониу Гутерриш в ходе выступления на Всемирном экономическом форуме в Давосе.
«Сегодня мы сталкиваемся с двумя новыми и серьезными угрозами, которые требуют гораздо большего внимания и действий со стороны мирового сообщества, поскольку они грозят перевернуть привычную нам жизнь: климатический кризис и неуправляемое расширение возможностей искусственного интеллекта», – сказал он, слова генсека привели на сайте ООН.
Гутерриш признает и пользу ИИ. В том числе такие технологии позволяют развивать здравоохранение и заниматься диагностикой заболеваний, поддерживать фермеров с помощью более интеллектуальных инструментов для повышения производительности и др.
«Однако это обещание несет в себе огромный риск, особенно если ИИ останется неуправляемым. ИИ может использоваться как инструмент обмана. Это может нарушить функционирование экономики и рынка труда, подорвать доверие к институтам <…> ИИ может усугубить неравенство, исключив тех, у кого нет ресурсов или инструментов, чтобы извлечь выгоду из его возможностей», – добавил он.
Генсек всемирной организации напомнил про договор, подписанный в сентябре в ООН, и предусматривающий создание дорожной карты по использованию потенциала цифровых технологий и преодолению цифрового неравенства. Договор включает в себя создание независимой международной научной группы по ИИ, которая будет привлекать экспертов для «устранения пробелов в знаниях и помогать каждой стране принимать наиболее обоснованные решения в отношении политики в области ИИ».
19 сентября 2024 г. Консультативный орган высокого уровня по искусственному интеллекту (КОИИ) ООН опубликовал доклад по регулированию технологии ИИ. Согласно ему, всемирная организация предлагает создать независимую Международную научную группу по ИИ (куда могут войти эксперты из разных стран и организаций), начать в рамках ООН межправительственный диалог по вопросам управления ИИ, организовать обмен стандартами в области ИИ и др.
В августе 2024 г. Financial Times со ссылкой на исследование Arize AI писала, что более половины крупнейших американских компаний из списка Fortune 500 в своих годовых отчетах указали на растущий риск, связанный с ИИ. Руководство компаний опасается, что они могут не успеть за конкурентами, которые лучше используют новую технологию.
Банк России среди этических рисков видит проблемы объяснимости алгоритмов и определения основных факторов, которые лежат в основе выдаваемых ИИ рекомендаций. Как говорил статс-секретарь, заместитель председателя Банка России Алексей Гузнов, все это влечет угрозу принятия предвзятых или дискриминационных решений.
Источник: https://www.vedomosti.ru/technology/news/2025/01/22/1087732-gensek-oon-nazval-iskusstvennii