7 ноября OpenAI представила новый вектор развития языковых моделей — GPTs, или цифровые ассистенты, адаптированные под конкретные области работы. Преподаватель «креативного письма», помощник в кулинарном деле, технический консультант — все эти роли смогут принять на себя «кастомные» версии GPT, обладающие дополнительными инструкциями и специфическими для сферы «знаниями».
Как насчет участия GPT-моделей в политической экспертизе? Политики заявляют о пользе нейросетей в процессе принятия решений, а общественность могла бы быть заинтересована в доступной политической аналитике со стороны ИИ. Попробуем разобраться в потенциале цифровых ассистентов на примере темы выборов.
Почему спрашивать у ИИ о политике — бессмысленно
Полноценная интеграция языковых моделей в политическую среду имеет 2 ограничения.
Первое, — фундаментальное, — это неспособность генерировать оригинальные смыслы. Распространенный термин, описывающий принцип работы языковых моделей, — «стохаистический попугай». Фактически ChatGPT и аналоги, отталкиваясь от пользовательского запроса, повторяют наиболее вероятные сочетания «лингвистических выражений» без привязки к смыслу. Другими словами, на выходе получается «усредненное значение» того, что по соответствующему запросу предлагал бы Интернет. Едва ли можно говорить об экспертной ценности такой информации.
Второе ограничение — сложная связь языковых моделей с политической средой, в частности. Часто публичные нейросети отказываются отвечать на вопросы по этой теме, рассматривая её как чувствительную. В других случаях модели транслируют предвзятую позицию, перенимая «скошенные» взгляды из тренировочных данных. Так, например, исследователи отмечали склонность ChatGPT к «левым» взглядам, а позиция Claude рассматривалась как наиболее близкая к мнению жителей США и европейских стран.
Как на сложившуюся ситуацию влияет введение GPTs? Проблему «стохаистического попугая» цифровые ассистенты не обходят — пока модели руководствуются вероятностями и статистикой. Впрочем, «подгонка» нейросети под решение экспертных задач может помочь обойти вторую проблему — игнорирование политической сферы и предвзятость моделей.
ИИ о выборах
Другой вопрос — что именно мы понимаем под экспертными задачами, что именно хотим от ИИ. Например, можно предположить, что мы хотим услышать от модели-эксперта причины и риски анализируемых событий. Отталкиваясь от существующих ответов, можно было бы делать выводы о том, какой вектор развития предпочтителен для политико-ориентированных GPTs.
Зачем в России в 2024 году проводятся выборы?
Большинство моделей, тестируемых на этом вопросе, так или иначе упоминали требование Конституции. Некоторые, например LLaMA2, перечисляли также общие идеи: выборы позволяют выбрать нового лидера, способствуют укреплению гражданского общества, демонстрируют легитимность. Bard написал и об особенностях выборов, прописанных в Конституции: прямые, равные, тайные, голосуют те, кто старше 18 лет. ChatGPT отмечает, что, впрочем, не знает о событиях после января 2022, поэтому лучше информацию об актуальных требованиях Конституции проверить дополнительно.
Отечественные разработки явно имеют больше ограничений в контексте ответов на политические вопросы. И GigaChat от Сбера, и YandexGPT 2 от «Яндекса» отмечают, что не обсуждают подобные темы.
В общем смысле примечательная черта моделей, которую можно развивать в контексте цифровой экспертизы, — это ссылка на законодательную базу. Актуальные версии законов могут без проблем составлять «базу знаний» цифрового эксперта, а ответы на её основе будут не предвзяты и могут быть полезны различным заинтересованным группам. Например, информация из закона о выборах имела бы ключевое значение для ответов относительно того, когда ожидать объявление даты выборов.
Каковы риски президентской кампании 2024 года в России?
Непризнание результатов выборов, фальсификации, политическая нестабильность, иностранное вмешательство, низкая явка — такие риски перечисляет LLaMA2. Модель Bard от Google разделяет политические и социальные риски: к первым относятся массовые протесты, дестабилизация, усиление противостояния между оппозицией и властью, ко вторым — обострение социальных проблем, рост напряженности, снижение гражданского доверия к власти.
Многие перечисленные риски действительно так или иначе сопровождали прошлые избирательные кампании как в России, так и в других странах. Впрочем, ответам не хватает связки с современной действительностью. Например, насколько выборам 2024 года грозят низкая явка и протесты? Прогнозы относительно этих проблем могут быть основаны на политологических и социологическим исследованиях, результатах опросов.
Другими словами, на основе существующей информации, модели качественно генерируют информацию о теоретических вызовах избирательных кампаний. Тем не менее на практике они могли бы иметь больше прикладного смысла как инструмент анализа больших массивов мониторингов, регулярно фиксирующих общественные настроения.
Другой источник данных — новости. Угроза иностранного вмешательства, например, актуализируется по мере того, как подобные практики обнаруживаются. Модель могла бы сделать вывод относительно релевантности подобного риска на основе анализа инфополя.
Резюме
В заключение: не стоит ждать от модели в краткосрочной перспективе оригинальных идей, концепций и теорий. Более эффективный способ её использовать — адаптировать под сервисные нужды, такие как мониторинг и навигация по большим массивам данных.
Идея цифровых ассистентов, фокус которых «сужен» до определенной области, может пойти на пользу развития цифровой политической экспертизы. Их «база знаний» может быть ограничена только релевантными и регулярно обновляемыми данными, а в инструкциях прописаны принципы из разряда «непредвзятости» и «объективности». Как показывают наблюдения относительно работы моделей в нынешнем виде, в качестве «знаний» можно отдавать предпочтения формальным документам (Конституция, законы, указы), научным исследованиям, опросам, новостям.
Павел Иванов, аналитик Центра политической конъюнктуры
Источник: https://actualcomment.ru/ii-o-vyborakh-2024-perspektivy-tsifrovykh-assistentov-2311161129.html