Философ Рустем Вахитов специально для BRIEF о развитии искусственного интеллекта и том, как следует его воспринимать:
Искусственный интеллект (ИИ) продолжает быть предметом жарких споров уже более полувека. Ещё в 1960-е годы фантасты предсказывали появление «разумных машин» — роботов, которые могут заменить человека в целом ряде сфер деятельности, а может, даже и потеснить человеческую цивилизацию. Западные учёные разрабатывали специальные тесты, которые позволили бы понять: «стала ли машина уже разумной или ещё нет?» (тест Тьюринга). Не оставались в стороне и наши, советские учёные. Так, выдающийся советский философ, творческий марксист Эвальд Ильенков написал памфлет «Тайна чёрного ящика», где доказывал, что машинное мышление невозможно, а операции, которые производят ЭВМ, не являются мышлением.
Потом споры поутихли, хотя никогда не прекращались. В наши дни, когда реальностью стали портативные компьютеры и глобальная сеть, они разгорелись с новой силой. Толчком к их возобновлению стало изобретение генеративного искусственного интеллекта и связанного с ним чат-бота ChatGPT (в просторечии — нейросеть), который может по запросу человека создавать различные тексты — от рефератов и статей до стихов и прозы, а также рисунки, коллажи и даже не очень сложные компьютерные программы. И сразу же разразился скандал: в 2022 г. выпускник столичного вуза при помощи нейросети написал диплом по специальности «Менеджмент», который успешно защитил, и только потом рассказал о мистификации. Представители общественности стали сразу же говорить, что теперь учёного, журналиста, писателя может заменить нейросеть, поскольку она может сгенерировать текст, который комиссия из преподавателей столичного вуза признала квалифицированной работой.
Казалось бы, сбылись самые страшные предположения писателей-фантастов: искусственный интеллект вытесняет человека из творческих областей деятельности. На самом деле всё обстоит не так страшно. Специалисты по программированию настроены не столь оптимистично и не склонны считать, что машина научилась думать и творить в том смысле, в котором это делает человек. Известный эксперт в области нейросетей и цифровой лингвистики, доцент ВШЭ Борис Орехов написал по этому поводу, что, возможно, «медийный эффект обсуждения успехов нейросетей превышает то реальное влияние, которое эта технология окажет на нашу повседневность». Он напоминает о том, что шахматисты уже более полувека пользуются компьютерами, компьютерные программы не раз выигрывали партии у гроссмейстеров, однако опытный шахматист никогда не спутает компьютерный «ход» с человеческим. Точно так же и «мышление» нейросети сильно отличается от мышления человека. Нейросеть не может выносить оценок, выстраивать убедительную аргументацию (каковое умение — характерная черта нашего мышления). Более того, нейросеть не понимает смысла тех текстов, которые она использует для генерации. Б. Орехов приводит впечатляющий пример: просьба к нейросети пересказать содержание «Капитанской дочки» (что может сделать даже ребёнок!) приводит к такому неожиданному результату: якобы повесть «рассказывает историю молодой девушки Марьи Григорьевны Кутузовой — дочери великого русского военачальника Михаила Кутузова».
Почему так произошло? Именно потому, что нейросеть ничего не понимает. Это просто программа, которая ищет соответствия в Интернете и на их основе компилирует тексты, оценивать которые должен человек. Вероятно, на каком-то из сайтов имя «Марья» и фамилия «Кутузов» стояли рядом. Смысла в действиях нейросети столько же, сколько в действиях человека, который собирает похожие карточки с китайскими иероглифами, не зная, как их прочитать. Как в знаменитом парадоксе «Китайская комната», придуманном американским философом Джоном Серлом, чтобы показать, что компьютер не мыслит, а просто выполняет операции, заданные ему человеком.
Кстати, журналисты, побеседовав с выпускником Александром, использовавшим нейросеть для написания диплома, выяснили интересную деталь. Около суток Александру пришлось настраивать нейросеть, чтобы она выдала не абсурдный, а сколько-нибудь наукообразный результат, похожий на труд человека (хотя, как вы понимаете, не содержащий ничего оригинального — нейросеть ведь занимается лишь компиляцией!). Александр перед этим изучил программирование, работу нейросетей, иначе бы у него ничего не получилось.
Итак, нейросеть — просто инструмент. Удобный, совершенный, но инструмент, который лишь облегчает наш труд, если мы умеем применять этот инструмент. От того, что нейросеть компилирует тексты, она не становится писателем, как калькулятор не становится математиком от того, что совершает операции сложения и вычитания. Тут, собственно, никакой проблемы нет, вопреки выкрикам падких на сенсации СМИ. Проблема в другом — в том, что в наших вузах диплом, содержащий лишь общие слова, зачитывают как квалификационную работу. Я читал о том, что при помощи нейросетей компилируются уже и статьи, которые печатают в некоторых не особо известных научных журналах. Что ж, это говорит о качестве данных научных журналов, где компиляции без оригинальных выводов признаются научными результатами. Полагаю, об этом следует всерьёз говорить, а не о том, что якобы «нейросети нас заменят».
Источник: https://telegra.ph/BRIEF-Forsajt-Budushchee-iskusstvennogo-intellekta-06-24