Смелость быть луддитами: когда отказ от технологий это хорошо
В связи с препонами, которые в последнее время возникают у цифровых коммуникаций, поднялись разговоры про «неолуддизм». Примерно так: в России процветало всяческое цифровое удобство, а теперь некие «неолуддиты» его разрушают, вплоть до того, что приходится покупать бумажные карты, вызывать такси телефонным звонком и сохранять театральные билеты в памяти смартфона. Вот как тяжело стало жить с «неолуддитами», с гадкими разрушителями технологий.
Разумеется, в действительности этот процесс не имеет ничего общего с луддитами — рабочими, которые пытались бороться за свои права и иногда разрушали станки на фабриках, которые обесценивали их труд. Связь вроде бы на поверхности: дикие противники технологий сопротивляются Прогрессу и ломают Удобство. Но это именно поверхностная связь. Она никак не передает природу того, что сейчас происходит в России с коммуникацией. «Неолуддиты» — просто удобный ярлык, жупел: «вот ведь мракобесы». На самом деле управляющие коммуникацией в России люди гораздо более технологически оснащены и подкованы, чем мы с вами.
Если уж хочется предметно рассуждать про новых луддитов — следует обратить внимание прежде всего на миллиардера, основателя американской военно-технологической корпорации «Палантир» Питера Тиля. Он последовательно проводит идею (в лекциях, в интервью), что некий новый Антихрист сопротивляется мировому технопрогрессу, пугая людей Армагеддоном. То есть новые луддиты — это, по Тилю, сторонники Антихриста. Эту выдумку он продвигает сознательно, с целью пресекать невосторженные, скептические настроения. Напомню, что в Соединенных Штатах больше народа выражает озабоченность по поводу развития искусственного интеллекта, чем энтузиазма. Причем одинаково встревожены сторонники обеих главных партий, что вообще редкость в последнее время. Так что глава «Палантира» (кстати, он один из спонсоров избрания Трампа), объявляя своих оппонентов тяготеющими к Антихристу, готовится к идейной битве заранее.
Второе, на что непременно следует обратить внимание, рассуждая про новых луддитов, — конфликт, который совсем недавно случился между американским военным министерством Пентагоном и компанией «Антропик», одной из самых авторитетных в мире разработчиц искусственного интеллекта. Пентагон был очень доволен контрактом с «Антропик», используя их искусственный интеллект при похищении Мадуро и в атаках на Иран. Но дело в том, что у этой компании остались кое-какие минимальные принципы и она воспротивилась использованию своей ИИ-модели для массовой слежки за американцами и для автономных убийств. И что вы думаете? Их тут же назвали «сумасшедшими леваками» (президент Трамп), «ненавидящими западную цивилизацию» (сверхмиллиардер Илон Маск), «угрозой национальной безопасности» (глава Пентагона Пит Хегсет). А конкурент «Антропик», глава OpenAI Сэм Альтман, заявил, что не надо рассуждать, не надо пытаться определить, что этично, что нет — делай как от тебя требует власть. Демократически избранная, конечно.
Казалось бы: при чем здесь луддиты? Да вот именно при том, что, с точки зрения власти и избравших ее сверхмиллиардеров, компания «Антропик» попыталась воткнуть палку в колеса прогресса. В представлении прогрессоров развитие технологий не должно быть стеснено химерами, именуемыми моралью и совестью. Но конфликт лежит глубже технологической сферы.
Еще раз: исторические луддиты боролись не против технологий, а за свои права. Олигархам того времени это не нравилось, им было выгодно выставить луддитов дикарями, противниками Науки и Техники. Кроме того, борьба за права действительно может доставлять неудобства. Например: если вы едете в аэропорт и обнаруживаете, что дорога перекрыта бастующими людьми, — ведь вам, пожалуй, до фонаря проблемы этих людей, гораздо важнее, что вы из-за них опаздываете в аэропорт?
Но, думаю, пришло время сосредоточиться на том, что вменяли в вину луддитам «как что-то плохое». А именно: на этической оценке технологий.
Я не единственный человек, кто задумывается об этом. 12 марта в журнале «Эксперт» вышла колонка заместителя председателя Совета безопасности РФ Дмитрия Медведева, где он пишет об искусственном интеллекте: «По сути, это инструменты мягкого порабощения человека обилием удобных и привлекательных услуг, лишающих его в итоге важных для самостоятельной и независимой жизни умений и навыков. Таких, например, как способность запоминать и анализировать большие объемы данных, выстраивая длинные цепочки умозаключений, грамотно излагать результаты проведенного анализа, читать, писать и понимать сложные тексты… Человек, лишенный таких умений и навыков,— идеальный потребитель все новых услуг, послушное орудие в руках лидеров рынка».Оказывается, технологии могут не только нечто приносить в нашу жизнь, но и чего-то нас лишать. Чего-то важного для самостоятельной и независимой жизни, подумать только! Ведь это манифест луддизма «в плохом смысле»!
Дмитрий Анатольевич словно сам пугается этого, тут же говоря о «дурной алармистской публицистике» — дескать, мы не из таковских. Но мне надоело чураться слова «алармизм», да и гадко видеть, как от «алармистов» старательно дистанцируются самоназвавшиеся «реалисты», — в то время как положение впрямь очень, очень тревожное. Это не я говорю — это говорят сами разработчики искусственного интеллекта. Глава «Антропик» Дарио Амодеи в январе этого года написал о своих тревогах эссе «Отрочество технологии». Я написала очень подробную статью об этом эссе и не буду разбирать его здесь, но могу заверить: разработчик одной из самых мощных в мире ИИ-моделей чрезвычайно обеспокоен в том числе отсутствием регулирования этой технологии и трудностью ее регулирования тоже. Если он обеспокоен угрозами ИИ, если он не может предложить внятных, надежных мер контроля — как можем мы не беспокоиться и не быть «алармистами»? Мы должны тревожиться, должны показывать, что нам не все равно, и на нынешнем этапе никакое беспокойство не будет слишком большим.
И это беспокойство, если окажется эффективным, тоже будет иметь свою цену. Все имеет цену. Всего за десять-пятнадцать лет люди так привыкли ориентироваться по навигатору, быть всегда онлайн, что отключения мобильного Интернета вызывают ощущение беспомощности и начинают казаться выдающейся подлостью. В то время как человек без смартфона (я, например) их вообще не замечает. Не говорю сейчас «делайте все как я», тем более людей уже приучают к смартфонам целенаправленно, переводя документы в электронный вид, — лишь то, что это дело привычки.
И когда Медведев пишет, что способности запоминать, понимать, анализировать, рассуждать, излагать пострадают, если вы передадите эти функции искусственному интеллекту, — он совершенно прав. Они пострадают ошеломительно. И быстро. Хотя все будет подаваться так, что это удобно, эффективно и прогрессивно. И работодатели (в том числе в Российской Федерации, наверное, не читали статью зампреда Совбеза) уже начинают этого требовать.
Нам придется стать в какой-то степени луддитами. Иметь смелость быть луддитами. Иначе мы перестанем быть человеками разумными, вот и вся цена за удобство.
Т. Шабаева