Среда без естественных врагов: как ИИ выдавливает человеческий мозг
Есть много общего между вышедшими из-под контроля инвазивными видами: борщевиком Сосновского, американским кленом и искусственным интеллектом. Прежде всего — все они активно насаждались людьми; последний из трех энергично насаждается прямо сейчас, одновременно с утратой способности людей совладать с незапланированным развитием событий. Американский клен использовался для быстрого и эффективного озеленения: скорость его роста и способность к размножению и впрямь поражают. Борщевик Сосновского разводился в качестве быстрого и эффективного корма для скота: в самом деле очень много стремительно нарастающей зеленой массы. Искусственный интеллект внедряется как быстрое и эффективное решение накопленных человечеством проблем. И действительно — он многое ускоряет и упрощает.
То есть во всех трех случаях какая-то польза вправду была. Но она и близко не стояла с побочным вредом. Насаждающие закрывали на него глаза, а потом внезапно оказывалось слишком поздно.
Говоря об утрате контроля над искусственным интеллектом, я не имею в виду, что он полномасштабно вышел из повиновения, о каковой возможности нас регулярно предупреждают даже сами разработчики ИИ. Да, это возможно, и отдельные случаи уже дают о себе знать. Но сейчас утрата контроля проявляется в другом: подобно другим инвазивным видам, искусственный интеллект стремительно занимает собой пространство, проникая во все сферы жизни. Едва проклюнувшийся росток нетрудно выдернуть, но через год-два-три он уже повсюду.
Инвазивные виды не имеют естественных врагов. Они входят в среду как нож в масло. И мы смотрим на это, не желая верить глазам, надеясь, что все как-то само собой устроится (например, «рынок все отрегулирует»), — а потом оно внезапно само не устраивается.
По официальным данным на 2024 год, в России борщевик Сосновского захватил площади, превышающие 300 тыс. гектаров, и они растут — и это при регулярной дорогостоящей борьбе с ним.
В ситуации с искусственным интеллектом мы находимся на стадии «надо активно насаждать, ведь он принесет столько пользы». Но уже сейчас в системе образования ломают голову, как бы сделать так, чтобы учащиеся его использовали и при этом не тупели. В глубине души понимая, что, по логике вещей, происходить будет именно это. О том, чтобы ученики использовали искусственный интеллект, но не выдавали его работу за свою, уже даже не мечтают — уже исходят из того, что дети и студенты будут это делать, а учителя и преподаватели будут их на этом ловить, причем тоже используя искусственный интеллект, потому что без него никак этого не распознать. Так начинается утрата контроля: «Сами мы с обманом никак не справимся, никак его не распознаем».
В Принстонском университете США впервые за 133 года отменен Кодекс чести: ранее было принято во время экзаменов оставлять студентов одних, чтобы они подготавливали ответы как джентльмены. Американский писатель Френсис Скотт Фитцджеральд отмечал, что нарушить Кодекс чести было так же немыслимо, как лазать по карманам соседа по комнате. Но теперь ученики и студенты массово используют искусственный интеллект. И взрослые даже не пытаются с этим справиться: мол, безнадежно, все равно будут.
Так что сейчас происходит зависание на стадии «как бы сделать, чтобы учащиеся использовали искусственный интеллект, но не тупели». Это то же самое, что запустить по городу массу автобусов, но поощрять школьников и студентов бегать за ними, а не ездить в них.
Впрочем, почему только школьников и студентов? В корне неверно думать, что деградация мозговых функций из-за внедрения замены этих самых функций касается только их. Нет, это нам всем внедряют искусственный интеллект во все абсолютно сферы, подают это как что-то хорошее (удобное, прогрессивное, закономерное, неизбежное) и говорят — цитирую директора Ассоциации инновационных регионов России Александра Смекалина: «Нужно заниматься тем, чтобы менять систему образования человека, чтобы он успевал за этими технологиями, и тогда каждый человек сможет найти себя».
Да с чего же это он сможет? Люди за столетия еще к ритму больших городов не особенно приспособились, во всяком случае не безболезненно, а им говорят, что они должны поспевать за технологией, которая изначально, фундаментально задумывалась так, чтоб быть быстрее и эффективнее человека.
«Просто инструмент, — говорят они.— Пусть дети используют его как инструмент».
Ну да, часы — инструмент для определения времени, и человек не определит время точнее, чем часы. Машина — инструмент, чтобы быстро передвигаться, и никто в здравом уме не станет требовать, чтобы люди успевали бегать за машиной. Но теперь в человеческое общество массово вбрасывают технологию для несравненно более быстрого и легкого анализа, генерации идей, творчества, принятия решений и говорят: давайте скорей используйте искусственный интеллект, но все-таки умейте все это делать сами…
Это разбрасывание семян борщевика, притом что он и сам бы пробился, учитывая склонность людей к облегчению себе задач. Немногие люди станут прилагать усилия, если можно не прилагать усилия. Искусственный интеллект пробивался бы и без всякого поощрения, но это хоть считалось бы постыдным и не было бы так быстро и массово.
Беда, конечно, в том, что в захваченной среде у него нет естественных врагов. Инвазивные виды преобразуют среду под себя. Другие деревья не могут пробиться в зарослях американского клена. Борщевик Сосновского — мощное растение, меняющее даже состав почвы.
Человек — единственный вид, наделенный развитым интеллектом; только он и мог бы — теоретически — стать на пути искусственного интеллекта. Если бы увидел в нем конкуренцию и угрозу. Как стал на пути многих животных, в которых видел конкуренцию и угрозу для себя. Животные в огромном большинстве случаев отступили перед человеком. Но в искусственном интеллекте люди еще кое-как способны увидеть угрозу (когда-нибудь, может быть, если ИИ выйдет из-под контроля…), но в упор не способны увидеть конкуренцию. Просто слепое пятно на этом месте. А ведь это первично.
Дело ведь даже не в том, что ИИ отнимет рабочие места: тут нам рассказывают, что это «всегда так или иначе происходило». Нет, дело в том, что он прямо конкурирует с нашими мыслительными, творческими, волевыми (принятие решений) функциями. Он исполняет их несравненно легче и быстрее. И даже если человек напишет «хороший промпт» — что с развитием ИИ-агентов будет все менее необходимо, — это далеко не то же самое, что мыслить и творить самостоятельно, и не то же самое, что брать на себя трудную осмысленную ответственность за решение.
Израильский историк Юваль Ной Харари, рассуждая о том, что люди, как правило, не любят бюрократию, но вынуждены мириться с ней, говорит, что искусственный интеллект — прирожденный бюрократ. Иными словами, бюрократия — среда, созданная людьми, но чужеродная для людей, они в ней лишь выживают по необходимости. А вот ИИ в этой среде — как рыба в воде.
Это рассуждение очень верно, но, к сожалению, недостаточно. Не только бюрократия, а любая среда, которую можно подвергнуть оцифровке и тем «сделать удобнее» — на самом деле удобнее для искусственного интеллекта, чем для человека. Это идеальный почвенный состав для него — не для нас. И пусть сейчас ИИ еще далеко не личность и никогда не будет «личностью как человек», но уже прямо сейчас он, даже не имея такого намерения, лишь исполняя свои функции, делает менее личностями нас, людей. А дальше — просто вопрос соразмерности. Людей пугают суперинтеллектом с миллионным ай-кью, но для подавления существ с редуцированным мозгом и ослабленной волей миллионный ай-кью не нужен.