Отечественные разработчики научили нейросеть проверять факты
Всего два года отделяют нашу жизнь от того дня, когда никто не знал о чат-ботах в Сети, способных за секунды генерировать любую информацию. Для кого-то выход ИИ в широкое общественное пространство прошел почти незамеченным, другие уже используют электронного ассистента вовсю. И большинство этих других – молодежь, школьники и студенты.
Однако нельзя не заметить, что в качестве источника информации чат-боты хромают на обе ноги. С легкостью выдают события 10-летней давности за современность, да и вообще плохо ориентируются во времени. Льют много «воды», неохотно сообщая детали, многие темы вообще не берут по этическим соображениям. Что практически исключает использование электронного помощника в СМИ.
Учителя и преподаватели тоже довольно быстро научились отличать содранный у ИИ текст или решение от написанного собственноручно. Да, с одной стороны бот за пару секунд справится с любой формулой, математической задачей, химической реакцией – в электронных мозгах уложена вся школьная программа и изрядная часть университетских курсов. Но о том, что именно проходят по математике в каждом из классов, бот знать не обязан. И легко решит задачку для пятого класса с интегралами, а к заданию из 8 класса применит теорию вероятности.
Что до словесников, учителя иногда делятся друг с другом фразами авторства нейросетей про «Тараску Картофеля», или «Чичиков инвестировал в мертвецов», или «Татьяна разочаровывается в предложениях о любви, а жизнедеятельность Онегина проходит мимо».
Но нельзя забывать, что ИИ все время учится. Не так давно туда загрузили данные о событиях после 2021 года, и боты перестали настаивать на том, что у нас все еще действуют ковидные ограничения.
И вот еще новость – отечественные ученые придумали программу-фактчекинг для ИИ. Они считают, что теперь «повысится качество работы с информацией, уменьшатся риски ошибок и предубеждений, будут сэкономлены время и ресурсы».
Мол, нейросети с таким апгрейдом перестанут завираться и глючить. Обретут «способность работать с различными типами утверждений». Ботов обучает избавляться от детских болезней смысловых повторов, тавтологий и неточностей.
У педагогов, как известно, единого отношения к использованию ИИ нет. Пока одни говорят, что если мы пользуемся на уроках транспортирами, калькуляторами, контурными картами или таблицами Брадиса, то и боты то же самое, просто более продвинутый инструмент. Нейросети могут помочь в изучении математики, сделать презентацию или поработать редактором и корректором, проверив текст на неточности и опечатки. Но изрядная часть педсообщества резко против использования нейросетей в учебе. В некоторых странах идут разработки проектов по образцу программ антиплагиата, которые будут вылавливать контент, сгенерированный нейросетью. Ну, пока успехи средние: «антибот» способен отсечь только 28% искусственно сгенерированного контента. Притом 9% настоящих текстов, написанных студентами и школьниками, в том числе, он принимает за написанное нейросетями.
Сообщается также, что в США, Японии и Китае идут работы над созданием электронных учителей на основе ИИ. Способных со временем, как предполагается, вытеснить с рабочих мест до 20% живых педагогических работников…- Да, опасность ИИ – это популярная теория, которую поддерживает Илон Маск, например, – говорит специалист в области кибербезопасности, программист Максим Фейгин. – И эти опасения разделяют главы некоторых компаний-разработчиков тех же нейросетей.
С другой стороны, еще в 2019 году под эгидой ЮНЕСКО в Пекине был подписан протокол, говорящий как раз о пользе ИИ для образования. Среди очевидных плюсов – доступность и непрерывность образования с применением нейросетей. Индивидуальные треки в обучении, персонализированность, расширение возможностей для детей с ограниченными возможностями: со сниженным зрением и слухом, аутистов, носителей ряда генетических заболеваний… Экономия времени поиска данных, мгновенное получение информации из любой точки мира. Для учителя тоже есть возможность более индивидуального подхода к подаче и оцениванию знаний у каждого ребенка.
Но если порыться в Сети, можно найти и негативные прогнозы, в том числе в области обучения. В среде IT-аналитиков есть опасения, что такая легкость «добывания» информации, ведь любой запрос срабатывает за несколько секунд, может вызвать у людей «цифровую деменцию», такой термин появился. Что человечество вообще разучится напрягать мозг, и первым делом это коснется детей. И бот с фактчекингом нас как будто к этому приближает.
Адепты такой гипотезы настаивают на том, что строить обучение надо так, чтобы в школе учили думать, мыслить самостоятельно, докапываться до истины.
Еще сторонники теории «цифровой деменции» у детей ратуют за то, чтобы образование оставалось очным, дети ходили бы в школу и обязательно предавались там практическому труду.
С. Одоевцева