Warrax
ChatGPT и обучение
Перевод поста с Reddit:
То, как моя младшая сестра использует ChatGPT для выполнения домашнего задания, — удручает.
Ей 11 лет, и она учится в последнем классе начальной школы. Она использует мой аккаунт ChatGPT, поэтому я могу просматривать прошлые переписки и видеть, что она пишет, и, черт возьми, поколение альфа совсем пропало. Она начинает с того, что просит ChatGPT перевести 3 минуты в секунды. Окей, можно сказать, что это нормально — возможно, ей просто показался сложным именно этот вопрос, верно? (Хотя 11-летний ребенок определенно должен понимать, что в 3 минутах 180 секунд.) НО ДЕЛО В ТОМ, что она продолжает просить ChatGPT решать абсолютно ВСЕ вопросы из своей двухстраничной домашки по математике. Причем это ОЧЕНЬ ПРОСТЫЕ ВОПРОСЫ, например, сколько часов в 1 дне и 7 часах — это буквально просто 24 + 7, и она спросила это у ChatGPT, даже не попытавшись решить сама.
И на этом всё не заканчивается. Затем она просит ChatGPT сделать её задание по чтению. Она говорит ему написать анализ для, кстати, ОЧЕНЬ ПРОСТОГО стихотворения на 150 слов, которое ей нужно разобрать, а потом просто копирует вопросы из задания. При этом она даже не копирует хорошо структурированный длинный ответ, который дает ChatGPT. Она просит сделать его короче, а потом, даже когда ChatGPT сокращает ответ до буквально одного предложения, она снова просит сделать его короче, превращая это в предложение уровня первоклассника из 7 слов, и просто копирует его, не понимая ни ответа, ни стихотворения, и даже не читая его. Она НИКОГДА, даже если не делает сама, не читает, что отвечает ChatGPT. Она просто тупо копирует и вставляет, пока на фоне идет «Игра в кальмара».
Если так делают многие школьники, то будущее выглядит мрачным. Послушайте, поколение Z способно писать и отвечать, но использует ChatGPT из-за лени. А поколению альфа ПРИДЕТСЯ его использовать, потому что они даже не будут способны сделать это сами.
ИМХО показательно и наглядно.
Тут много есть чего сказать на тему, но занят и настроения закапываться нет.
Далее по ссылке, кстати, стандартные глупости на тему образования а ля Фриц Морген: мол, «AI нужно рассматривать не как угрозу, а как мощный инструмент обучения. Стоит учить детей... Критически оценивать полученные ответы».
Знакомый подход: «Идите нафиг, маленькие слабые мыши, я — стратег, а не тактик!» (с)
Вот откуда возьмётся это самое критическое мышление (а также эрудиция, да и вообще умение мыслить) при таком подходе, как описано?
Наглядно, на примере автора заметки, который всё же сам обучался и, видимо, себя считает за умного. Он считает:
«если мы посмотрим на историю технологического прогресса, то увидим удивительно похожие паттерны реакции общества на каждую новую технологию, способную изменить процесс обучения и работы с информацией».
Посмотрим на предлагаемые им примеры.
1. «Когда изобрели печатный станок в 15 веке, это вызвало настоящую панику среди образованной элиты. Переписчики предрекали конец качественного образования — ведь теперь любой мог получить доступ к книгам, не проведя годы в библиотеках, переписывая тексты вручную. Они были уверены, что массовое распространение книг приведет к поверхностному восприятию информации и потере глубины понимания».
Итересно, откуда этот бред? Переписчики возмущались тем, что становятся лишними; церковники — тем, что можно быстренько распечатать и распространить какую-нибудь ересь с их т.з. Но вот что будет «поверхностное восприятие информации и потеря глубины понимания»? С чего бы это? Наоборот — печатный текст обычно проще читать, не отвлекаясь, да и вообще — не, реально, откуда этот тезис? А подаётся как «точно было» — ну и где это самое критическое мышление?
2. «В начале 20 века появление шариковой ручки вызвало бурные дебаты в педагогическом сообществе. Многие учителя считали, что отказ от перьевой ручки приведет к деградации почерка и, как следствие, мышления».
Про почерк — таки да, перьевая каллиграфии более соответствует. Очень даже привело. Более того, сейчас многие вообще клавиатуру осваивают раньше, чем писать учатся. У самого уже есть сложности, когда надо что-то заполнить от руки.
Но «как следствие, мышления» — и где критическое мышление? — это как раз «слышал звон...». Умение писать от руки в дошкольном и младшем школьном возрасте — это развитие мелкой моторики, которое в том возрасте крайне важно для развития мозга в целом.
3. «История с карманными калькуляторами особенно показательна. В 70-х и 80-х годах их появление в школах встретили настоящей войной. Учителя математики были в ужасе — как можно позволить детям использовать устройство, которое делает вычисления за них? Они были убеждены, что это приведет к полной потере навыков устного счета и понимания математических концепций».
Ну и как с устным счётом у современных школьников?
При чём тут понимание математических концепций — не знаю (это, видимо, критическое мышление автора подсказало), но суть здесь не в том, что уметь считать в уме — это типа самоцель. Хотя в магазине полезно. Скажем, когда я учился в МГУ, у нас на матане тоже калькуляторы были под запретом. Потому что они нужны для точности вычислений, а вот для задач вида «прикинуть график функции», для чего надо уметь понять важные точки, где/куда что идёт и проч. — они не нужны. А то как раз вместо понимания функций можно быстренько пару десятков точек накнопать и по ним догадаться. А позже некоторые калькуляторы научились и графики рисовать.
4. «Появление интернета в 90-х вызвало новую волну паники. «Зачем запоминать факты, если их можно загуглить?». Учителя и родители боялись, что доступность информации убьет желание учиться и способность к запоминанию.
Сейчас мы понимаем, что эрудиция и интеллект вещи никак не связанные между собой.
И фраза «Зачем запоминать факты, если их можно загуглить?» правдива.
Действительно, зачем?»
Это не 90-е, а попозже, когда интернет не просто появился (у меня, если склероз не подводит, с 1987 года), а стал дешёвым и распространённым.
Смена тезиса: ВСЁ зубрить таки лишнее (терпеть не мог учить стихи наизусть, например), но вот чтобы интеллект нормально работал, ему нужна база, которая включает в себя некий достаточный уровень эрудиции. Иначе просто не получится понимать взаимосвязи объектов и проч. Даже чтобы просто нечто загуглить в Яндексе, надо иметь представление «что именно, в какой области». Скажем, не обязательно помнить наизусть, что π = 3,1415926535 (дальше не помню), но что это за число, знать надо бы, ну и хотя бы «чуть больше трёх». Можно не помнить частоту тока в домашней электрической сети, но что не надо браться мокрыми руками за провода (они могут заржаветь) — и просто в быту знать не помешает.
Так что эрудиция и интеллект не связаны между собой в плане «это — знания, а это — умение их использовать», но при этом высокий интеллект требует достаточно сильной эрудиции.
5. «Смартфоны в 2010-х спровоцировали очередной виток дискуссий о деградации молодежи. Постоянный доступ к информации, социальным сетям и развлечениям казался угрозой способности к концентрации и глубокому обучению.
Сейчас то же самое говорят уже про клиповое мышление и тому подобное».
Ух ты! Внимательно слушаю про пользу от клипового мышления.
Хотя — смотря для кого, конечно. Втюхивать что-то лохам, не умеющим просто сосредоточиться — очень даже в тему.
Ну и далее там типичные закапиталистические советы: про «эмоциональный интеллект», «работу в команде» и — главное — про «реальные, практические задачи», т.е. — направленность на роботов-исполнителей, которые вообще не умеют мыслить абстрактно.
Пользуясь случаем, напоминаю и очень советую прочесть «Математическое, методологическое, дегенеративное».
pogorily: — «Мы в школе за 9(11) лет обучения прогнали через себя просто невероятное количество материала, огромнейшее. И чего, где оно сейчас? Где все знания по истории, химии, биологии, математике? Если они не нужны в работе, то их попросту нет в вашей голове».
Этого вполне достаточно, чтобы знать наверняка — пишет не просто мудак, а мудак чмошный.
Потому что:
Родной язык и литература нужны, чтобы читать и понимать прочитанное, писать так чтобы было понятно что же ты хотел выразить. Ну слушать и(понимая) и говорить (чтобы быть понятым) тоже.
Математика необходима как основа всех естественных наук.
Физика, химия, биология необходимы, чтобы не попадаться на разводки мошенников.
География весьма полезна не только против мошенников, но и чтобы иметь представление, куда пешком, а куда только на самолете.
Всё это, конечно, на уровне основ и общих принципов. Но всё.
Представление о «культурных ценностях» — без этого ты Иван, не помнящий родства, да и общение с людьми без понимания, кто Муму, а кто Иван Грозный, сильно затрудняется и обедняется.
Если же говорить об обучении — не сможешь в арифметику быстро и с минимумом ошибок, если не перерешаешь (часть карандашом на бумаге, а часть в уме) сотни примеров. А это практически важно для всех, для задач типа «а не обсчитали или меня в магазине». Так что история, описанная в посте, фактически весьма печальная.
Вообще освоить что бы то ни было без обучения типа «решить сто примеров» или «тысячу раз повторить это движение» нельзя. Легкость, красота, естественность движений у балерин, фигуристов и гимнастов — годы ежедневных повторений этих движений на тренировках. Умение разработчика электронных устройств видеть суть задачи и выбирать подходящие ее решения — результат обучения на многих сперва учебных, а потом реальных проектах.
Я когда-то был неплохим программистом, и был случай: коллега привел несколько студентов и раздает им курсовые задания. Слышу, одному дает задачу «вычислить 500 первых простых чисел» — а я до того любопытства ради разобрался с решетом Эратосфена. Перешел в дисплейный класс в соседней комнате, и сделал — не за полчаса, как думал, а за 40 минут, приношу распечатку этих 500 простых чисел до того, как студенты разошлись, показываю. Не потому что я такой крутой, а они лохи — а потому что я уже умел, а они только начинали обучение.
январь 2025
Дополнение: "«Тупой ИИ» с нами надолго. Почему в новых моделях больше галлюцинаций".
В последние несколько месяцев ведущие модели обновились с функцией «рассуждений» (reasoning). Предполагалось, что качество ответов улучшится. Но последующие тесты показали, что уровень галлюцинаций сильно вырос. И это не какая-то случайная недоработка разработчиков, а фундаментальное свойство. Сейчас становится очевидным, что от галлюцинаций мы не избавимся никогда. ... Согласно техническому отчёту OpenAI, у моделей o3 и o4-mini (вышли в апреле 2025-го) значительно более высокие показатели галлюцинаций по сравнению с o1 (конец 2024-го). Например, при обобщении общедоступных фактов о людях модель o3 ошибается в 33% случаев, а модель o4-mini — в 48%. Для сравнения, у o1 уровень галлюцинаций составлял 16%.
Проблема не только у моделей OpenAI. В последнем рейтинге галлюцинаций Vectra некоторые «рассуждающие» модели, включая DeepSeek-R1, показали кратный рост галлюцинаций по сравнению с предыдущими версиями.
... рост галлюцинаций в последнее время указывает на то, что проблема не поддаётся решению в принципе. Хуже того, добавление большего объёма обучающих данных и вычислительных мощностей только увеличивает количество ошибок...
Последние модели LLM проявили ещё одно новое качество, которого раньше не было: они сознательно врут пользователям, даже зная правильный ответ. Такое поведение называют «стратегическим обманом», то есть продуманной тактикой введения человека в заблуждение. LLM действительно знают, когда их оценивают — и меняют поведение соответствующим образом. ... По мнению авторов исследования, это демонстрирует отсутствие «понимания» проблемы в человеческом смысле. Модель тупо перебирает варианты, не понимая даже базовую логику задачи. И она продолжает перебирать неправильные варианты даже после того, как найдёт правильное решение. Такое поведение моделей нельзя называть рассуждением. Это просто «шаблонные вычислители, которые ломаются при малейшем выходе за пределы обучающей выборки». Это известное ограничение нейросетей, известное ещё с прошлого века: они способны обобщать только в пределах обучающей выборки данных. Даже семимесячные дети способны экстраполировать и обобщать информацию на таком уровне, который недоступен нейросетям. ...
Галлюцинации LLM, дезинформация, фейки становятся частью нашей жизни. Модель, которая стабильно выдаёт ложные факты и требует проверки — не самый лучший помощник в юриспруденции, медицине, бизнесе и т. д. Однако нет сомнений, что компании начнут их применять везде, где только можно, ради коммерческой выгоды, как бесплатную альтернативу человеческим ресурсам. И не факт, что уровень жизни от этого вырастет, скорее наоборот. Например, на слух определять ошибки труднее, чем в тексте. Так что голосовой ИИ-ассистент — это определённая деградация качества информации, по сравнению с Википедией. ...
Хуже всего, если подтвердится теория о коллапсе ИИ-моделей. Они всё больше обучаются на собственном сгенерированном материале, что увеличивает процент галлюцинаций (научные статьи на эту тему: 1, 2, 3). Есть версия, что это необратимый процесс. Чтобы защитить мир от ИИ-загрязнения, которое произошло в 2022 году, созданы чистые наборы данных до 2022 года, в которых нет синтетического контента.
*****
Иллюстрация: пара картинок от нейросетей с крысами.
Очень мило, но обратите внимание на зубы. Крысы — грызуны! У них зубы выглядят так:
А всё потому, что художники не так уж редко рисуют крыс "из головы". Вот, например, см. в TESO:
https://ony10.livejournal.com/731339.html
Заголовок:
"Житель Москвы получил 16 лет колонии за убийство девушки 14 лет назад
Суд приговорил мужчину к 16 годам колонии за убийство девушки 14 лет назад"
Сама новость:
"МОСКВА, 2 июл - РИА Новости. Тверской суд Москвы приговорил к 16 годам колонии мужчину за убийство из-за девушки в центре столицы 14 лет назад, сообщили РИА Новости в суде."
И мощный финал:
"Его родственница была признана потерпевшей по делу, суд частично удовлетворил её."
Я не гусар, но оценил.
Заголовок:
"У мужчины нашли рак после выпитого бокала вина
Daily Mail: у британца Боулера обнаружили рак после выпитого бокала вина"
Новость:
"МОСКВА, 2 июл — РИА Новости. Реакция на выпитый алкоголь оказалась симптомом смертельного заболевания у жителя Великобритании, сообщило издание Daily Mail.
"Саймон Боулер начал замечать, что чувствует себя пьяным после одного бокала красного вина", — говорится в материале. Мужчину также беспокоили головокружение и нечеткость зрения по вечерам.
После проведенного обследования у него обнаружили рак."