Российские школьники с 1 сентября начнут изучать новый профиль «Искусственный интеллект» в рамках уроков информатики углубленного уровня, сообщил министр просвещения Сергей Кравцов.
Об этом новшестве и о том, идёт ли растущее применение ИИ на благо обществу, aif.ru поговорил с известным экспертом в сфере информационных технологий, членом Совета при Президенте РФ по развитию гражданского общества и правам человека (СПЧ), главой аналитической компании «Крибрум» Игорем Ашмановым.
Цифровая амнезия
Виталий Цепляев, aif.ru: Игорь Станиславович, недавно выяснилось, что 53 % российских школьников делают домашние задания с помощью нейронной сети. А в студенческих дипломах доля сгенерированного ИИ текста за 3 года увеличилась в 4 раза, превысив 42 %. Это повод порадоваться за молодежь или, наоборот, посочувствовать ей?
Игорь Ашманов: Начнем с того, что эти цифры лукавые — в реальности оба показателя уже близки к 100 %. Был опрос, в ходе которого 87 % студентов заявили о том, что применяют искусственный интеллект для написания курсовых и дипломных работ. Остальные 13 %, думаю, просто не признались в этом. А система антиплагиата определяет в лучшем случае четверть сгенерированных работ. ИИ — это инвалидная коляска для мозга, от постоянного применения которой он теряет способность шевелить извилинами. — Игорь Ашманов
И это, конечно, совсем не повод для радости. Это катастрофа! Тот, кто привыкает собирать тексты таким вот образом, через некоторое время вообще теряет способность что-либо написать самостоятельно. На этот счет есть довольно много исследований. В США, например, проводили эксперимент: на протяжении некоторого времени одна группа студентов писала работы с помощью нейросети, другая — самостоятельно. И сначала оценки у тех, кто использовал ChatGPT, были выше, потому что там было всё гладко написано, правильно размечено, озаглавлено. Но через четыре месяца у тех, кто использовал генератор, оценки снизились. Потому что они не могли вспомнить ни то, что было написано в их предыдущих работах, на даже какие промпты («подсказки», задания для ИИ. — Авт.) они делали. Они утратили базовые компетенции — способность думать, оценивать, сочинять.
Специалисты называют это по-разному: когнитивная травма, цифровая амнезия. Но факт остается фактом: полная замена собственного интеллекта искусственным наносит человеку вред. ИИ — это инвалидная коляска для мозга, от постоянного применения которой он теряет способность шевелить извилинами. Помните, как в одном известном мультике люди, сбежавшие с непригодной для жизни Земли в космос, передвигались в особых креслах? Встать из кресла они уже не могли, потому что стали жирными и слабыми, а кресло-робот всё за них делало, даже поило молочным коктейлем и колой…
Когда разговариваешь с вузовскими профессорами, с ректорами, они честно признаются: «Мы не знаем, кого выпускаем. Студент приносит работу, а мы не понимаем, он сам её написал или нет». Хотя тот, кто имеет некоторую насмотренность, всё же отличит текст, сгенерированный иишечкой. Там слишком большая структурированность, но при этом частицы этой структуры, абзацы, между собой почти не связаны. Плюс в таком тексте слишком много умных слов, рассуждений, с которых «глаз соскальзывает». Вроде написано всё правильно, а смысла нет. И это понятно, потому что на «той стороне» смысл генерить некому. Там просто идет крупноблочная отверточная сборка нового текста из кусков старых, вот и всё. И представьте: молодые «специалисты», закончившие вуз с помощью костылей ИИ, придут работать в промышленность, в оборонку, в госуправление. Без реальных знаний и с привычкой имитировать работу. Что будет с экономикой?
— Какой выход предлагают сами вузы?
— Где-то студентов просят помечать то, что в их работах сделано искусственным интеллектом, но еще вопрос — будут ли они это делать. Где-то возвращаются к устным экзаменам. И похоже, скоро во всех приличных вузах преподаватели будут заставлять студента писать работы ручкой и устно отвечать на вопросы. Иначе не понять, знает ли он хоть что-нибудь.
Вообще, нам надо разделить две вещи: обучение технологиям искусственного интеллекта и использование ИИ в образовательном процессе. Обучать технологиям нужно, но это просто один из видов информатики. Информатику изучать полезно? Да. Это всё-таки фундаментальная наука об алгоритмическом мышлении. А вот применять искусственный интеллект для проверки и генерации заданий, для выставления оценок и вычисления рейтингов учащихся — это безумие, это сатанизм. Кто вам сказал, что искусственный интеллект будет везде? Это пузырь, который через полтора-два года лопнет точно так же, как лопнул пузырь блокчейна — Игорь Ашманов
— Раз уж мы в таких терминах заговорили, попробую выступить адвокатом дьявола и заступиться за искусственный интеллект. Есть мнение: лавину ИИ уже не остановить, а значит, бесполезно отбирать нейронку у детей — пусть учатся пользоваться ею хоть с детского сада. Потому что, когда они вырастут и пойдут работать, вокруг уже будет один сплошной ИИ. Так пусть лучше сразу приручают этого «зверя» и применяют его на благо себе и обществу… Не согласны?
— Разговоры о том, что «давайте-ка мы всем детям дадим в руки ИИ, иначе они не смогут потом работать» — полная чушь. ИИ — всего лишь одна из систем оптимизации. Технология, хоть и довольно сложная. Любой студент Физтеха или мехмата МГУ освоит эту технологию в совершенстве за полгода, от силы за год. А зачем этой хрени учить детей? Мы же не учим школьников употреблять наркотики, курить. Не учим их сексу как в Европе, где уже с первых классов рассказывают и про онанизм, и про гомосексуализм… Мы же понимаем — когда человек вырастет, он сексом безо всякого обучения сможет заниматься.
И потом, кто вам сказал, что искусственный интеллект будет везде? Это пузырь, который через полтора-два года лопнет точно так же, как лопнул пузырь блокчейна (распределенная система хранения и передачи данных, защищающая их от подделки. — Авт.). А ведь еще недавно нам рассказывали, что и школьников, и студентов надо учить блокчейну. Блокчейн не то что бы совсем не нужен, он применяется — очагово, заплаточно. В криптовалютах, например. И это симптоматично, кстати, что большинство технологий, придуманных англосаксами, почти сразу превращаются во что-то криминальное. Биткоин на 90 % — это оплата нелегальной торговли органами, оружием, наркотиками, порнухой… В любом случае, блокчейн — нишевая история. Точно так же не нужно учить детей интернет-профессиям, блогингу какому-нибудь — это бред! Кто захочет, научится сам.
Скорее всего, применение ИИ через пару лет тоже ограничится достаточно узкими нишами. А, допустим, выставлять для общения с гражданами чат-бота чиновникам будет прямо запрещено законом. Потому что это снятие с себя ответственности и вообще непристойное дело.
Нейросопли и ментальный доширак
— Вы говорите, что IT-технологиям детей учить необязательно. А кто-то, наоборот, считает, что наше образование слишком замшелое. Зачем, мол, вбивать в головы школьников знания, которые парой кликов находятся в интернете? Зачем заставлять читать сочинения далекого прошлого, в которых куча непонятных слов, а объем текста такой, что выросший на «Тик-Токе» ребенок уже просто не в силах его переварить? Зачем мучить прописями и каллиграфией, если в реальной жизни сегодня мало кто пользуется авторучкой и почти все пишут, тыкая пальчиком по экрану смартфона?
— Все, что вы перечислили, полезно, потому что эти навыки чрезвычайно важны для развития мозга. Сама по себе идея — учить только тому, что пригодится в жизни — фальшивая. Обучение вовсе не для этого нужно… Вот я учился на мехмате МГУ. Сдал за пять лет примерно сотню экзаменов и зачетов, и в основном это была математика. Вы думаете, я её применяю в жизни? Конечно, нет! Если вы посмотрите, например, на тренировку по самбо или по плаванию, вы обнаружите, что 90 % времени дети на этой тренировке делают упражнения, которые не помогают им бороться или плавать. Они просто развивают мышцы, развивают скорость, гибкость. Где в реальной жизни нужна растяжка? Нигде. Вы не будете растягиваться для того, чтобы заработать деньги или понравиться девушке. Нет идиотов, которые отжимаются для какой-то практической цели. Отжимаются только для развития тела. Точно так же и математика, и гуманитарные науки нужны нам для развития мозга, формирования гармонически развитой личности, способности рассуждать. Я не говорю, что ИИ сдуется везде. Есть сферы, где он действительно эффективнее людей и будет их вытеснять. В сфере закупок, например. — Игорь Ашманов
— Не научится человек рассуждать — ему поможет костыль ИИ…
— Не поможет! На выходе мы получим маугли, который ничего не знает и не умеет. Соответственно, его будет ждать работа самого низшего разряда. Если ты выходишь в окружающий мир слабый и глупый, у тебя плохие перспективы. Думаете, если человек не прокачал свой естественный интеллект, но овладел могучим искусственным, он будет производить что-то уникальное, что-то ценное и полезное для общества? Нет, ведь таких людей будут миллионы. И человека, способного выполнять только простейшие, алгоритмизуемые действия, можно будет легко заменить ИИ-агентом.
— Уже сейчас мировые IT-компании — Google, Oracle — десятками тысяч сокращают программистов. Дальше будет только хуже?
— На самом деле, компании уже потихонечку нанимают специалистов обратно, только без лишнего шума. Потому что если об этом узнают инвесторы, то акции, которые бешено выросли после новостей об увольнении, снова упадут… Знаете, что произошло с компанией Klarna? Это компания, которая помогала людям совершать покупки, своего рода агрегатор маркетплейсов. Там работали сотни консультантов, оборот был несколько миллиардов долларов. Года три назад они торжественно объявили, что поставили чат-ботов, которые делают то же самое, что делают консультанты, и уволили сначала 700 человек, потом еще сколько-то. Какое-то время это работало. Но вскоре обнаружилось, что с введением чат-ботов многие клиенты перестали возвращаться в компанию. Один раз купили что-то с помощью чат-бота, а второй раз покупать не пришли. У Klarna резко упали продажи, упала капитализация. И они снова начали нанимать сотрудников. Хотя, казалось бы, искусственный интеллект обучился всему, что делали живые люди…
В чем дело? Ответ прост. Если вы проведете опрос, хотят ли люди разговаривать с чат-ботом, 90 % вам скажут: «Нет, не хочу, хочу общаться с человеком». Большинство даже передают друг другу лайфхаки, как пробиться к живому оператору: тут надо робота обматерить, там потребовать оператора 15 раз подряд, там еще что-то сделать. Никто не хочет с этой дрянью общаться. И пример Klarna очень показательный.
Я не говорю, что ИИ сдуется везде. Есть сферы, где он действительно эффективнее людей и будет их вытеснять. В сфере закупок, например. ИИ-агент способен опросить в десятки раз больше потенциальных поставщиков. Потому что он, во-первых, не ленится, во-вторых, способен опрашивать гораздо быстрее. Но это касается какой-то достаточно примитивной деятельности, которую можно алгоритмизировать. В конце прошлого года на заседании СПЧ я рассказал президенту о том, что происходят гигантские утечки документов, в том числе совершенно секретных, потому что у нас любят всё «фирменное», нам подавай самое лучшее западное, тот же ChatGPT. — Игорь Ашманов
Есть еще один важный момент. Представьте себе две кривые. Одна — качество генерации текстов, картинок, качество работы тех самых ИИ-агентов и т. д. Это растущая кривая. А есть кривая уровня взыскательности потребителей всех этих продуктов. И эта кривая падающая, потому что люди все больше привыкают к этому ментальному дошираку, к этим нейросоплям, и перестают их отличать от нормальной продукции. Качество нейросоплей начинает их устраивать. Так вот, я подозреваю, что две эти кривые уже пересеклись. То есть ИИ работает сегодня даже лучше, чем нужно большинству людей. И он будет вездесущим только потому, что людям будет наплевать на качество. Примерно так же, как сейчас производители везде и всюду добавляют сахар, даже в мясо, и все к этому привыкли. Как привыкли пить газировку, хотя она дико вредная. Только человеческая невзыскательность — причина того, что в мире креативных индустрий ИИ уже кардинально всё ухудшает. Он изготавливает дрянь, шлак, это видно по картинкам, по текстам, по музыке. Но люди в массе своей не понимают, что это халтура, их это устраивает.
— Согласен, то, что сейчас ИИ выдает в качестве музыки, в лучшем случае можно сравнить с дворовой самодеятельностью. Но если он будет учиться и развиваться, что помешает ему создавать настоящие произведения искусства, с глубоким смыслом?
— Это невозможно, потому что там нет смысла. Смысл генерируется только в голове человека.
Куда и какой ИИ не пустят
— Допустим, всё идёт к тому, что целые поколения превратятся в ленивых и недалеких потребителей ИИ-контента. Можно ли этому противостоять?
— Этому надо противостоять. Сейчас, кстати, идёт бурная борьба вокруг принятия закона об ИИ. Причем законопроектов уже несколько. Один начали разрабатывать в Совете Федерации примерно год назад, после моего довольно скептического выступления перед сенаторами. Создали рабочую группу, я помог собрать туда сильных юристов, специалистов по ИИ и информбезопасности. Основная мысль законопроекта заключалась не в том, чтобы отрегулировать саму технологию, а в том, чтобы определить недопустимые для её применения области — в социальной сфере, госуправлении и т. д. Образно говоря, создать для ИИ набор санитарных правил. Например, запретить ему принимать автономные решения относительно людей, если они юридически значимы.
— Хотя уже есть случаи, когда даже приговоры суда пишут с помощью нейронки…
— Да, это недопустимо и должно быть запрещено… Плюс мы ввели понятие доверенного искусственного интеллекта — то есть в госорганах, например, искусственный интеллект не может быть облачным западным. Чтобы вся служебная документация не улетала моментально в ChatGPT. Кстати, в конце прошлого года на заседании СПЧ я рассказал президенту о том, что происходят гигантские утечки документов, в том числе совершенно секретных, потому что у нас любят всё «фирменное», нам подавай самое лучшее западное, тот же ChatGPT. Мало того, когда какой-нибудь законодатель просит ИИ сформулировать ему поправку к закону, на «той стороне» люди прекрасно понимают, кто тут разговаривает с созданной ими системой. Проблема утечки, компрометации и подтасовки контента очень серьезная. И Путин со мной согласился.
Параллельно свой законопроект о регулировании ИИ начали готовить в Минцифры. В итоге мы договорились сделать совместную рабочую группу, которая должна склеить эти два документа. Задача — сделать применение ИИ безопасным, но при этом не убить индустрию, не сделать так, чтобы одна или две известные компании получили в ней монопольное положение.
