В эссе «Spandrels of the Mind» Карл Хендрик предлагает неожиданно свежую идею – перестать проектировать ИИ-тьютора как копию преподавателя внутри коробки с проводами. Сейчас любой питч ИИ инструмента для образования строится примерно так: «Преподаватель не может после каждого занятия просмотреть ответы тридцати студентов и собрать для каждого индивидуальную обратную связь и набор задачек на отработку – а наш инструмент может!». Но Хендрик тут заряжает сильный аргумент – машина, копируя человеческий способ мышления и работы, копирует и когнитивные искажения и ограничения человеческого сознания.

Несколько параграфов с разбором когнитивных искажений завершается мощной фразой:

Мозг не просто ошибается, он ошибается с полной уверенностью что прав.

Сравните с вашими ощущениями когда ИИ в ответ на вопрос галлюцинирует с три короба, еще и ссылки приводит, тоже придуманные... Одной крови, получается!

Развивая тему крови, дальше Хендрик приводит аргументы поэмоциональней:

Если бы мы проектировали беспилотные автомобили так, чтобы они были «более человечными», нам пришлось бы программировать их на убийство <…> Мы не требуем от беспилотных автомобилей быть «более человечными» и перенимать свойственные водителю-человеку свойства: время реакции в 250 миллисекунд, поле зрения в 200 градусов или склонность смотреть не туда и не в тот момент. Мы требуем от них обратного.

Переведем в образовательное.

Ученик застрял, ИИ-тьютор – конечно же! – тут же понимающе подхватил его мысль, объяснил недостающий шаг и похвалил за ответ. На первый взгляд, все замечательно, но по эффекту ситуация мало чем отличается от примера с ДТП выше – кто в итоге проделал трудную часть? Чей шанс разобраться в чем-то сбили на пешеходном переходе?

В комментарии к статье разработчик учебной системы пишет ровно это: ИИ-тьютор принимает ответ, собранный на основе его рекомендаций, за самостоятельное понимание ученика. Так себе УТП.

«ИИ-модель помочь хочет – в этом и проблема!»

Я уже писал, что ИИ-инструменты, как кажется, должны быть средством продуктивного усложнения образовательного процесса, а не снятия любой когнитивной нагрузки.

И с этим неожиданно рифмуется еще одно эссе – «Why No AI Games?» геймдизайнера Фрэнка Ланца. Как техно-энтузиаст, он ожидал, что генеративный ИИ принесёт бесконечное количество новых видов игр, а получил ведро нейрослопа. Текст очень коротенький, но хорошо иллюстрирует идею, что линейно отдать задачу ИИ и попросить сделать хорошо, без попытки разобраться в процессе, редко приводит к успеху.

Главная задача видеоигр – поражать воображение <...> и, мне кажется, дело тут вот в чем: эти новые модели попросту не дарят того естественного ощущения веселья, которого я ожидал, когда впервые с ними столкнулся. Некоторые виды компьютерных технологий становятся неисчерпаемым источником удовольствия. 3D-рендеринг – это увлекательно. Физические движки – это увлекательно. А вот новые модели ИИ – при всей их мощности, полезности и способности вызывать интерес – сами по себе, похоже, не приносят того самого удовольствия. И это, на мой взгляд, довольно неожиданно!

Попросить ИИ сделать AAA шутер с грабежом корованов можно, но навряд ли получится что-то толковое. Интересно, как Ланц формулирует принцип геймдизайна здорового человека в эпоху ИИ:

Палка – это весело. Мяч – это весело.

Несколько простых и устойчивых правил дают игроку понимание горизонта доступного, возможность экспериментировать и понимать, что от его действий зависит. Жесткая регуляция на входе – почти бесконечное количество вариантов на выходе.

Удовольствие от игр неразрывно связано с чудом эмерджентности – тем, как небольшой набор, казалось бы, тривиальных ограничений взаимодействует друг с другом, порождая бесконечное разнообразие удивительной сложности. Если же сразу начать с нагромождения этой сложности, игра не станет увлекательнее – такой подход попросту сводит на нет весь процесс.

Возможно, задача ИИ в игре – отвечать на выдумки игрока там, где заранее выписать все варианты нельзя, сохраняя при этом ясную основу правил. Например, можно было бы помочь уставшему ГМу продумать последствия неожиданного решения группы. Или учителю – идеи учеников.

Игроки понимают, какие действия доступны, что поставлено на карту и как решается исход – но сами последствия становятся гораздо богаче, уходя от универсального ответа на любое действие игроков: «Rocks fall, everyone dies» (сравните с «Мы тут учимся, а не в хиханьки-хаханьки ваши играем!»). И тогда интереснее не то, сколько всего ИИ способен придумать, а то, что игроки могут сказать: «Это произошло из-за нашего решения».