Разговор с детьми об искусственном интеллекте: простое и полезное руководство

Недавно мне выпала захватывающая возможность поучаствовать в программе Skype a Scientist , которая связывает ученых из разных дисциплин (биологов, ботаников, инженеров, специалистов по информатике и т. д.) с детскими классами, чтобы рассказать о своей работе и ответить на их вопросы. Я довольно хорошо знаком с обсуждением искусственного интеллекта и машинного обучения со взрослой аудиторией, но это был первый раз, когда я действительно задумался о том, как говорить об этой теме с детьми, и это стало интересным вызовом. Сегодня я поделюсь некоторыми идеями, которые пришли мне в голову в процессе работы над этой темой, и которые могут быть полезны тем из вас, у кого есть дети. Эти идеи предлагают ценные сведения о том, как упростить сложные концепции ИИ для детей в увлекательной и понятной форме.

Подготовьтесь объяснить концепцию

Готовясь к любому выступлению перед любой аудиторией, я следую некоторым основным правилам. Мне нужно очень четко понимать, какую информацию я собираюсь представить и какие новые концепции должны узнать слушатели после выступления, поскольку это определяет всю информацию, которой я поделюсь. Я также хочу представить свой материал на уровне сложности, соответствующем уже имеющимся знаниям аудитории, — не упрощая вещи чрезмерно, но и не выводя их за пределы их уровня понимания.

В своей повседневной жизни я не всегда полностью осознаю, что дети уже знают (или думают, что знают) об искусственном интеллекте (ИИ). Я хочу, чтобы мои объяснения соответствовали уровню аудитории, но в данном случае я имею несколько ограниченное представление об их фоновых знаниях. В некоторых случаях я был удивлен, обнаружив, что дети были очень хорошо осведомлены о таких вещах, как конкуренция в области искусственного интеллекта между компаниями и на международном уровне. Полезным упражнением при принятии решения о том, как оформить контент, является придумывание метафор, использующих концепции или приемы, которые уже хорошо известны аудитории. Размышления об этом также открывают вам доступ к прошлому аудитории. Кроме того, будьте готовы изменить и скорректировать свой стиль презентации, если решите, что вы не на должном уровне. Мне нравится с самого начала немного спрашивать детей о том, что они думают об ИИ и что они знают, чтобы я мог получить эту ясность, прежде чем зайду слишком далеко.

 

Понимание технологий: основы моделей ИИ

Особенно при работе с детьми я сосредотачиваю свои выступления на нескольких основных моментах. Читатели знают, что я ярый сторонник обучения неспециалистов тому, как обучать большие языковые модели (LLM) и другие модели ИИ, а также на каких данных они обучаются. Это крайне важно для формирования реалистичных ожиданий относительно результатов этих моделей. Я думаю, что любой человек, включая детей, может легко увлечься воплощенной природой тона, голоса и даже «личности» моделей LLM и упустить из виду реальные ограничения этих инструментов.

Задача состоит в том, чтобы все соответствовало возрасту, но как только вы объясните им, как работает обучение, как модели LLM учатся на примерах письменного материала или как диффузионная модель учится на парах текст-изображение, они смогут сделать собственные выводы о возможных результатах. Поскольку агенты ИИ становятся все более сложными, а базовые механизмы все труднее изолировать, пользователям важно понимать структурные элементы, которые обеспечивают эту возможность.

Я начинаю с объяснения обучения как общей концепции, избегая, по возможности, большого количества технических терминов. При общении с детьми использование живого языка может помочь сделать вещи менее двусмысленными. Например, «Мы даем компьютерам большой объем информации и просим их изучить содержащиеся в ней закономерности». Далее я опишу примеры шаблонов, которые можно найти в языке или пикселях на изображении, поскольку само по себе слово «шаблоны» является слишком общим и широким. Затем: «Эти закономерности, которые вы изучаете, написаны с использованием математики, и эта математика — то, что находится внутри «модели». Теперь, когда мы даем модели новую информацию, она посылает нам ответ, основанный на изученных ею закономерностях». Далее я привожу еще один подробный пример и объясняю упрощенный процесс обучения (обычно это модель временного ряда, поскольку ее очень легко визуализировать). Далее я более подробно расскажу о различных типах моделей и объясню разницу между нейронными сетями и языковыми моделями в той мере, в какой это будет понятно аудитории.

Этика ИИ и внешние влияния

Я также хотел бы затронуть этические вопросы, связанные с искусственным интеллектом. Я считаю, что дети младшего, среднего и старшего школьного возраста вполне способны понимать экологические и социальные последствия, которые могут иметь технологии ИИ, включая большие языковые модели (LLM). Мне кажется, что многие современные дети достаточно хорошо понимают глобальное изменение климата и экологический кризис, поэтому обсуждение количества энергии, воды и редкоземельных минералов, необходимых для работы LLM, вполне уместно. Просто важно, чтобы ваши объяснения были понятными и соответствовали возрасту. Как я уже упоминал, используйте соответствующие примеры, которые связаны с жизненным опытом вашей аудитории. Нам следует сосредоточиться на этике ИИ и его влиянии на общество и окружающую среду.

Вот пример перехода от детского опыта к влиянию ИИ на окружающую среду.

 

«Разве у вас нет Chromebook для школьных занятий? Вы когда-нибудь замечали, что когда вы сидите с ноутбуком на коленях и долго работаете, задняя часть ноутбука нагревается? Может быть, если у вас одновременно открыто много файлов или вы смотрите много видео? Это нагревание происходит на больших компьютерах, называемых серверами, которые работают, когда вы обучаете или используете большую языковую модель (LLM), например, когда вы заходите на сайт chatGPT».

«Центры обработки данных, которые поддерживают работу ChatGPT, заполнены серверами, работающими одновременно, и все они сильно нагреваются, что нехорошо для оборудования. Поэтому эти центры обработки данных иногда используют холодную воду и некоторые химикаты вместе, которые прокачиваются по трубам, проходящим непосредственно через все серверы. Это помогает охлаждать машины и поддерживать их работу. Однако это означает, что используется большое количество воды, смешанной с химикатами и нагреваемой при прохождении через эти системы. Это может означать, что эта вода недоступна для использования людьми в других целях, например, в качестве воды для ферм или питьевой воды».

«В других случаях эти центры обработки данных используют большие кондиционеры, которые потребляют много электроэнергии для работы, а это означает, что мощности может не хватить для наших домов или предприятий. Электричество также иногда вырабатывается путем сжигания угля на электростанциях, что приводит к выбросу выхлопных газов в воздух и также увеличивает загрязнение».

Это позволяет включить в разговор опыт ребенка и дает ему конкретный способ соотнестись с концепцией. Вы можете вести аналогичные дискуссии об этике авторского права и краже контента, используя известных детям художников и создателей, не вникая в детали права интеллектуальной собственности. Дипфейки, как сексуальные, так и любые другие, безусловно, являются темой, с которой знакомы многие дети, и важно, чтобы дети осознавали риски, которые они представляют для отдельных лиц и общества при использовании ИИ.

Это может напугать, особенно маленьких детей, когда они начинают понимать некоторые неэтичные применения ИИ или глобальные проблемы, которые он создает, и осознавать, насколько мощными могут быть некоторые из этих вещей. Дети спрашивают меня: «Как мы можем исправить ситуацию, если кто-то научит ИИ делать плохие вещи?» например. Хотелось бы получить на этот вопрос более точные ответы, потому что по сути мне пришлось бы сказать: «Иногда у ИИ есть информация, позволяющая совершать плохие поступки, но есть также много людей, которые усердно работают над тем, чтобы сделать ИИ более безопасным и не допустить, чтобы он делился какой-либо плохой информацией или инструкциями о том, как совершать плохие поступки».

 

Деконструкция понятия «истина»

Гуманизация искусственного интеллекта представляет собой серьезную проблему как для взрослых, так и для детей – мы склонны доверять дружелюбному, уверенному голосу, когда он нам что-то говорит. Значительная часть проблемы заключается в том, что голос большой языковой модели (БЯМ), сообщающий нам что-либо, часто бывает дружелюбным, уверенным и неточным. Концепция медиаграмотности уже много лет является важной темой в педагогике, и ее расширение на большие языковые модели (БЯМ) является естественным шагом . Точно так же, как учащиеся (и взрослые) должны научиться критически оценивать информацию, созданную другими людьми или компаниями, мы должны быть критически и вдумчиво оценивать контент, созданный компьютером. Это включает в себя понимание ограничений этих технологий.

Я думаю, это также связано с пониманием технологий. Когда я объясняю, что задача большой языковой модели (LLM) состоит в том, чтобы изучать и копировать человеческий язык на самом простом уровне, определяя следующее возможное слово в строке на основе того, что было до него, становится понятным, когда я говорю, что LLM не может понять идею «истины». Истина не является частью процесса обучения, и в то же время истина — это действительно сложная концепция даже для людей. Большая языковая модель (LLM) может в большинстве случаев правильно отображать факты, но время от времени в силу вероятности будут появляться слепые пятна и потенциальные ошибки. В результате дети, использующие его, должны полностью осознавать ненадежность этого инструмента.

Однако этот урок имеет ценность не только в плане использования ИИ, поскольку мы учим справляться с неопределенностью, двусмысленностью и ошибками. Как отметили Берман и Агави (2023) , «образование в мире, опосредованном ИИ, включает в себя обучение работе с нечеткими, частичными и неоднозначными ситуациями, которые отражают сложные взаимоотношения между людьми и технологиями». Мне очень нравится такая формулировка, потому что она возвращает нас к тому, о чем я много думаю, — что большие языковые модели (БЛМ) создаются людьми и отражают интерпретации контента, созданного людьми. Когда дети узнают, как формируются модели, что модели могут ошибаться и что их результаты возникают из входных данных, созданных людьми, они получают более широкое понимание неопределенной природы того, как технологии функционируют в нашем современном обществе. (На самом деле, я настоятельно рекомендую всю статью всем, кто задумывается о том, как обучать детей ИИ.)

 

Примечание о фотографиях и видео

Как я уже упоминал ранее, распространение видео- и графического контента, созданного с использованием искусственного интеллекта, поднимает множество сложных вопросов. Я считаю, что предоставление детям информации в этой области имеет решающее значение, поскольку через привлекательный визуальный контент легко усвоить дезинформацию или откровенную ложь. Этот контент также находится в одном шаге от реального процесса создания для большинства детей, поскольку большая часть этого материала широко распространяется в социальных сетях и вряд ли будет должным образом классифицирована. Полезно поговорить с детьми о признаках, помогающих распознать материал, созданный искусственным интеллектом, а также о навыках общей критической медиаграмотности, например: «Если что-то звучит слишком хорошо, чтобы быть правдой, это, вероятно, фейк» и «Перепроверяйте то, что вы слышите в публикациях такого типа». Крайне важно научить детей проверять факты и источники информации, чтобы развить их способность различать реальный и фейковый контент.

 

мошенничество с использованием искусственного интеллекта

Несмотря на все этические проблемы и риски ошибок при получении степени магистра права, эти инструменты искусственного интеллекта невероятно полезны и интересны, поэтому вполне понятно, что некоторые студенты прибегают к их использованию для списывания при выполнении домашних заданий и в школе. Я бы сказал, что нам просто нужно поговорить с ними и объяснить, что цель — освоить навыки, необходимые для выполнения заданий, и если они их не освоят, то потеряют навыки, которые им понадобятся в старших классах и в дальнейшей жизни... но мы все знаем, что дети редко бывают настолько логичными. Их мозг все еще развивается, и даже взрослым порой трудно думать о таких вещах. Понимание влияния ИИ на образование требует глубокого понимания возможностей этих инструментов и их потенциального влияния на развитие основных навыков.

По сути, существует два подхода: найти способы усложнить или сделать невозможным списывание на домашних заданиях, или интегрировать ИИ в учебный процесс, предполагая, что в конечном итоге студенты получат к нему доступ. Сейчас контролируемая работа в классе может дать студентам возможность освоить некоторые необходимые навыки без цифрового вмешательства. Однако, как я уже упоминал, медиаграмотность теперь должна включать в себя использование известных моделей, и я считаю, что контролируемое использование известных моделей знающим учителем может иметь значительную педагогическую ценность. Более того, действительно невозможно «сделать домашние задания устойчивыми к ИИ», если это делается вне прямого контроля учителя, и мы должны это признать. Однако я не хочу, чтобы это звучало легко — см. ниже в разделе «Дополнительная литература» ряд научных статей о широких проблемах обучения грамотности в области ИИ в классе. Учителя сталкиваются с непростой задачей не только идти в ногу с технологиями и адаптировать свои методы обучения к современным условиям, но и пытаться обеспечить своих учеников информацией, необходимой для ответственного использования ИИ. Преподавателям также следует сосредоточиться на обучении учащихся критической оценке информации, создаваемой искусственным интеллектом, и развитии их навыков критического мышления.

 

Уроки на примере полового воспитания: уроки искусственного интеллекта

В конечном итоге вопрос заключается в том, что именно мы должны рекомендовать детям и чего им следует избегать в мире с ИИ как в классе, так и за его пределами. Я редко выступаю за запрет или ущемление каких-либо идей, и я думаю, что пример всестороннего, научно обоснованного и соответствующего возрасту полового воспитания может служить хорошим уроком. Если детям не предоставлять точную информацию об их теле и сексуальности, у них не будет знаний, необходимых для принятия обоснованных и ответственных решений в этой области. Взрослых не будет рядом, чтобы навязывать детям свои указания, когда они принимают сложные решения о том, что делать в сложных обстоятельствах, поэтому нам нужно обеспечить детей информацией, необходимой для самостоятельного принятия ответственных решений. Сюда входит как моральное руководство, так и фактическая информация. Аналогичным образом мы должны обеспечить, чтобы учащиеся получили полное представление о потенциале и рисках ИИ, чтобы они могли эффективно и ответственно использовать его в цифровую эпоху.

Моделирование ответственности при использовании искусственного интеллекта

Еще один момент, который, по моему мнению, важно упомянуть, заключается в том, что взрослым также следует демонстрировать ответственное поведение при взаимодействии с ИИ. Если учителя, родители и другие взрослые, участвующие в жизни детей, не будут иметь критического отношения к ИИ, они не смогут научить детей быть критичными и вдумчивыми потребителями этой технологии.

Недавняя статья в New York Times о том, как учителя используют искусственный интеллект (ИИ), несколько меня расстроила. В статье не демонстрируется глубокого понимания ИИ, он смешивается с элементарной статистикой (учитель, анализирующий данные об учениках, чтобы адаптировать обучение к уровню их детей, не является ни ИИ, ни чем-то новым или проблематичным), но она инициирует дискуссию о том, как взрослые в жизни детей используют инструменты ИИ, упоминая необходимость того, чтобы эти взрослые демонстрировали прозрачное и критическое использование. (В ней также кратко затрагивается проблема навязывания ИИ коммерческой индустрией школам, которая, кажется, заслуживает большего внимания — возможно, я напишу об этом позже.)

В противовес одному из утверждений статьи, я не возражал бы против использования учителями больших языковых моделей ( БЛМ ) для первоначальной проверки письменных работ, при условии, что они отслеживают и подтверждают результаты. Если критерии оценки основаны на грамматике, орфографии и пунктуации, то БЛМ, вероятно, подходит, исходя из того, как она была разработана. Я не хочу слепо доверять БЛМ в этом вопросе, не взглянув на нее хотя бы бегло, но человеческий язык, по сути, и предназначен для ее понимания. Представление о том, что «ученик должен был это написать, поэтому учитель должен это оценить», абсурдно, потому что цель упражнения — обучение ученика. Учителя уже знают пунктуацию, и этот проект не предназначен для того, чтобы заставить учителей изучать то, что можно освоить только с помощью ручной оценки. Подозреваю, что New York Times это знает, и что формулировка была в основном кликбейтом, но стоит это четко заявить.

Этот момент возвращает нас к предыдущему разделу о понимании технологий. Если вы точно понимаете, как выглядит процесс обучения, вы можете определить, позволит ли этот процесс создать инструмент, способный справиться с поставленной задачей. Однако автоматизация оценивания является частью образования уже как минимум несколько десятилетий — это знает каждый, кто заполнял табель оценок.

Развитие этой технологии в определенной степени заставляет нашу систему образования адаптироваться, но мы пока не можем загнать джинна обратно в бутылку. Безусловно, существуют некоторые способы, которыми ИИ может оказать положительное влияние на образование (часто приводят примеры персонализации и высвобождения времени учителей, которое затем можно посвятить непосредственной работе со студентами), но, как и во многих других случаях, я реалист. Как, я думаю, хорошо понимают большинство учителей, образование не может продолжаться в том виде, в каком оно было до появления больших языковых моделей ( LLM ).

Заключение

Дети умнее, чем мы иногда думаем, и я думаю, они могут многое понять о том, что означает ИИ в нашем мире. Мой совет — быть честными и открытыми относительно реалий этой технологии, включая преимущества и недостатки, которые она представляет для нас как личностей и для нашего общества в целом. То, как мы используем ИИ, будет формировать выбор детей, будь то положительный или отрицательный, и это то, на что они обратят внимание, поэтому крайне важно обдумывать свои действия и то, что мы говорим. Мы должны объяснить им потенциал и проблемы ИИ, уделяя особое внимание этичному и ответственному использованию этой технологии.