Разговор с детьми об искусственном интеллекте: простое и полезное руководство

Недавно мне выпала замечательная возможность принять участие в программе под названием Skype для ученого, который объединяет ученых из разных дисциплин (биологов, ботаников, инженеров, специалистов по информатике и т. д.) с детскими классами, чтобы рассказать о нашей работе и ответить на их вопросы. Я хорошо знаком с обсуждением вопросов искусственного интеллекта и машинного обучения со взрослой аудиторией, но сейчас я впервые по-настоящему задумался о том, как говорить на эту тему с детьми, и это оказалось интересной задачей. Сегодня я поделюсь с вами некоторыми идеями, которые пришли мне в голову в ходе этого процесса и которые могут оказаться полезными тем из вас, в чьей жизни так или иначе присутствуют дети. Эти идеи предлагают ценную информацию о том, как упростить сложные концепции искусственного интеллекта для детей интересным и понятным способом.

Подготовьтесь объяснить концепцию

Готовясь к любому выступлению перед любой аудиторией, я следую некоторым основным правилам. Мне нужно очень четко понимать, какую информацию я собираюсь представить и какие новые концепции должны узнать слушатели после выступления, поскольку это определяет всю информацию, которой я поделюсь. Я также хочу представить свой материал на уровне сложности, соответствующем уже имеющимся знаниям аудитории, — не упрощая вещи чрезмерно, но и не выводя их за пределы их уровня понимания.

В своей повседневной жизни я не всегда полностью осознаю, что дети уже знают (или думают, что знают) об искусственном интеллекте (ИИ). Я хочу, чтобы мои объяснения соответствовали уровню аудитории, но в данном случае я имею несколько ограниченное представление об их фоновых знаниях. В некоторых случаях я был удивлен, обнаружив, что дети были очень хорошо осведомлены о таких вещах, как конкуренция в области искусственного интеллекта между компаниями и на международном уровне. Полезным упражнением при принятии решения о том, как оформить контент, является придумывание метафор, использующих концепции или приемы, которые уже хорошо известны аудитории. Размышления об этом также открывают вам доступ к прошлому аудитории. Кроме того, будьте готовы изменить и скорректировать свой стиль презентации, если решите, что вы не на должном уровне. Мне нравится с самого начала немного спрашивать детей о том, что они думают об ИИ и что они знают, чтобы я мог получить эту ясность, прежде чем зайду слишком далеко.

 

Понимание технологий: основы моделей ИИ

Особенно при работе с детьми я сосредотачиваю свои выступления на нескольких основных моментах. Читатели знают, что я ярый сторонник обучения неспециалистов тому, как обучать большие языковые модели (LLM) и другие модели ИИ, а также на каких данных они обучаются. Это крайне важно для формирования реалистичных ожиданий относительно результатов этих моделей. Я думаю, что любой человек, включая детей, может легко увлечься воплощенной природой тона, голоса и даже «личности» моделей LLM и упустить из виду реальные ограничения этих инструментов.

Задача состоит в том, чтобы все соответствовало возрасту, но как только вы объясните им, как работает обучение, как модели LLM учатся на примерах письменного материала или как диффузионная модель учится на парах текст-изображение, они смогут сделать собственные выводы о возможных результатах. Поскольку агенты ИИ становятся все более сложными, а базовые механизмы все труднее изолировать, пользователям важно понимать структурные элементы, которые обеспечивают эту возможность.

Я начинаю с объяснения обучения как общей концепции, избегая, по возможности, большого количества технических терминов. При общении с детьми использование живого языка может помочь сделать вещи менее двусмысленными. Например, «Мы даем компьютерам большой объем информации и просим их изучить содержащиеся в ней закономерности». Далее я опишу примеры шаблонов, которые можно найти в языке или пикселях на изображении, поскольку само по себе слово «шаблоны» является слишком общим и широким. Затем: «Эти закономерности, которые вы изучаете, написаны с использованием математики, и эта математика — то, что находится внутри «модели». Теперь, когда мы даем модели новую информацию, она посылает нам ответ, основанный на изученных ею закономерностях». Далее я привожу еще один подробный пример и объясняю упрощенный процесс обучения (обычно это модель временного ряда, поскольку ее очень легко визуализировать). Далее я более подробно расскажу о различных типах моделей и объясню разницу между нейронными сетями и языковыми моделями в той мере, в какой это будет понятно аудитории.

Этика ИИ и внешние влияния

Я также хотел бы осветить этические вопросы, связанные с искусственным интеллектом. Я считаю, что дети младшего, среднего и старшего школьного возраста полностью способны понимать Воздействие на окружающую среду и социальное влияние, которое могут оказать технологии искусственного интеллекта, включая большие языковые модели (LLM). Мне кажется, что многие дети сегодня очень хорошо понимают глобальное изменение климата и экологический кризис, поэтому разговоры о количестве энергии, воды и редких минералов, необходимых для работы магистратуры, вполне разумны. Важно лишь, чтобы ваши объяснения были понятными и соответствовали возрасту. Как я уже упоминал ранее, используйте примеры, которые имеют отношение к делу и связаны с жизненным опытом вашей аудитории. Мы должны сосредоточиться на Этика ИИ и Влияние искусственного интеллекта Об обществе и окружающей среде.

Вот пример перехода от детского опыта к влиянию ИИ на окружающую среду.

 

«Разве у вас нет Chromebook для школьных занятий? Вы когда-нибудь замечали, что когда вы сидите с ноутбуком на коленях и долго работаете, задняя часть ноутбука нагревается? Может быть, если у вас одновременно открыто много файлов или вы смотрите много видео? Это нагревание происходит на больших компьютерах, называемых серверами, которые работают, когда вы обучаете или используете большую языковую модель (LLM), например, когда вы заходите на сайт chatGPT».

«Центры обработки данных, которые поддерживают работу ChatGPT, заполнены серверами, работающими одновременно, и все они сильно нагреваются, что нехорошо для оборудования. Поэтому эти центры обработки данных иногда используют холодную воду и некоторые химикаты вместе, которые прокачиваются по трубам, проходящим непосредственно через все серверы. Это помогает охлаждать машины и поддерживать их работу. Однако это означает, что используется большое количество воды, смешанной с химикатами и нагреваемой при прохождении через эти системы. Это может означать, что эта вода недоступна для использования людьми в других целях, например, в качестве воды для ферм или питьевой воды».

«В других случаях эти центры обработки данных используют большие кондиционеры, которые потребляют много электроэнергии для работы, а это означает, что мощности может не хватить для наших домов или предприятий. Электричество также иногда вырабатывается путем сжигания угля на электростанциях, что приводит к выбросу выхлопных газов в воздух и также увеличивает загрязнение».

Это позволяет включить в разговор опыт ребенка и дает ему конкретный способ соотнестись с концепцией. Вы можете вести аналогичные дискуссии об этике авторского права и краже контента, используя известных детям художников и создателей, не вникая в детали права интеллектуальной собственности. Дипфейки, как сексуальные, так и любые другие, безусловно, являются темой, с которой знакомы многие дети, и важно, чтобы дети осознавали риски, которые они представляют для отдельных лиц и общества при использовании ИИ.

Это может напугать, особенно маленьких детей, когда они начинают понимать некоторые неэтичные применения ИИ или глобальные проблемы, которые он создает, и осознавать, насколько мощными могут быть некоторые из этих вещей. Дети спрашивают меня: «Как мы можем исправить ситуацию, если кто-то научит ИИ делать плохие вещи?» например. Хотелось бы получить на этот вопрос более точные ответы, потому что по сути мне пришлось бы сказать: «Иногда у ИИ есть информация, позволяющая совершать плохие поступки, но есть также много людей, которые усердно работают над тем, чтобы сделать ИИ более безопасным и не допустить, чтобы он делился какой-либо плохой информацией или инструкциями о том, как совершать плохие поступки».

 

Деконструкция понятия «истина»

Очеловечивание ИИ представляет собой настоящую проблему как для взрослых, так и для детей: мы склонны доверять дружелюбному, уверенному голосу, когда он нам что-то говорит. Большая часть проблемы заключается в том, что голос большой языковой модели (LLM), который сообщает нам что-то, часто дружелюбен, уверен и неверен. Концепция медиаграмотности уже много лет является важной темой в образовании, иРаспространение его на большие языковые модели (LLM) является естественной эволюцией.. Так же, как учащимся (и взрослым) необходимо научиться быть критичными потребителями информации, созданной другими людьми или компаниями, нам необходимо быть критичными и вдумчивыми потребителями компьютерного контента. Это включает в себя понимание ограничений этих технологий.

Я думаю, это также связано с пониманием технологий. Когда я объясняю, что задача большой языковой модели (LLM) состоит в том, чтобы изучать и копировать человеческий язык на самом простом уровне, определяя следующее возможное слово в строке на основе того, что было до него, становится понятным, когда я говорю, что LLM не может понять идею «истины». Истина не является частью процесса обучения, и в то же время истина — это действительно сложная концепция даже для людей. Большая языковая модель (LLM) может в большинстве случаев правильно отображать факты, но время от времени в силу вероятности будут появляться слепые пятна и потенциальные ошибки. В результате дети, использующие его, должны полностью осознавать ненадежность этого инструмента.

Однако этот урок имеет ценность не только в плане использования ИИ, поскольку мы учим тому, как справляться с неопределенностью, двусмысленностью и ошибками. Как он отметил Берман и Аджави (2023)«Образование в мире, управляемом искусственным интеллектом, подразумевает обучение работе с неоднозначными, частичными и неопределенными ситуациями, которые отражают переплетенные отношения между людьми и технологиями». Мне очень нравится эта формулировка, потому что она возвращает нас к тому, о чем я много думаю: большие языковые модели (LLM) создаются людьми и отражают интерпретации созданного людьми контента. Когда дети узнают, как формируются модели, что модели подвержены ошибкам и что их результаты являются результатом действий человека, они осознают неопределенность того, как сегодня работают технологии в нашем обществе в целом. (На самом деле, я настоятельно рекомендую прочитать всю статью всем, кто думает о том, как самостоятельно рассказать детям об ИИ.)

 

Примечание о фотографиях и видео

Как я уже упоминал ранее, распространение видео- и графического контента, созданного с использованием искусственного интеллекта, поднимает множество сложных вопросов. Я считаю, что предоставление детям информации в этой области имеет решающее значение, поскольку через привлекательный визуальный контент легко усвоить дезинформацию или откровенную ложь. Этот контент также находится в одном шаге от реального процесса создания для большинства детей, поскольку большая часть этого материала широко распространяется в социальных сетях и вряд ли будет должным образом классифицирована. Полезно поговорить с детьми о признаках, помогающих распознать материал, созданный искусственным интеллектом, а также о навыках общей критической медиаграмотности, например: «Если что-то звучит слишком хорошо, чтобы быть правдой, это, вероятно, фейк» и «Перепроверяйте то, что вы слышите в публикациях такого типа». Крайне важно научить детей проверять факты и источники информации, чтобы развить их способность различать реальный и фейковый контент.

 

мошенничество с использованием искусственного интеллекта

Несмотря на все этические проблемы и риски ошибок при получении степени магистра права, эти инструменты искусственного интеллекта невероятно полезны и интересны, поэтому вполне понятно, что некоторые студенты прибегают к их использованию для списывания при выполнении домашних заданий и в школе. Я бы сказал, что нам просто нужно поговорить с ними и объяснить, что цель — освоить навыки, необходимые для выполнения заданий, и если они их не освоят, то потеряют навыки, которые им понадобятся в старших классах и в дальнейшей жизни... но мы все знаем, что дети редко бывают настолько логичными. Их мозг все еще развивается, и даже взрослым порой трудно думать о таких вещах. Понимание влияния ИИ на образование требует глубокого понимания возможностей этих инструментов и их потенциального влияния на развитие основных навыков.

По сути, есть два подхода, которые вы можете использовать: найти способы усложнить школьные задания или сделать невозможным списывание, или интегрировать ИИ в класс, предполагая, что в будущем ученики получат его в свое распоряжение. Теперь контролируемая работа в классе может дать учащимся возможность освоить некоторые необходимые им навыки без цифрового вмешательства. Однако, как я уже упоминал ранее, знания об использовании медиа теперь должны действительно включать в себя большие языковые модели, и я считаю, что контролируемое использование больших языковых моделей знающим учителем может иметь большую педагогическую ценность. Кроме того, действительно невозможно «сделать домашнее задание устойчивым к ИИ», если оно выполняется без непосредственного контроля учителя, и мы должны это осознавать. Однако я не хочу, чтобы это звучало легко – см. ниже в разделе Дополнительные чтения За ряд научных статей, посвященных общим проблемам обучения грамотности в области искусственного интеллекта в классах. Перед учителями стоит очень сложная задача: не только самим идти в ногу с технологиями и адаптировать свои методы обучения к требованиям времени, но и предоставлять своим ученикам информацию, необходимую для ответственного использования ИИ. Преподавателям также следует сосредоточиться на обучении студентов тому, как критически оценивать информацию, генерируемую ИИ, и развивать у них навыки критического мышления.

 

Уроки на примере полового воспитания: уроки искусственного интеллекта

В конечном итоге вопрос заключается в том, что именно мы должны рекомендовать детям и чего им следует избегать в мире с ИИ как в классе, так и за его пределами. Я редко выступаю за запрет или ущемление каких-либо идей, и я думаю, что пример всестороннего, научно обоснованного и соответствующего возрасту полового воспитания может служить хорошим уроком. Если детям не предоставлять точную информацию об их теле и сексуальности, у них не будет знаний, необходимых для принятия обоснованных и ответственных решений в этой области. Взрослых не будет рядом, чтобы навязывать детям свои указания, когда они принимают сложные решения о том, что делать в сложных обстоятельствах, поэтому нам нужно обеспечить детей информацией, необходимой для самостоятельного принятия ответственных решений. Сюда входит как моральное руководство, так и фактическая информация. Аналогичным образом мы должны обеспечить, чтобы учащиеся получили полное представление о потенциале и рисках ИИ, чтобы они могли эффективно и ответственно использовать его в цифровую эпоху.

Моделирование ответственности при использовании искусственного интеллекта

Еще один момент, который, по моему мнению, важно упомянуть, заключается в том, что взрослым также следует демонстрировать ответственное поведение при взаимодействии с ИИ. Если учителя, родители и другие взрослые, участвующие в жизни детей, не будут иметь критического отношения к ИИ, они не смогут научить детей быть критичными и вдумчивыми потребителями этой технологии.

Статья подняла Нью-Йорк Таймс Меня несколько разочаровывает то, как учителя используют ИИ. Статья не отражает глубокого понимания ИИ, путая его с какой-то базовой статистикой (учителя, анализирующие данные учащихся, чтобы адаптировать преподавание к их уровню, не являются ни ИИ, ни чем-то новым или проблематичным), но она действительно начинает разговор о том, как взрослые в жизни детей используют инструменты ИИ, и отмечает необходимость для этих взрослых демонстрировать прозрачное и критически важное использование ИИ. (Также вкратце затрагивается вопрос внедрения ИИ в учебные классы коммерческими компаниями, что, похоже, заслуживает более подробного рассмотрения — возможно, я напишу об этом позже.)

Чтобы опровергнуть одно из утверждений статьи, я бы не стал жаловаться на использование учителями больших языковых моделей (LLM) проводить первоначальный обзор для оценки письменных материалов, при условии, что они контролируют и проверяют выходные данные. Если критерии оценки вращаются вокруг грамматики, орфографии и механики письма, то, скорее всего, подойдет большая языковая модель, исходя из того, как она обучена. Я не хочу слепо доверять большой языковой модели в этом вопросе, пока человек хотя бы бегло не взглянет на нее, но на самом деле она была разработана для понимания человеческого языка. Идея о том, что «ученик должен был это написать, поэтому учитель должен это оценить», смехотворна, поскольку цель упражнения — дать ученику возможность чему-то научиться. Учителя уже знакомы с механикой письма, и этот проект не направлен на то, чтобы заставить учителей изучить что-то, чего можно достичь только посредством ручной оценки. Я думаю, что New York Times знала об этом, и что эта интерпретация была в основном направлена ​​на приманку для кликов, но об этом стоит сказать прямо.

Этот момент возвращает нас к предыдущему разделу о понимании технологий. Если вы точно понимаете, как выглядит процесс обучения, вы можете определить, позволит ли этот процесс создать инструмент, способный справиться с поставленной задачей. Однако автоматизация оценивания является частью образования уже как минимум несколько десятилетий — это знает каждый, кто заполнял табель оценок.

Развитие этой технологии заставляет нашу систему образования в определенной степени адаптироваться, но мы не можем сейчас загнать этого джинна обратно в бутылку. Безусловно, существуют некоторые способы, которыми ИИ может оказать положительное влияние на образование (часто приводимые примеры — персонализация и высвобождение времени учителей, которое затем можно направить на прямые услуги студентам), но, как и в большинстве случаев, я сторонник реалистичного взгляда. Как я думаю, большинство учителей хорошо понимают, образование не может продолжаться так, как это было до внедрения больших языковых моделей (LLMНаша жизнь.

Заключение

Дети умнее, чем мы иногда думаем, и я думаю, они могут многое понять о том, что означает ИИ в нашем мире. Мой совет — быть честными и открытыми относительно реалий этой технологии, включая преимущества и недостатки, которые она представляет для нас как личностей и для нашего общества в целом. То, как мы используем ИИ, будет формировать выбор детей, будь то положительный или отрицательный, и это то, на что они обратят внимание, поэтому крайне важно обдумывать свои действия и то, что мы говорим. Мы должны объяснить им потенциал и проблемы ИИ, уделяя особое внимание этичному и ответственному использованию этой технологии.