От «Энигмы» до ChatGPT

Проектируем урок

После каждого урока ученик должен становиться лучше, чем был в начале урока. Для решения этой задачи необходимо подобрать интересный культурный аспект, и в этом видео он как раз имеется.

Cultural angle[2]

Common sense is not so common. Voltaire[3]

Попробуем раскрыть тему здравого смысла и показать, в чем он выражается в современном мире. Придумаем название урока. Чем провокационнее, тем интереснее; используем часть названия из оригинального выступления на TED, но оставим многое за рамками, чтобы было интересно с самого начала. У детей нет доступа к остальному материалу, он будет им предъявляться постепенно.

Title[4]

Incredibly smart and shockingly stupid[5]

Зададим тон уроку через discussion topics — тремя простыми вопросами. Мы, конечно, можем их придумать самостоятельно, но нам же интересно попробовать в этом деле ИИ, поэтому так и сделаем. Обратимся к twee.com. Переходим в раздел speaking, далее выбираем find discussion questions, используем уровень advanced. Зададим несколько тем и подберем три наиболее подходящих вопроса для разогрева.

Тема 1

Запрос: Common sense is not so common, Voltaire / Здравый смысл не так уж и обыденен, Вольтер

Ответ Twee.com:

• Who is Voltaire and what was his contribution to literature? / Кто такой Вольтер и какой вклад он внес в литературу?

• What does the quote «Common sense is not so common» mean to you? / Что для вас означает цитата «Здравый смысл не так уж и обычен»?

• Can you think of any examples where people lack common sense in everyday life? / Можете ли вы привести примеры из повседневной жизни, когда людям не хватает здравого смысла?

• Do you believe that common sense can be taught or is it something that comes naturally? / Считаете ли вы, что здравый смысл можно привить или это приходит естественным образом?

• How important, do you think, common sense is in making decisions? / Насколько важен, по вашему мнению, здравый смысл при принятии решений?

• In your opinion, what are some factors that contribute to a person’s level of common sense? / Какие, на ваш взгляд, факторы влияют на уровень здравого смысла человека?

• Have you ever been in a situation where someone lacked common sense? How did you handle it? / Были ли у вас ситуации, когда кто-то не проявлял здравого смысла? Как вы с этим справлялись?

• Is there a difference between intelligence and common sense? If so, how would you define each? / Есть ли разница между интеллектом и здравым смыслом? Если да, то как бы вы определили каждое?

• Why do you think some people have more common sense than others? / Почему, по вашему мнению, у некоторых людей больше здравого смысла, чем у других?

• Can you think of any ways to improve one’s common sense? / Можете ли вы предложить способы улучшения своего здравого смысла?

Тема 2

Запрос: Incredibly smart and shockingly stupid computer / Невероятно умный и поразительно глупый компьютер

Ответ Twee.com:

• What is the most impressive feat of artificial intelligence that you have heard of? / Какое самое впечатляющее достижение искусственного интеллекта вы слышали?

• Can you think of any examples where a computer has made a mistake or error in judgment? / Можете ли вы привести примеры, когда компьютер допускал ошибки или неправильные суждения?

• How do you think advancements in AI will impact our daily lives in the future? / Как, по вашему мнению, прогресс в AI повлияет на нашу повседневную жизнь в будущем?

• Have you ever interacted with a chatbot or virtual assistant? If so, what was your experience like? / Общались ли вы когда-нибудь с чат-ботом или виртуальным ассистентом? Если да, то каков был ваш опыт?

• Do you believe that computers can truly be considered «intelligent»? Why or why not? / Считаете ли вы, что компьютеры действительно могут считаться «умными»? Почему или почему нет?

• Are there any ethical concerns surrounding the development and use of advanced AI technology? / Есть ли какие-либо этические проблемы, связанные с разработкой и использованием продвинутых технологий AI?

• In your opinion, what are some potential benefits and drawbacks to relying heavily on computers for decision-making processes? / Какие, по вашему мнению, потенциальные преимущества и недостатки использования компьютеров в процессах принятия решений?

• Can you think of any industries or fields that could greatly benefit from the implementation of AI technology? / Можете ли вы назвать отрасли или сферы, которые могут сильно выиграть от внедрения технологий AI?

• How do you think humans can ensure that they remain in control of AI systems, rather than the other way around? / Как, по вашему мнению, люди могут гарантировать, что они продолжат контролировать системы AI, а не наоборот?

• Do you think it's possible for a computer to become too intelligent for its own good? Why or why not? / Считаете ли вы возможным, чтобы компьютер стал слишком умным для своего же блага? Почему или почему нет?

Курсивом выделены вопросы, которые интересно было бы обсудить и начать разогрев урока.

The beginning[6]

Exercise № 1 (5 min to complete. 5 out of 45)[7]

You are going to watch a TED talk by Yejin Choi Why AI Is Incredibly Smart and Shockingly Stupid, read the text about the speaker and the talk. Then work in pairs or small groups and discuss the questions. / Вы собираетесь посмотреть выступление на TED от Еджин Чой под названием «Почему искусственный интеллект невероятно умный и поразительно глуп», прочтите текст о докладчике и ее выступлении. Затем работайте парами или маленькими группами и обсудите следующие вопросы:

• Can you think of any examples where people lack common sense in everyday life? / Можете ли вы привести примеры, когда людям не хватает здравого смысла в повседневной жизни?

• What is the most impressive feat of artificial intelligence that you have heard of? / Какое, на ваш взгляд, самое впечатляющее достижение искусственного интеллекта, о котором вы слышали?

• Have you ever interacted with a chatbot or virtual assistant? If so, what was your experience like? / Общались ли вы когда-нибудь с чат-ботом или виртуальным ассистентом? Если да, каков был ваш опыт?

Информацию о спикере и выступлении возьмем с YouTube-страницы выступления и страницы Wikipedia о спикере.

BIO. The speaker and the speech[8]

Short BIO / Краткая биография

Yejin Choi is the Brett Helsel Professor of Computer Science at the University of Washington. Her research considers natural language processing and computer vision. She is on the TED stage to demystify the current state of massive artificial intelligence systems like ChatGPT, highlighting three key problems with cutting-edge large language models (including some funny instances of them failing at basic commonsense reasoning). She welcomes us into a new era in which AI is becoming almost like a new intellectual species — and identifies the benefits of building smaller AI systems trained on human norms and values. / Еджин Чой — профессор по компьютерным наукам Бретта Хелсела в Университете Вашингтона. Ее исследования касаются обработки естественного языка и компьютерного зрения. Она выходит на сцену TED, чтобы развеять мифы о текущем состоянии гигантских систем искусственного интеллекта, таких как ChatGPT, выделяя три ключевые проблемы с передовыми большими языковыми моделями (включая несколько смешных примеров их ошибок в базовом здравом смысле). Она приглашает нас в новую эру, в которой ИИ становится почти новым интеллектуальным видом, и выделяет преимущества создания более маленьких систем ИИ, обученных человеческим нормам и ценностям.

Далее нам необходимо ввести лексику из видео. Для этого нужно получить текстовую версию фрагмента, который планируется к прослушиванию. Вводная часть, с 00:00 до 02:57, предлагает достаточно новых слов. Они выделены курсивом. Для этой работы используем инструмент YouTube Video to Text на Twee.com.

Transcript № 1

So, I'm excited to share a few spicy thoughts on artificial intelligence. But first, let's get philosophical. By starting with this quote by Voltaire, an 18th century Enlightenment philosopher who said, Common sense is not so common.

Turns out, this quote couldn't be more relevant to artificial intelligence today. Despite that, AI is an undeniably powerful tool, beating the world-class Go champion, acing college admission tests, and even passing the bar exam.

I'm a computer scientist of 20 years, and I work on artificial intelligence. I am here to demystify AI.

So AI today is like a Goliath. It is literally very, very large. It is speculated that the recent ones are trained on tens of thousands of GPUs and a trillion of words. Such extreme-scale AI models, often referred to as large-language models, appear to demonstrate sparks of AGI (artificial general intelligence), except when it makes small, silly mistakes, which it often does. Many believe that whatever mistakes AI makes today can be easily fixed with brute-force bigger scale and more resources. What possibly could go wrong?

So there are three immediate challenges we face already at the societal level. First, extreme-scale AI models are so expensive to train, and only a few tech companies can afford to do so. So we already see the concentration of power. But what's worse for AI safety? We're now at the mercy of those few tech companies, because researchers in the larger community do not have the means to truly inspect and dissect these models. And let's not forget their massive carbon footprint and the environmental impact.

And then there are these additional intellectual questions. Can AI, without robust common sense, be truly safe for humanity? And is brute-force scale really safe?

Итак, я рад поделиться несколькими острыми мыслями об искусственном интеллекте. Но сначала давайте станем философами. Начнем с этой цитаты Вольтера, философа эпохи Просвещения XVIII века, который сказал: «Здравый смысл не так уж и обыденен».

Оказывается, эта цитата не могла быть более актуальной для искусственного интеллекта сегодня. Несмотря на это, ИИ — это несомненно мощный инструмент, который победил мирового чемпиона по го, блестяще сдал вступительные экзамены в колледже и даже успешно прошел юридический экзамен.

Я специалист по компьютерным наукам с 20-летним опытом и работаю над искусственным интеллектом. Я здесь, чтобы развенчать мифы об ИИ.

Итак, сегодняшний ИИ подобен Голиафу. Он действительно очень, очень большой. Спекулируют, что последние модели обучались на десятках тысяч ГПУ и триллионе слов. Такие модели ИИ крупного масштаба, часто называемые моделями больших языковых систем, кажется, демонстрируют искры ОИИ (общего искусственного интеллекта), за исключением случаев, когда он делает мелкие глупые ошибки, что случается довольно часто. Многие считают, что любые ошибки, которые ИИ делает сегодня, можно легко исправить, увеличив масштаб и потратив больше ресурсов. Что может пойти не так?

Итак, мы уже сталкиваемся с тремя проблемами на общественном уровне. Во-первых, модели ИИ крупного масштаба очень дорого обучать и лишь несколько технологических компаний могут себе это позволить. Таким образом, мы уже видим концентрацию власти. Но что еще хуже для безопасности ИИ? Теперь мы в руках этих нескольких технологических компаний, потому что исследователи из широкой общественности не имеют возможности действительно изучить и проанализировать эти модели. Не говоря уже об их огромном углеродном следе и воздействии на окружающую среду.

А затем есть и другие интеллектуальные вопросы. Может ли ИИ без прочного здравого смысла быть действительно безопасным для человечества? И действительно ли увеличение размеров безопасно?

Для выделенных слов мы попросим Twee.com составить предложения, используя инструмент Sentences with target vocabulary.