Искусственный интеллект – надежды и опасения
- Автор: Джон Брокман
- Жанр: Научно-популярная литература / Публицистика
- Дата выхода: 2020
Читать книгу "Искусственный интеллект – надежды и опасения"
От Цая в 1970-х годах до Линн Хершман Лисон в 1990-х и до Паррено в 2014 году художники критиковали «правую» кибернетику и предлагали альтернативный, «телесный», экологический взгляд на «искусственный» интеллект. Их художественное применение кибернетических существ подчеркивает мудрость симбиоза, воспроизводимого в тех видах поэзиса[227], которые доступны в этом мире: в ритмах сигналов и интуитивных действиях, порождающих движения жизни в «партнерстве» с электромеханической и магнитной техносферой. Это Жизнь – в ее таинственных негэнтропических[228] переплетениях с материей и разумом.
Глава 25
Искусственный интеллект и будущее цивилизации
На протяжении без малого четырех десятилетий Стивен Вольфрам остается среди ведущих специалистов по разработке и применению компьютерного мышления; на его счету множество инноваций в науке, технологиях и бизнесе.
Статья «Клеточные автоматы как простые самоорганизующиеся системы» (1982), написанная им в возрасте двадцати трех лет, стала первой ласточкой многочисленных и значимых научных работ, посвященных постижению возникновения сложности в природе.
Приблизительно тогда же мы со Стивеном познакомились лично. Я основал «Клуб реальности», неформальное собрание интеллектуалов, которые собирались в Нью-Йорке, чтобы обсудить свои труды в кругу коллег, представляющих другие научные дисциплины. (Напомню, что в 1996 году «Клуб реальности» ушел в онлайн как проект Edge.org.) Первым докладчиком стал именно Стивен Вольфрам, «вундеркинд», прибывший в институт перспективных исследований в Принстоне. Отчетливо помню его сосредоточенность, когда он сидел на диване в моей гостиной и говорил без перерыва около часа перед собравшимися учеными.
Впоследствии Стивен сосредоточился на том, чтобы сделать знания о мире легко вычислимыми и доступными. Его программа Mathematica представляет собой базу современных технических вычислений. А система извлечения знаний WolframAlpha выдает экспертные суждения, опираясь на технологии ИИ. Он считает, что разработанный им язык Wolfram Language – это первый подлинный вычислительный язык общения для людей и ИИ.
Мы снова встретились четыре года назад, договорившись обсудить нынешнее состояние ИИ в Кембридже, штат Массачусетс. Стивен вошел, поздоровался, сел и, покосившись на видеокамеру (я записывал нашу беседу для проекта Edge), заговорил – и не умолкал добрых два с половиной часа.
Очерк ниже представляет собой отредактированную версию этого выступления, которое стало своего рода мастер-классом от Вольфрама и видится мне отличным завершением настоящего сборника – а доклад Стивена в «Клубе реальности» в 1980-х годах оказался отличным началом для интеллектуального предприятия, которое смогло объединить множество достойных мыслителей, чьи работы, собственно, и составили книгу, ныне доступную широкой публике.
Технология для меня заключается в достижении человеческих целей и реализации их автоматического осуществления машинами. Человеческие цели в прошлом сводились к перемещению объектов – сначала руками, затем при помощи вилочного погрузчика. Теперь же труд, который возможно выполнять автоматически с помощью машин, оказывается не столько физическим, сколько умственным. Очевидно, что имеется возможность автоматизировать выполнение многих задач, решением которых мы, люди, издавна похвалялись. Итак, каким видится будущее человечества в этой ситуации?
Люди рассуждают о будущем интеллектуальных машин и о том, возьмут ли они на себя ответственность за определение собственных действий. Но придумывание и постановка целей не кажутся дорогой к автоматизации. Кто-то или что-то должно определить цель машины – что именно она пытается сделать. А как определяются цели? Для человека они, как правило, задаются личной историей, культурной средой, историей нашей цивилизации. Цели – уникальная человеческая особенность. Что касается машины, ей можно задать цель при проектировании.
Какие объекты обладают разумом, целеполаганием, предназначением? Прямо сейчас нам известен всего один ответ на этот вопрос – мы сами, наш мозг, наш человеческий разум. Человеческий интеллект, как я однажды предположил, намного превосходит все, что возникло в мироздании естественным образом; это результат сложного процесса эволюции, в силу чего он отделен от всего остального. Но благодаря науке, которой занимаюсь, я понял, что ошибался.
Например, люди могут сказать: «У погоды собственное разумение». Это анимистическое допущение, которому как будто не место в современном научном мышлении. Но оно вовсе не так нелепо, как может показаться. Что делает человеческий мозг? Он получает определенные сигналы, вычисляет, побуждает организм к неким действиям, генерирует достижение неких результатов. Прямо как погода. Любые разновидности систем так или иначе эффективно выполняют вычисления – будь то мозг или, скажем, облако, реагирующее на термальную среду.
Мы можем возразить, что наш мозг выполняет гораздо более сложные вычисления, чем «атмосферное» сознание. Но выяснилось, что имеется принципиальное сходство между типами вычислений в разных системах. Вследствие чего тезис об уникальности человека стоит пересмотреть, ибо, похоже, мы не такие уж особенные, как нам казалось. В природе полным-полно всевозможных систем, которые в значительной степени тождественны с точки зрения вычислительных возможностей.
От всех прочих систем нас отличают особенности нашей истории, которые наделяют человечество ощущением предназначения и целями. Если коротко, то коробка на нашем столе может мыслить, подобно человеку, но она лишена каких бы то ни было целей. Последние определяются нашими особыми признаками – нашей биологией, нашей психологией, нашей культурной историей.
При обсуждении будущего ИИ нужно думать о целях. Именно в них заключается вклад человечества и вклад цивилизации. Мы способны и должны автоматизировать реализацию целей. Каково будущее людей в таком мире? Чем им предстоит заняться? Суть одного моего проекта как раз и сводилась к постижению эволюции человеческих целей в перспективе. Сегодня мы располагаем всевозможными целями. А если вернуться на тысячу лет назад, цели были совсем другими: как добыть еду? как надежно обеспечить безопасность? В современном западном мире мы по большей части уже не тратим львиную долю жизни на размышления об этих целях. При взгляде из прошлого некоторые цели, формулируемые сегодня, наверняка покажутся, мягко говоря, странными (скажем, беговые тренировки – тысячу лет назад это была полнейшая нелепица).
Итак, чем люди займутся в будущем? Многие цели наших дней возникают вследствие дефицита того или иного рода. В мире мало ресурсов. Люди хотят получать больше того-то и того-то. В нашей жизни мало времени. Постепенно эти формы дефицита исчезнут. Несомненно, самым драматическим достижением будет фактическое обретение человечеством бессмертия. Придем ли мы к нему биологически или через «цифру», сказать сложно, однако рано или поздно это случится. Многие наши текущие цели частично обуславливаются нашей смертностью: «Мне суждено прожить лишь короткий срок, потому надо сделать то-то и то-то». Но что произойдет, когда большинство наших целей будет реализовываться автоматически? Мы лишимся той мотивации, которая движет нами сегодня. Очень хотелось бы узнать ответ на следующий вопрос: к чему в конце концов придут в будущем «производные» людей? Не исключено, кстати, что они станут коротать время за какими-то аналогами нынешних видеоигр.
Значение термина «искусственный интеллект» уточняется за счет употребления в техническом жаргоне. Сегодня тема ИИ весьма популярна, и люди имеют некоторое представление о том, что это такое. А когда в 1940-х и 1950-х годах разрабатывались первые машины, типичное название книги или журнальной статьи о компьютерах гласило: «Гигантский электронный мозг». Считалось, что, как бульдозеры, паровые двигатели и пр. автоматизировали ручной труд, так и компьютеры автоматизируют труд интеллектуальный. Но пообещать, к удивлению многих, оказалось проще, чем сделать. Первоначально наблюдался изрядный оптимизм; государственные средства обильно тратились на исследования в 1960-х годах. Подчеркну – тратились впустую.
В фантастических фильмах того времени много забавных представлений о компьютерах. Например, симпатичный агрегат по имени Desk Set, по сути, IBM-совместимый компьютер, который устанавливают в вещательной компании – и который оставляет всех без работы[230]. Забавно то, что этому компьютеру задают кучу справочных вопросов. Когда мы с коллегами создавали систему WolframAlpha, то хотели, в частности, чтобы она эффективно отвечала на те справочные вопросы, которые когда-то задавались модели Desk Set. К 2009 году наша система могла ответить на все.
В 1943 году Уоррен Маккаллок и Уолтер Питтс предложили модель концептуальной, формальной работы человеческого мозга – искусственную нейронную сеть. Они считали, что их «мозгоподобная» модель будет выполнять вычисления аналогично машинам Тьюринга. Из их расчетов следовало, что мы в состоянии строить «мозгоподобные» нейронные сети, действующие как обычные вычислительные машины. В действительности же практические опыты команды ЭНИАК[231], Джона фон Неймана и другие специалистов показали, что «обходная» модель нейронной сети эффективнее машины Тьюринга.
Но простые нейронные сети мало на что годились. Фрэнк Розенблатт изобрел обучающее устройство, которое он назвал перцептроном и которое представляло собой одноуровневую нейронную сеть. В конце 1960-х Марвин Минский и Сеймур Пейперт опубликовали книгу «Перцептроны», где довольно убедительно доказывалось, что перцептроны почти бесполезны. Так оно и есть. Перцептроны способны лишь на линейное различение объектов. Поэтому концепцию фактически забросили. Дескать, эти ребята (Минский с Пейпертом) доказали, что такие нейронные сети не могут делать ничего внятного, значит, вообще никакие нейронные сети ни к чему не пригодны, поэтому давайте забудем о нейронных сетях. Эта позиция господствовала в течение некоторого времени.
Между тем наметилось несколько других подходов к ИИ. Один основывался на символическом, формальном понимании мироустройства, а другой опирался на статистику и вероятности. Что касается символического ИИ, ему дали, например, тестовое задание: возможно ли научить компьютер работать с интегралами и выстраивать исчисления? Были и задачи наподобие машинного перевода, поскольку считалось, что это удачный образчик демонстрации компьютерных возможностей. Увы, к началу 1970-х эти усилия потерпели крах.
