Kевин Келли — автор книг и журналист. Он изучает влияние новых технологий на общество, экономику и культуру. Этим темам посвящен журнал Wired, который Келли основал в девяностых. В своей последней книге «Неизбежно» Келли анализирует 12 технологических трендов, которые будут определять ближайшие десятилетия.
В диспуте о возможных последствиях развития искусственного интеллекта Келли выступает на стороне оптимистов — он считает, что умные машины будут нашими помощниками, а не конкурентами.

Статья «Миф о сверхчеловеческом искусственном интеллекте» вышла в журнале Wired. Мы перевели ее и публикуем в сокращенном варианте.

Умные машины будут нашими помощниками, а не конкурентами

«Я слышал, что в будущем искусственный интеллект станет настолько разумным и могущественным, что отберет у человечества все рабочие места и все ресурсы, и люди вымрут. Правда ли это!?» — этот вопрос я слышу каждый раз, как я выступаю на тему искусственного интеллекта. Спрашивающие не шутят, а всерьез волнуются, отчасти потому, что некоторые эксперты мучаются тем же самым вопросом. Среди них Илон Маск и Билл Гейтс. Стивен Хокинг также считал, что такой сценарий возможен. Но идея господства ИИ над человечеством основана на пяти предположениях, которые не подтверждены никакими данными. Возможно, в будущем, такие данные появятся, но пока их нет. Вот эти пять предположений:

  • ИИ уже превосходит человека по уровню интеллекта
  • Мы сделаем системы искусственного интеллекта разумами универсального назначения. Наш собственный разум также имеет универсальное назначение.
  • Мы можем сделать силиконовую копию человеческого разума.
  • Интеллект можно развивать до бесконечности.
  • Как только в нашем распоряжении будет суперинтеллект, мы тут же решим все наши проблемы.

Вопреки большинству, я считаю, что имеющиеся данные скорее подтверждают следующие «еретические» предположения:

  • Наш интеллект состоит из набора различных типов мышления. В некоторых из них умные машины превосходит нас. Тем не менее, есть задачи, которые под силу трехлетнему ребенку, но не искусственному интеллекту. Поэтому фраза «искусственный интеллект превосходит человеческий» неверна и плохо сформулирована.
  • Человеческий разум не является интеллектом универсального назначения. Системы искусственного интеллекта, которые мы создадим, тоже не будут иметь универсального назначения, каждая из них будет специализироваться на определенном наборе задач.
  • Перенос человеческого мышления на другие носители будет ограничен стоимостью.
  • Интеллект нельзя развивать до бесконечности.
  • Интеллект — это лишь один из факторов прогресса.
Реклама
bbi summit

Если ожидание захвата планеты системами сверхчеловеческого ИИ основано на 5 ключевых предположениях, не имеющих эмпирического подтверждения, то эта идея похожа на религиозную веру, миф. В следующих разделах этой статьи я объясню, почему мои аргументы против «сверхчеловеческого интеллекта» представляются мне верными.

1. Интеллект состоит из множества типов мышления. «Умнее, чем люди» — бессмысленная идея.

Самое распространенное заблуждение об искусственном интеллекте начинается с заблуждения о естественном интеллекте. Вот оно: интеллект имеет лишь одно измерение.

Большинство людей технического склада ума представляют себе интеллект так же, как Ник Бостром в своей книге «Сверхинтеллект» — как буквальный, одномерный линейный график усиливающейся мощности:

© Nick Bostorm

На шкале слева направо: мышь, шимпанзе, дурак из деревни, Эйнштейн и рекурсивно самосовершенствующийся искусственный интеллект. 

С одного конца интеллект маленького животного, с другого — интеллект гения. Как если бы интеллект был чем-то вроде уровня громкости в децибелах. Конечно, в таком случае запросто можно представить себе, как «громкость» искусственного интеллекта продолжает возрастать, в какой-то момент превосходит наш собственный разум и даже не умещается на графике.

Топологически эта модель схожа с лестницей: каждый следующий ранг интеллекта стоит на ступеньку выше предыдущего. Животные ниже нас рангом, а наиболее развитые системы искусственного интеллекта неизбежно обгонят нас и займут более высокие ранги. Сроки тут не имеют значения, самое главное — это ранги, метрика повышения интеллекта.

Но лестницы интеллекта нет. Интеллект не представляет собой одно измерение. Это комплекс из многих типов мышления, и каждый из них представляет собой отдельную шкалу.

© Kevin Kelly

Интеллекты животных, людей и машин представлены как наборы типов мышления, каждый из которых имеют свою шкалу развитости.

Самое главное заблуждение об интеллекте — это то, что его можно измерить по одной шкале

Возьмем, к примеру, простую задачу измерения интеллекта животных. Если бы речь шла об одномерной характеристике, мы могли бы расположить на шкале в порядке возрастания интеллекта попугая, дельфина, лошадь, белку, осьминога, кита, кошку и гориллу. Но на данный момент не существует научных данных, доказывающих, что такой порядок возрастания интеллекта существует. Возможно, интеллектуальные способности этих животных не отличаются? Но и это не так. Зоология наполнена замечательными примерами того, насколько по-разному мыслят животные.

Быть может, у всех животных есть один и тот же «общий интеллект»? Возможно, но у нас нет никакого способа, никакой единой метрики, чтобы измерить такой интеллект. Вместо этого, у нас много разных метрик для измерения разных типов мышления.

Вместо одной линии возрастания децибелов, более точная модель интеллекта — это схема пространства возможностей, наподобие приведенной ниже схеме возможных форм, сгенерированных алгоритмом Ричарда Доукинса.

Каждый отдельный интеллект складывается из множества типов мышления, и у каждого из этих типов своя шкала. Некоторые интеллекты могут быть очень сложными, с множеством компонентов. Другие могут быть проще, но при этом содержать в себе какой-нибудь один радикально развитый компонент. Интеллекты — это комплексы наподобие оркестров, состоящих из разных групп инструментов — струнные, ударные, духовые и так далее.

Изображение сгенерировано с помощью EMERGENT MIND

Они различаются не только громкостью, но и частотой звука, тембром и характером партии. Давайте думать о них как об экосистеме. И в этом смысле, составные компоненты мышления взаимосвязаны.

Человеческий разум представляет собой сообщества умов, как сказал Марвин Мински. Наша жизнь основана на экосистемах мышления. В них — множество разновидностей мышления, и они выполняют различные операции: дедукция, индукция, символическое мышление, эмоциональный интеллект, пространственная логика, краткосрочная и долгосрочная память. Вся наша нервная система — тоже своего рода мозг со своим режимом мышления. На самом деле, мы мыслим не только нашим мозгом, а всем телом.

Наборы типов мышления различаются от индивидуума к индивидууму и от вида к виду. Белка может помнить точное расположение нескольких тысяч желудей в течение нескольких лет — достижение, поразительное для человеческого разума. То есть, в этом типе мышления, белки превосходят людей. Эта сверхспособность у белок идет в комплекте с другими способностями, которые развиты намного меньше, чем у нас. В мире животных есть много других узкоспециальных типов мышления, которые намного превосходят возможности человеческого разума в этих областях. И эти высокоразвитые способности тоже встроены в комплексные системы.

Точно так же и с искусственным интеллектом. Некоторые типы ИИ уже превосходят людей в некоторых измерениях. Ваш калькулятор — гений в арифметике, память Google намного превосходит нашу. Мы создаем системы искусственного интеллекта для того, чтобы они блистали в определенных типах мышления. Некоторые из этих режимов выполняют операции, которые мы можем делать сами, но не так хорошо. Например, расчет вероятности или арифметика. Другие типы мышления нам недоступны вовсе. Мы не можем запомнить каждое слово на шести миллиардах страниц, но это достижение под силу любой поисковой системе.

В будущем, мы изобретем совершенно новые типы мышления, которые не встречаются ни в человеческом мышлении, ни у каких-либо других организмов на земле. Когда мы изобрели летательные аппараты, мы вдохновлялись маханием крыльев. Но механизм полета, который мы в итоге изобрели — вращающиеся пропеллеры, прикрепленные к широкому крылу — не встречается среди живых существ. Это инновация, «чужеродный» полет.

Похожим образом мы изобретем совершенно новые режимы мышления, которых нет в природе. Во многих случаях они будут узкоспециальными, «малыми» режимами для решения конкретных задач — например, типы рассуждений, которые будут использоваться только в статистике и расчете вероятности.

Некоторые из самых сложных задач бизнеса и науки могут потребовать решения из двух шагов:

Шаг 1: изобрести новый способ мышления, который будет работать в сочетании с нашим разумом.

Шаг 2: использовать полученную комбинацию человеческого и искусственного интеллекта для решения проблемы.

Мы считаем, что искусственный интеллект «умнее» нас просто потому, что мы можем с его помощью решить задачи, которые были нам раньше не под силу. Но на самом деле ИИ не «умнее» нас, а просто отличается от нас

Основные преимущества искусственного интеллекта — это различия в способе мышления. На мой взгляд, об ИИ следует думать как о чужеродных интеллектах, своего рода искусственных пришельцах. Их чужеродность будет их главной ценностью для нас.

В то же время, мы объединим некоторые из этих режимов мышления в сложные комплексы — «сообщества разумов». Поскольку они смогут решать проблемы, которые нам не под силу, кто-нибудь обязательно назовет их «сверхчеловеческими».

Но мы ведь не называем Google сверхчеловеческим интеллектом. Хотя его память и превосходит нашу, есть много вещей, которые мы делаем лучше, чем Google. Комплексные системы искусственного интеллекта превзойдут нас во многих отношениях, но ни одна из них не будет делать лучше сразу все, что делаем мы.

Эту ситуацию можно сравнить с физической силой человека. Индустриальной революции уже 200 лет. Машины как класс превосходят отдельного человека с точки зрения физических достижений: скорость передвижения, способность поднимать тяжести, точность разрезания и так далее. Но нет ни одной машины, которая превосходит человека во всех типах физических действий сразу.

2. Человеческий разум не является интеллектом универсального назначения.

Второе заблуждение — это идея о том, что человеческий разум имеет универсальное предназначение. Из-за популярности этой идеи исследователи ИИ часто заявляют, что собираются создать «универсальный искусственный интеллект». Однако, если мы рассматриваем интеллект как пространство возможностей, никакого «универсального» положения в нем не существует.

В пространстве всех возможных разумов, разум человеческого типа окажется в каком-нибудь углу, точно так же, как наша планета находится в углу огромной галактики.

Человеческий разум не занимает в этом пространстве некую центральную позицию с другими, специализированными разумами по бокам. Скорее, человеческий разум — это очень узкоспециализированный тип интеллекта, который эволюционировал в течение многих миллионов лет, чтобы выполнять конкретную задачу: помогать нам выжить на этой планете. В пространстве всех возможных разумов, разум человеческого типа окажется в каком-нибудь углу, точно так же, как наша планета находится в углу огромной галактики.

Конечно, можно представить себе разум наподобие швейцарского армейского ножа: такой разум будет неплохо решать много разных задач, но не будет особенно хорош ни в одной из этих функций.

Невозможно оптимизировать все сразу

Системы искусственного интеллекта будут следовать той же инженерной максиме, что и все вещи и существа: невозможно оптимизировать все функции сразу. Один большой разум, который умеет «все», не сможет решать отдельные задачи лучше, чем узкоспециализированные системы ИИ.

3. Перенос человеческого мышления на другие платформы будет ограничен стоимостью.

Возможно ли создать копию человеческого разума на искусственном носителе? Давая утвердительный ответ, специалисты отталкиваются от тезиса Чёрча-Тьюринга. В самом простом виде этот тезис звучит так: если вычислительной системе доступны бесконечное время и бесконечная память, она может произвести любое вычисление. Проблема в том, что в реальности ни одному компьютеру не доступны бесконечная память и время. В реальном мире, время — это ключевой фактор. Да, любое мышление эквивалентно, если проигнорировать время. Да, создать копию человеческого разума можно на любой вычислительной системе, если только не обращать внимание на существующие ограничения по времени и объему памяти. Но если учитывать фактор времени, тезис следует переформулировать следующим образом: две вычислительные системы, оперирующие на совершенно разных платформах, не будут в реальном времени выдавать одинаковые результаты. Иначе говоря, единственный способ иметь две эквивалентные вычислительные системы — это запустить их на эквивалентных носителях. Физическая материя в основе вычислительной системы — особенно с увеличением сложности системы — во многом определяет тип мышления, который может быть хорошо выполнен этой системой в реальном времени.

Я готов утверждать, что единственный способ получить мыслительный процесс, максимально близкий человеческому — это запустить вычислительные процессы на «влажной ткани», максимально приближенной к человеческой. Большие и сложные системы искусственного интеллекта, запущенные на сухом силиконе, дадут нам большой и сложный разум, далекий от человеческого.

Допустим, мы ставим цель — создать копию человеческого разума. Нам придется создать «мокрую» ткань, приближенную к человеческому телу. Чем ближе искусственная ткань к человеческой, тем дороже будет ее изготовление и тем выгоднее будет попросту сделать человека. Это у нас и так уже отлично получается всего за 9 месяцев.

Разум, работающий на сухом силиконе вместо мокрого углерода, будет мыслить по-другому. Но я не считаю это проблемой — скорее, в этом-то и цель: умение мыслить иначе — главная ценность искусственного интеллекта. Говорить же, что ИИ «умнее человека» — неверно.

4. Интеллект невозможно развивать до бесконечности.

В основе идеи сверхчеловеческого интеллекта, который постоянно самосовершенствуется, лежит убеждение в том, что шкала интеллекта не имеет предела. Это особенно просто себе представить, если думать об интеллекте, как об одном измерении. Но я не вижу оснований для того, чтобы считать интеллект величиной, не имеющей предела. Нет никакой другой известной науке физической величины, которая не имела бы предела. Температура не бесконечна: есть минимальная и максимальная температуры. Пространство и время предельны. Скорость предельна. Разумно предположить, что и интеллект имеет предел.

Вместо того, чтобы думать об интеллекте, как о бесконечной величине, лучше думать о нашем собственном разуме как об одном из миллионов возможных разумов. Каждый из типов мышления имеет предел. Из сотен таких типов можно получить бесконечные разновидности разума, но ни один из них не будет бесконечным ни по какому измерению.

5. «Сверхинтеллект» не решит все наши проблемы.

Вот еще один миф, который люди слишком редко подвергают сомнению: сверхинтеллект будет способен решить все наши проблемы.

Многие из тех, кто ожидает прорыв в области искусственного интеллекта, ожидают еще и небывалый прогресс в целом в качестве следствия. Веру в этот миф я называю «thinkism» — «мыслизм».

Вот в чем ошибка «мыслизма»: чтобы перейти от незнания к знанию нужно куда больше, чем просто размышления. Огромное количество экспериментов, проведенных в реальном мире, дает нам море противоречивых данных и требует проведения дальнейших экспериментов, чтобы сформулировать правильные рабочие гипотезы.

Мысль и интеллект — это только часть науки, возможно, даже малая часть

 Возьмем, к примеру, поиск решений для проблемы смерти. Изучение живых организмов занимает существенное время: медленный метаболизм клетки нельзя ускорить. На получение результатов уходят недели, месяцы и годы.

Конечно, искусственный интеллект ускоряет научный процесс. Мы можем создавать компьютерные симуляции и модели атомов и клеток. Но важно помнить: симуляции и модели могут быть быстрее, чем сами моделируемые явления, только когда мы игнорируем какие-либо аспекты и упрощаем реальность. Такова природа симуляций.

Тестирование этих моделей занимает долгое время, если они соответствуют изучаемым явлениям по сложности.

Системы искусственного интеллекта должны быть встроены в мир, и этот мир определяет возможную скорость инноваций. Без проведения экспериментов, построения прототипов, без провалов и без вовлечения в реальный мир, разум может получить мысли, но никак не результаты.

В заключение скажу, что я могу ошибаться в моих утверждениях. Все только начинается. Возможно, мы откроем универсальную метрику интеллекта и выясним, что интеллект не имеет пределов. Поскольку мы знаем так мало об интеллекте (не говоря уже о сознании), возможность выхода искусственного интеллекта из-под нашего контроля больше нуля. Но, на мой взгляд, данные указывают на то, что это маловероятно.

Перевод Сергея Балашова

Об эксперте

Кевин Келли — сооснователь культового журнала Wired. Автор термина «сетевая экономика». Ведущий визионер цифровых технологий. Его выступление на TED собрало 5 млн просмотров. Помогал Стивену Спилбергу в работе над фильмом «Особое мнение».

Хотите получать новости?

Подписывайтесь на нашу рассылку