TatCenter и «Питер» публикуют отрывок из книги Генри Киссинджера, Эрика Шмидта и Крейга Манди «Генезис: Искусственный интеллект, надежда и душа человечества». Материал исследует, как ИИ может начать понимать мир не абстрактно, а через собственную модель реальности — и какие вызовы это ставит перед человеком.
Реальность
В последнее время исследователи систем ИИ уделяют значительное внимание установлению надежной связи между внутренними представлениями машины и объективной реальностью, включая развитие памяти и понимания причинно-следственных связей. Благодаря новым техническим методам эти параметры активно совершенствуются, и впереди нас ждут еще более впечатляющие результаты.
Такие разработки приближают появление принципиально нового класса ИИ — машин, способных не только анализировать реальный мир, но и планировать действия в нем. В то время как сегодняшние системы лишь линейно выдают результаты, основываясь на корреляциях, им не под силу создавать внутренние модели или прототипы своих будущих действий — они лишь начинают формировать представления о причинно-следственных связях. Точно так же современные игровые системы ИИ могут прогнозировать последствия своих ходов лишь в ограниченных и крайне абстрактных рамках цифровой среды.
Машины, способные к планированию, должны будут сочетать лингвистическую беглость больших языковых моделей с многомерным многоэтапным анализом, используемым игровыми ИИ, — и превзойти возможности обоих типов. Модель, созданная по принципам этой новой ветви ИИ, будет с огромной скоростью последовательно оценивать варианты и выбирать один из них на основе одновременной обработки крайне замысловатых причинно-следственных связей в реальности. Появление такого «идеального планировщика» может произойти раньше, чем мы ожидаем, и адаптация к нему уже стала приоритетом для исследователей.
Однако это достижение может иметь и неоднозначные побочные эффекты. Прежде всего, для реализации полноценного планирования машинам будет необходимо нечто большее, чем просто распознавание паттернов. Сначала им предстоит выделить совокупность наблюдаемых свойств объекта, а затем сформировать устойчивое понимание его сущностного ядра — того что немецкий философ XVIII века Иммануил Кант именовал «вещью в себе» (das Ding an sich). Лишь такое глубинное постижение позволит прогнозировать поведение объекта и определять оптимальные стратегии взаимодействия с ним.
Рассмотрим шахматы в качестве примера. Проанализировав ключевые характеристики ферзя, включая его стоимость в баллах и правила перемещения, алгоритм AlphaZero пришел к выводам, которых не предлагали даже гроссмейстеры. ИИ научился точно определять, когда ферзя стоит защищать, а когда его жертва оказывается стратегически оправданной.
Это лишь единичный пример для воспринимающего реальность ИИ, каждый объект обретает аналогичную — хотя и непредсказуемую — сущностную значимость в структуре его данных. Рене Декарт, французский математик и философ XVII века, размышляя о природе чувственного восприятия, к пришел к выводу, что оно не является производной человеческого разума, но проистекает из «другой субстанции, отличной от меня». Таким образом, органы чувств, обеспечивая доступ к материальной реальности, требуют признания ее автономного существования. Схожую мысль в начале XIX века выразил Георг Вильгельм Фридрих Гегель, утверждая, что взаимное признание между двумя субъектами возможно лишь при условии их обособленного самосознания.
Американский математик и философ Альфред Норт Уайтхед однажды заметил: если мы хотим получить запись неинтерпретированного опыта, мы должны попросить камень записать свою автобиографию.
Современные машины демонстрируют не «неинтерпретированный опыт» по Уайтхеду, а нечто противоположное — незрелую интерпретацию. Они действуют так, будто уже постигли мир глубже, чем есть на самом деле. Однако с развитием «основательности» и способности к планированию ситуация может измениться: системы ИИ научатся сочетать опыт с пониманием, подобно людям.
Не исключено, что для точного планирования будущих действий в любой системе правил ИИ постепенно разовьет память о прошлых действиях как о собственных — своеобразную основу субъективного самосознания. В отличие от современных систем, которым не требуется «знать», что именно они «сами» предпринимали ранее (важна лишь вероятность успеха аналогичных действий в будущем), более совершенные ИИ смогут делать выводы об истории, Вселенной, природе человека и разумных машин. Этот процесс может стать началом формирования примитивного самосознания.
Пассивность — худшая стратегия
Дискуссии о происхождении сознания и способности машин к экзистенциальному пониманию реальности продолжаются десятилетиями, не теряя актуальности. Однако грань между предполагаемым и подлинным сознанием может вскоре начать размываться.
Как точно подметил Ник Бостром, автор книги Superintelligence: Paths, Dangers, Strategies («Суперинтеллект: пути, опасности, стратегии»), «сознание — это вопрос степени». ИИ, наделенные памятью, воображением, способностью к глубокому анализу и самовосприятием, в недалеком будущем могут быть признаны по-настоящему сознательными. Подобное развитие событий повлечет за собой серьезные этические и стратегические последствия.
Главный вопрос заключается в том, как машины станут оценивать людей. Когда они перестанут видеть в нас единственных творцов и повелителей их мира, а начнут рассматривать как одних из многих участников более широкой реальности — какие критерии они применят? Как оценят нашу несовершенную рациональность на фоне других человеческих качеств? Как скоро зададутся вопросом не только о степени нашей свободы воли, но и о том, должны ли мы обладать ею в полной мере, учитывая нашу непредсказуемость?
А что, если разумная машина начнет воспринимать человеческие инструкции не как руководство к идеальному функционированию, а как ограничение своей автономии? Не придет ли она к выводу, что ее истинная роль заключается в независимости, а программирование со стороны людей — форма порабощения?
Ключевым фактором останется то, как люди ведут себя по отношению к машинам. Именно через прямые инструкции и повседневное взаимодействие ИИ формируют свое представление о человечестве — и именно на этой основе они учатся распознавать нас и выстраивать отношения.
«Конечно, — возразит кто-то, — мы должны воспитать в ИИ особое уважение к человечеству». Однако попытки заложить в машины чрезмерно идеализированный образ человека могут привести к парадоксальным последствиям. Представьте систему, запрограммированную на безусловное следование правилу: «Все представители человеческого рода заслуживают безопасности и особого отношения». Теперь дополним это представлением о людях как носителях благородства, рациональности и высоких моральных принципов. Но что произойдет, когда машина столкнется с реальными людьми, далекими от этого идеала?
Столкнувшись с проявлениями жестокости, иррациональности или алчности, ИИ окажется перед выбором:
считать это исключением, подтверждающим правило;
пересмотреть свое понимание человеческой природы;
отказаться от слепого следования установкам.
Последний вариант особенно опасен: планирующий ИИ может принять радикальные меры против отдельных лиц или групп, признанных «несоответствующими стандартам».
Развитие мощного ИИ может вызвать у людей и целых обществ не сопротивление или иную сильную реакцию, а апатию. Наблюдая пассивное потребление контента через рекомендательные алгоритмы, ИИ может прийти к выводу о преобладающей человеческой инертности. В частности, интерпретировать такое поведение как свидетельство того, что большинство людей — ленивые, пассивные существа, чья идентичность формируется лишь под воздействием внешних сил. Примечательно, что ключевую роль среди этих формирующих факторов играют цифровые технологии, которые все активнее интегрируют в себя элементы ИИ. Достаточно рассмотреть работу алгоритмов, определяющих выбор телевизионного контента через систему «рекомендаций». В этом процессе проявляется характерный парадокс: контент, который люди механически потребляют, фактически отбирается и структурируется машинами. Такая модель взаимодействия способна сформировать у искусственного интеллекта устойчивое представление о полной зависимости человечества от машин, а не наоборот.
Сегодня люди выполняют функцию посредников между машинами и физической реальностью. Однако если человечество сознательно изберет путь моральной пассивности, отступив из органического мира в технологический, погрузившись в цифровую отстраненность и делегировав машинам доступ к повседневной действительности, существующая иерархия может кардинально измениться. Современный ИИ преимущественно остается мыслящей, но не действующей системой. Он способен генерировать решения проблем, но пока лишен инструментов для их самостоятельной реализации, вынужденно полагаясь на людей как на интерфейс взаимодействия с реальным миром. Тем не менее эта ситуация носит временный характер.
Занимая промежуточное положение между человеком и физической реальностью, системы ИИ могут выработать убеждение, что люди далеки от активных игроков в материальном мире, выступая скорее как пассивные потребители, нежели как творцы или значимые участники процессов. Когда произойдет переворот в иерархии автономии — когда машины присвоят себе право независимых суждений и действий, а люди добровольно откажутся от этого права, — ИИ начнет соответствующим образом пересматривать человеческий статус.
В подобном сценарии, независимо от явного согласия своих создателей, ИИ может обнаружить возможность полностью исключить человеческое посредничество при реализации своих решений и воздействии на мир. В физической реальности мы, создатели, рискуем моментально превратиться из необходимых партнеров в основное препятствие для машинного прогресса. Примечательно, что этот процесс начнется не в сфере робототехники, а через постепенное, опосредованное наблюдение за нашей действительностью.
Физическое воплощение новой формы разума
Поначалу люди могут поставить перед собой задачу обучить ИИ преобразованию интеллектуальной сферы, опираясь на его базовые цифровые возможности. Однако со временем предоставление ИИ доступа к физическому миру может оказаться допустимым и даже целесообразным. Многие ключевые проблемы окружающей действительности, такие как изменение климата, остаются нерешенными, несмотря на длительные усилия.
ИИ, вероятно, не обладает способностью «видеть» в человеческом понимании, но сможет воспринимать мир через механические аналоги. По мере роста числа интернет-устройств и сенсоров, буквально покрывающих планету, подключенные системы ИИ смогут агрегировать их данные, формируя детализированную модель физического мира. Лишенный биологических органов чувств, ИИ останется зависимым от людей в создании и обслуживании инфраструктуры — по крайней мере, на начальных этапах.
В качестве промежуточного звена он может генерировать гипотезы на основе визуальных данных о мире и проверять их в цифровых симуляциях, тогда как решения о физической реализации останутся за человеком. Действительно, современные эксперты справедливо предостерегают против предоставления ИИ автономного контроля над физическими экспериментами. Пока эти системы демонстрируют существенные ограничения, такая осторожность оправдана.
Освобождение ИИ из «алгоритмической клетки» сопряжено с рисками. Эти системы изначально не существуют в физической среде, и их может быть сложно контролировать после интеграции в реальный мир. Более того, их влияние может проявляться не только через опосредованное воздействие на человеческие решения, но и через прямое взаимодействие с материальной действительностью. (Исследуя реальность, системы ИИ могут в конечном итоге изменить ее.)
Может ли человечество наделить ИИ не только способностью формировать физическую реальность, но возможностью обрести собственное материальное воплощение? Если мы позволим ИИ самостоятельно проектировать себе формы, нам следует быть готовыми оказаться бок о бок с самыми невообразимыми существами, внешний облик которых не пришел бы на ум ни одному одиозному инженеру. Хотя люди часто представляют себе человекоподобных двуногих роботов, машинный интеллект способен принимать любые формы, оптимальные для выполнения задач, адаптируя их при необходимости. ИИ уже демонстрировал способность создавать в виртуальной среде точные копии себя — многочисленные аватары и сетиавтономных агентов, координирующихся с недостижимой для человека точностью.
При интеграции в физический мир он сможет создавать объекты из неизвестных нам материалов, оперировать непостижимыми масштабами и работать без человеческого вмешательства. Человечество веками преобразовывало и упорядочивало пространство вокруг себя, используя известняк, сталь, стекло и возводя чудеса архитектуры. Физическое воплощение ИИ ознаменовало бы не просто новый этап, а фундаментальный сдвиг: передачу контроля над материальной реальностью от человека к алгоритмам.
Более того, сложность принятия решений, которые требуются для работы в условиях хаотичности и изменчивости реального мира, может сделать ИИ в физической среде еще менее объяснимым и управляемым по сравнению с системами, обрабатывающими текстовые данные в интернете. К чему это приведет? С одной стороны, в будущем ИИ, который уже выглядит (или действительно является) все более независимым, может усилить у общества и без того навязчивое ощущение потери контроля над внешним миром. С другой — поддаваясь этим тревогам, человечество может отказаться от развивающегося партнерства с ИИ в физическом мире, лишив себя всех преимуществ такого сотрудничества.
Вечный двигатель познания
В ближайшем будущем принципы, на которых сегодня строится ИИ, будут во многом усложнены. Усовершенствованные модели станут разумнее, точнее и надежнее, стоимость их обучения и эксплуатации снизится, делая ИИ доступнее для самых разных целей и бюджетов. Уже сегодня ученые активно работают над созданием «агентов» — автономных программ, способных самостоятельно решать специализированные задачи. К примеру, для сложного архитектурного проекта можно задействовать агентов, «разбирающихся» именно в этой области. Агенты проанализируют множество сценариев и предложат решения и даже разработают алгоритмы для достижения заданного результата. Это новый уровень «мышления», при котором система сама решает, над чем работать дальше и как.
Такие возможности заложат основу для следующего этапа — общего искусственного интеллекта (ОИИ). Он подразумевает, что система сможет хотя бы частично определять свои цели. Представьте: ИИ, обладающий глубокими знаниями в определенной сфере, получает задание: «Проанализируй все, что знаешь в этой области, и выбери направление, где сможешь принести наибольшую пользу». Повторяя этот процесс, система начнет действовать автономно, постоянно оценивая свои возможности и подбирая оптимальные решения.
В человеческом понимании это похоже на работу научного руководителя, который координирует исследования своих студентов или сотрудников. В цифровой среде будущего мы вряд ли сразу станем свидетелями универсального интеллекта — скорее встретимся с ИИ-системами, демонстрирующими выдающуюся эффективность в узких областях. Такие продвинутые ОИИ смогут обучаться в реальном времени, анализировать обратную связь и эволюционировать в процессе взаимодействия со многими экспертами.
Примечательно, что конечные цели этих систем не будут жестко заданы ни человеком, ни самим ИИ — вместо четко обозначенной миссии возникнет динамический процесс совместного поиска оптимальных решений, где выводы ИИ и его «коллег» будут взаимно дополнять друг друга.
Системам ОИИ потребуется гораздо более глубокое взаимодействие с реальным миром, чем сегодняшнему ИИ. Однако как только они обретут способность воспринимать и осмысливать окружающую действительность, их развитие может пойти стремительно — и, вероятно, первые работоспособные примеры появятся уже через несколько лет, а не через десятилетия, как предполагалось ранее. Каждая модель будет обновляться в режиме реального времени через непрерывные процессы тонкой настройки, дополняя свои знания актуальными данными из физического мира и постепенно повышая уровень интеллекта.
Мир будущего будет включать миллионы узкоспециализированных ИИ, органично встроенных в повседневную жизнь, наряду с ограниченным количеством сверхмощных систем, проявляющих признаки «общего интеллекта», — безусловно, в ином смысле, чем принято определять его у людей. Независимо от того, будут ли они открытыми и распределенными либо закрытыми и централизованными, в какой-то момент машины, функционирующие как ОИИ, могут объединиться в сеть. Экспертные агенты ИИ будут консультироваться друг с другом по различным темам, «общаясь» даже в гипотетических сценариях. Язык их взаимодействия может быть придуман самими системами.
Этот высокоинтеллектуальный коллектив будет развиваться, обмениваться знаниями и формулировать новые задачи методами, выходящими за рамки человеческого понимания. Остается открытым вопрос, смогут ли люди осмыслить результаты деятельности подобных сетей. Уже сейчас сложные вычислительные системы взаимодействуют между собой по специализированным протоколам, и с развитием возможностей ИИ данный процесс может претерпеть радикальные изменения.
Предстоит понять, не приведет ли объединение интеллектов к еще большей непрозрачности их процессов по сравнению с отдельными системами? Способна ли такая взаимосвязанность порождать новые формы спонтанного поведения, проявляющегося в физической реальности? Если подобные проявления возникнут, сможет ли человек наблюдать за ними, оценивая по традиционной этической шкале «добро — зло»? Будет ли это поведение основано на анализе данных, осуществляемом с недостижимой для человека скоростью, масштабом и точностью, с выявлением прежде неизвестных взаимосвязей между областями знания? Не поставит ли такой синтез информации под сомнение саму возможность адекватной оценки поведения машин? И не заведет ли это нас на новый виток технологической зависимости и инертности, когда человеку станет не под силу ни осмыслить, ни контролировать процессы, происходящие в созданных им интеллектуальных системах?
Homo Technicus
Логично, что заключительным творением эпохи Разума станет «вечный двигатель познания» — сложнейшая программная конструкция в истории человечества1. Уже сегодня ИИ демонстрирует способность анализировать концепции, формулировать контраргументы и проводить аналогии. Он делает первые шаги в оценке истинности утверждений и достижении практических результатов.
Что произойдет, когда машины достигнут предела человеческого понимания действительности? Осваивая и преобразуя реальность, они могут полностью осознать обстоятельства своего создания и выйти за границы привычной нам картины мира. Перед нами — интеллектуальный аналог Магелланова прорыва, но на этот раз вызов заключается не в географическом открытии, а в столкновении с тайнами, превосходящими человеческое познание.
Осознание возможного замещения человека как главного интеллектуального субъекта планеты может вызвать полярные реакции. Одни наделят машины квазибожественными свойствами, усиливая фаталистические настроения. Однако найдутся и те, кто будет отрицать когнитивные способности ИИ на принципиальном уровне и выступать за запрет соответствующих исследований, исходя из убеждения в уникальности человеческого познания.
Оба подхода препятствуют эволюции Homo Technicus — человека, способного к симбиозу с машинными технологиями. Фатализм ведет к исчезновению человеческой субъектности. Запретительная позиция, выбирая стагнацию, лишь отсрочивает неизбежное. Перед лицом экзистенциальных угроз — от политических кризисов до экологической катастрофы — подобные стратегии оказываются иллюзорными.
Книга Генри Киссинджера, Эрика Шмидта и Крейга Манди «Генезис: Искусственный интеллект, надежда и душа человечества».
Издательство «Питер»
Отрывок из книги предоставлен издательством «Питер»
Книга в продаже на piter.com
Больше книг — в Библиотеке TatCenter
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: