Совместимость. Как контролировать искусственный интеллект

Совместимость. Как контролировать искусственный интеллект

В массовом сознании сверхчеловеческий искусственный интеллект – технологическое цунами, угрожающее не только экономике и человеческим отношениям, но и самой цивилизации. Конфликт между людьми и машинами видится неотвратимым, а его исход предопределенным. Выдающийся исследователь ИИ Стюарт Рассел утверждает, что этого сценария можно избежать. В своей новаторской книге автор рассказывает, каким образом люди уже научились использовать ИИ, в диапазоне от смертельного автономного оружия до манипуляций нашими предпочтениями, и чему еще смогут его научить. Если это случится и появится сверхчеловеческий ИИ, мы столкнемся с сущностью, намного более могущественной, чем мы сами. Как гарантировать, что человек не окажется в подчинении у сверхинтеллекта? Для этого, полагает Рассел, искусственный интеллект должен строиться на новых принципах. Машины должны быть скромными и альтруистичными и решать наши задачи, а не свои собственные. О том, что это за принципы и как их реализовать, читатель узнает из этой книги, которую самые авторитетные издания в мире назвали главной книгой об искусственном интеллекте. Все, что может предложить цивилизация, является продуктом нашего интеллекта; обретение доступа к существенно превосходящим интеллектуальным возможностям стало бы величайшим событием в истории. Цель этой книги – объяснить, почему оно может стать последним событием цивилизации и как нам исключить такой исход. Введение понятия полезности – невидимого свойства – для объяснения человеческого поведения посредством математической теории было потрясающим для своего времени. Тем более что, в отличие от денежных сумм, ценность разных ставок и призов с точки зрения полезности недоступна для прямого наблюдения. Первыми, кто действительно выиграет от появления роботов в доме, станут престарелые и немощные, которым полезный робот может обеспечить определенную степень независимости, недостижимую иными средствами. Даже если робот выполняет ограниченный круг заданий и имеет лишь зачаточное понимание происходящего, он может быть очень полезным. Очевидно, действия лояльных машин должны будут ограничиваться правилами и запретами, как действия людей ограничиваются законами и социальными нормами. Некоторые специалисты предлагают в качестве решения безусловную ответственность.

Жанры: Научно-популярная литература, Зарубежная публицистика
Цикл: Не является частью цикла
Год публикации: 2021

Читать онлайн Совместимость. Как контролировать искусственный интеллект


Переводчик Наталья Колпакова

Научный редактор Борис Миркин, д-р техн. наук

Редактор Антон Никольский

Издатель П. Подкосов

Руководитель проекта И. Серёгина

Корректоры И. Астапкина, М. Миловидова

Компьютерная верстка А. Фоминов

Дизайн обложки Ю. Буга


Фото на обложке Shutterstock


© Stuart Russell, 2019

All rights reserved.

© Издание на русском языке, перевод, оформление. ООО «Альпина нон-фикшн», 2021


Рассел С.

Совместимость. Как контролировать искусственный интеллект / Тони Салдана; Стюарт Рассел; Пер. с англ. – М.: Альпина нон-фикшн, 2021.

ISBN 978-5-0013-9370-2


Все права защищены. Данная электронная книга предназначена исключительно для частного использования в личных (некоммерческих) целях. Электронная книга, ее части, фрагменты и элементы, включая текст, изображения и иное, не подлежат копированию и любому другому использованию без разрешения правообладателя. В частности, запрещено такое использование, в результате которого электронная книга, ее часть, фрагмент или элемент станут доступными ограниченному или неопределенному кругу лиц, в том числе посредством сети интернет, независимо от того, будет предоставляться доступ за плату или безвозмездно.

Копирование, воспроизведение и иное использование электронной книги, ее частей, фрагментов и элементов, выходящее за пределы частного использования в личных (некоммерческих) целях, без согласия правообладателя является незаконным и влечет уголовную, административную и гражданскую ответственность.

Посвящается

Лой, Гордону, Люси, Джорджу и Айзеку


Эта книга издана в рамках программы «Книжные проекты Дмитрия Зимина» и продолжает серию «Библиотека «Династия». Дмитрий Борисович Зимин – основатель компании «Вымпелком» (Beeline), фонда некоммерческих программ «Династия» и фонда «Московское время». Программа «Книжные проекты Дмитрия Зимина» объединяет три проекта, хорошо знакомые читательской аудитории: издание научно-популярных переводных книг «Библиотека «Династия», издательское направление фонда «Московское время» и премию в области русскоязычной научно-популярной литературы «Просветитель». Подробную информацию о «Книжных проектах Дмитрия Зимина» вы найдете на сайте ziminbookprojects.ru.

Предисловие

Зачем эта книга? Почему именно сейчас?

Это книга о прошлом, настоящем и будущем нашего осмысления понятия «искусственный интеллект» (ИИ) и о попытках его создания. Эта тема важна не потому, что ИИ быстро становится обычным явлением в настоящем, а потому, что это господствующая технология будущего. Могущественные государства начинают осознавать этот факт, уже некоторое время известный крупнейшим мировым корпорациям. Мы не можем с точностью предсказать, как быстро будет развиваться технология и по какому пути она пойдет. Тем не менее мы должны строить планы, исходя из возможности того, что машины далеко обойдут человека в способности принятия решений в реальном мире. Что тогда?

Все, что может предложить цивилизация, является продуктом нашего интеллекта; обретение доступа к существенно превосходящим интеллектуальным возможностям стало бы величайшим событием в истории. Цель этой книги – объяснить, почему оно может стать последним событием цивилизации и как нам исключить такой исход.

Общий план книги

Книга состоит из трех частей. Первая часть (главы с первой по третью) исследует понятие интеллекта, человеческого и машинного. Материал не требует специальных знаний, но для интересующихся дополнен четырьмя приложениями, в которых объясняются базовые концепции, лежащие в основе сегодняшних систем ИИ. Во второй части (главы с четвертой по шестую) рассматривается ряд проблем, вытекающих из наделения машин интеллектом. Я уделяю особое внимание контролю – сохранению абсолютной власти над машинами, возможности которых превосходят наши. Третья часть (главы с седьмой по десятую) предлагает новое понимание ИИ, предполагающее, что машины всегда будут служить на благо человечеству. Книга адресована широкому кругу читателей, но, надеюсь, пригодится и специалистам по ИИ, заставив их пересмотреть свои базовые предпосылки.


Вам будет интересно
Тайсон Фьюри – один из самых популярных бойцов в мире. Все любители бокса следили за его эпатажными пресс-конференциями, пожалуй, с не меньшим интересом, чем за боями. До сих пор не побежденный, излучающий уверенность в себе, Тайсон Фьюри любит заводить зрителей на ринге и никогда не отказывает себе в удовольствии разозлить противника не только точным ударом, но и словом.Знаменитый боксер, не теряя свойственного ему чувства юмора, расскажет об изнанке спорта и шоу-бизнеса. Эта книга – откровенно...
Читать онлайн
В 1917 году, когда Герман Роршах работал в лечебнице в тихом швейцарском городке, он выдумал эксперимент, чтобы испытать человеческий ум: набор карточек с чернильными пятнами тщательно продуманной формы. Много лет он боролся с теориями Фрейда и Юнга, одновременно впитывая эстетические веяния эпохи – футуризм и дадаизм. Будучи наделенным даром художника, Роршах пришел к выводу, что наша суть – это в меньшей степени то, что мы говорим, как думал Фрейд, а в большей – то, что мы видим. Увы, Роршах с...
Читать онлайн
Джон Дэвисон Рокфеллер-старший, знаменитый американский предприниматель, филантроп, первый долларовый миллиардер в истории человечества. До сих пор он остается богатейшим человеком в мире. Однако его жизнь была в исключительной степени полна безмолвия, таинственности и недосказанности. Хотя он возглавлял крупнейшие коммерческие и благотворительные предприятия своего времени, о его личности известно мало. Он мастерски менял обличия и жил, окутанный слоями легенд и прикрываясь многочисленными маск...
Читать онлайн
«Campo santo», посмертный сборник В.Г. Зебальда, объединяет все, что не вошло в другие книги писателя, – фрагменты прозы о Корсике, газетные заметки, тексты выступлений, ранние редакции знаменитых эссе. Их общие темы – устройство памяти и забвения, наши личные отношения с прошлым поверх «больших» исторических нарративов и способы сопротивления небытию, которые предоставляет человеку культура....
Читать онлайн
В этом томе мемуаров «Годы в Белом доме» Генри Киссинджер рассказывает о своей деятельности на посту советника по национальной безопасности президента США Ричарда Никсона, о прорыве в отношениях с Китаем, о новой странице в отношениях с Советским Союзом и о трудных переговорах по завершению Вьетнамской войны....
Читать онлайн
Более столетия газеты единодушно заявляли, что Джек-потрошитель охотился на проституток. Историк Хэлли Рубенхолд обнаружила, что это не соответствует действительности, и решила рассказать реальные истории женщин, погибших от его руки. В ее безжалостном повествовании перед читателем предстает мир не только Диккенса и королевы Виктории, но и нищеты, бездомности и безудержного женоненавистничества. В основе этой книги – пять поразительных человеческих историй и мрачный, волнующий портрет викторианс...
Читать онлайн
«Особое чувство собственного ирландства» – сборник лиричных и остроумных эссе о Дублине и горожанах вообще, национальном ирландском характере и человеческих нравах в принципе, о споре традиций и нового. Его автор Пат Инголдзби – великий дублинский романтик ХХ века, поэт, драматург, а в прошлом – еще и звезда ирландского телевидения, любимец детей. Эта ироничная и пронизанная ностальгией книга доставит вам истинное удовольствие....
Читать онлайн
Харуки Мураками верен себе. Он делает то, что ему нравится, и так, как он считает это делать нужно.«Вот и эти беседы – это интересное переживание. Наш разговор не был интервью в общепринятом смысле. Не был он и пресловутой беседой двух знаменитостей. Мне хотелось – а вернее, неудержимо захотелось в ходе разговора – беседовать в естественном ритме сердца. …Главное – что по мере того, как в беседе раскрывался маэстро Одзава, в унисон открывался я сам».В итоге оказалось, что это два единомышленника...
Читать онлайн
Книга о любви к музыке и столице хип-хопа Этой страны – Новой Атланте. Все имена изменены, любые совпадения с реальными людьми и персонажами случайны.Содержит нецензурную брань....
Читать онлайн
Я просто хотела съездить к подруге в гости, а ее отец просто хотел позабавиться со мной. Он затащил меня в игру для взрослых – прятки. Теперь я должна следовать ее правилам. Но вопреки им я сделала все, чтобы он не нашёл меня первым! Вот только… Когда увидела глаза человека, кому попалась вместо него – поняла, что теперь вообще нет никаких правил…...
Читать онлайн
Безупречный стилист, проницательный прозаик, бесстрашный шутник, замечательный рассказчик, – эти эпитеты отражают суть творчества Александра Покровского. Кто хоть однажды читал его блистательные рассказы, навсегда запомнил и ни с чем не спутает его выразительный стиль, бесшабашную легкость, пронзительную искренность и неподражаемый юмор.В «Тропике лейтенанта» читатель столкнется не только с искусно закрученной литературной интригой, но и узнает воочию героев, начертанных собственноручно А. Покро...
Читать онлайн
Александр Покровский снискал заслуженную славу блистательного рассказчика. Он автор полутора десятков книг, вышедших огромными тиражами. По его сюжетам снимаются фильмы.Интонации А. Покровского запоминаются навсегда, как говорится, с пол-оборота, потому что он наделен редкостным даром в тривиальном и обыденном различить гомерическое. Он один из немногих на литературной сцене, кто может вернуть нашей посконной жизни смысл эпического происшествия. Он возвращает то, что нами утрачено. Он порождает ...
Читать онлайн