Не позволяйте вчерашнему дню влиять на себя сегодня

Мы их или они нас


Американский ученый Макс Тегмарк, признанный авторитет в сфере ИИ, опубликовал новую книгу о том, какие шаги нужно предпринять, чтобы люди выжили в мире машин

Тегмарк, к мнению которого прислушиваются Илон Маск, Стивен Хокинг и Рэй Курцвэйл, дал своей новой книге красноречивое название Жизнь 3.0.

В предисловии к книге ученый прямо указывает, что не принадлежит к числу паникеров. Победа машин не обязательно должна обернуться чем-то ужасным, констатирует Тегмарк. Главное – сделать так, чтобы мы сами решили, каким будет наше будущее в эпоху машин, и не допустили, чтобы это сделали за нас, заявляет он.
Все в наших руках

Основная задача человечества в условиях приближающейся эпохи ИИ – сделать так, чтобы цели и задачи машин не шли вразрез с целями и задачами людей. Это первый и ключевой тезис книги.

Это позволит в некоторой степени обеспечить безопасность людей во времена, когда машины будет превосходить их в развитии и в количестве.

Макс Тегмарк,
профессор Массачуссетского технологического института
Важно также подготовиться к тому, что в определенный момент (и это произойдет достаточно скоро!) люди перестанут быть самым разумным видом на планете Земля. Или по крайней мере, перестанут быть единственным разумным видом.

И да, вероятно, разумная жизнь будет основана не на углеродных соединениях, а на кремниевых чипах или других аналогичных вычислительных технологиях. Т.е. Тегмарк считает, что пора готовиться к трансформации человечества как такового.

Люди будущего будут представлять собой симбиоз человека и машин с серьезным уклоном в сторону машин, убежден Тегмарк. И этого не стоит бояться, это тоже будет жизнь, просто на другой основе.

Больше того, предсказывает Тегмарк, это может быть вечная жизнь. Сверхлюди будущего, лишенные хрупких тел, смогут существовать бесконечно долго.

Но для этого предстоит приложить определенные усилия, в частности, упомянутые выше. Нужно сделать так, чтобы ИИ изначально не конфликтовал с человечеством.

Тегмарк солидарен в своих опасениях насчет возможного будущего ИИ с Илоном Маском. Больше того, вместе со своим другом Яаном Таллином, со-основателем Skype, на деньги Маска Тегмарк проводит изыскания в организации Future of Life Institute, штаб-квартира которой расположена в Кэмбридже, штат Массачуссетс.

Тегмарк утверждает, что главной проблемой, связанной с освещением проблемы будущего ИИ, является большое количество мифов и недоразумений в этой области.

We should be more afraid of computers than we are

As sophisticated algorithms can complete tasks we once thought impossible, computers are seeming to become a real threat to humanity. Whether they decide to pulp us into human meat paste, or simply make our work completely unnecessary, argues technology reporter Alex Hern, we should be afraid of computers.
Поскольку сложные алгоритмы могут выполнять задачи, которые мы когда-то считали невозможными, компьютеры кажутся реальной угрозой для человечества. Независимо от того, решили ли они измельчить нас в человеческую мясную пасту или просто сделать нашу работу совершенно ненужной, - рассуждает репортер технологий Алекс Херн, мы должны бояться компьютеров.

The last job on Earth: imagining a fully automated world

Machines could take 50% of our jobs in the next 30 years, according to scientists. While we can’t predict the future, we can imagine a world without work – one where those who own the tech get rich from it and everyone else ekes out a living, propped up by an increasingly fragile state. Meet Alice, holder of the last recognisable job on Earth, trying to make sense of her role in an automated world.
По словам ученых, машины могут занять около 50% наших рабочих мест в ближайшие 30 лет. Хотя мы не можем предсказать будущее, мы можем представить себе мир без работы - тот, где те, кто владеет технологией, становятся богатыми от этого, и все остальные выказывают живое, поддерживаемое все более хрупким состоянием. Познакомьтесь с Алисой, обладателем последней узнаваемой работы на Земле, пытаясь понять ее роль в автоматизированном мире.

В интервью The Guardian Тегмарк, в частности, уточнил, что считает важной задачей развеять мифы, навязанные Голливудом.
“Страх перед машинами, которые обретут сознание и станут злыми, иррационален, - говорит Тегмарк. - Главная проблема с ИИ – не злоба, а компетенция. ИИ будет хорошо знать, как достичь своих целей. Следовательно, наша главная задача – не бороться с ИИ или препятствовать его появлению, а позаботиться о том, чтобы ИИ имел цели, сходные с нашими”.
Исследования Тегмарка в рамках Future of Life Institute
 финансирует Илон Маск
Именно это и будет стадия, которую он называет Жизнь 3.0. Под Жизнью 1.0 Тегмарк понимает примитивные формы жизни, такие как бактерии и другие организмы, которые умели лишь приспосабливаться под окружающую среду. Жизнь 2.0 – это стадия, на которой человек находится сегодня, имея возможность не только адаптироваться под окружающую среду, но и менять ее.

Жизнь 3.0это технологическая стадия, на которой человек сможет изменить не только внешнюю среду, но и себя самого.

И Тегмарк не просто рассуждает об этом, но и предлагает свое видение решений, которые нужно принять уже сегодня, чтобы обезопасить человека в эпоху Жизни 3.0.
“Самое главное – это финансировать исследования в области безопасности ИИ, запретить разработку автономного вооружения, основанного на ИИ, и развивать социальные системы, которые позволят людям перераспределять социальные блага, которые появятся вследствие существования ИИ”, 
- убежден Тегмарк.

Он уверен, что этот простой план из трех шагов может сделать будущее человека более безопасным.

Настоящий материализм

Футурологи и эксперты приняли работу Тегмарка достаточно благосклонно.

Тегмарк – вовсе не биологический сентименталист, заключает обозреватель The Guardian Эндрю Энтони. Он – материалист, который не видит разницы между интеллектом, возникшим в результате биологической эволюции, “смертным” интеллектом, и ИИ, который будет создан искусственно.
“Книга Тегмарка – это хорошо продуманный гид по самой интересной дискуссии нашего времени о том, как объединить биологическое мышление с превосходящим интеллектом машин, которых мы создадим сами”, 
- так отзывается о работе Тегмарка футуролог и технический директор Google Рэй Курцвэйл.
“Эта книга изменит то, что мы думаем об ИИ и будущем человечества”, 
- считает Барт Селман, профессор компьютерных наук Корнельского университета.

А по мнению знаменитого футуролога Ника Бострома, книга Тегмарка хороша не только тем, что поднимает дискуссию о самой природе человека, но и тем, что помогает читателю сформировать собственную позицию по поводу ИИ и его будущего.