Ex Machina – красивый триллер о том,
что бездушной машине никогда не стать
человеком
|
«Из машины», «Мир Дикого Запада», Detroit: Become Human — за последние годы в фантастике появилось немало ярких женщин-роботов. Очаровательные незнакомки и отчаянные бунтарки, секс-куклы и воплощения целомудрия — многие из них стали архетипами массовой культуры. С каждым годом мы становимся всё ближе к тому, чтобы воплотить эти образы в реальность.Но имеет ли это какой-то практический смысл? И насколько велика вероятность, что, когда появятся полноценные человекоподобные роботы, они будут иметь те же два пола, что и люди?
Бесполезные андроиды
Прежде чем думать о гендерных признаках, нужно ответить на вопрос — будут ли роботы вообще выглядеть как люди?
Такие боевые роботы никогда не появятся
в реальности
|
Фантастика приучила нас, что андроиды — норма в мире будущего. Но для большинства задач нет смысла создавать робота, повторяющего форму человеческого тела. Дело не в том, «хорошо» ли устроены люди или «плохо». Кому-то человеческое тело кажется венцом творения, кому-то — уязвимой и неуклюжей конструкцией, но все согласны, что оно у нас уже есть. И если задачу должен выполнять обладатель человеческого тела, её проще поручить человеку.
Если к задаче нужно привлекать робота, значит, человек не способен с ней справиться: у него недостаточно длинные руки, сильные ноги, острое восприятие или прочная кожа. К тому же для многих целей человеческое тело избыточно, наполнено неотключаемыми «системами», которые требуют регулярного обслуживания и никак не используются при выполнении ряда простых задач. Зачастую производителям нужны только глаза и руки работника, но не его голова, ноги или грудная клетка. В этих случаях робот эффективнее человека. Если это, конечно, не андроид.
Если к задаче нужно привлекать робота, значит, человек не способен с ней справиться: у него недостаточно длинные руки, сильные ноги, острое восприятие или прочная кожа. К тому же для многих целей человеческое тело избыточно, наполнено неотключаемыми «системами», которые требуют регулярного обслуживания и никак не используются при выполнении ряда простых задач. Зачастую производителям нужны только глаза и руки работника, но не его голова, ноги или грудная клетка. В этих случаях робот эффективнее человека. Если это, конечно, не андроид.
Боевые роботы — это чаще всего лишь
самоходные установки без экипажа, а не железные рыцари с лазерными пушками
(Фото: Vitaly V. Kuzmin [CC BY-SA 4.0])
|
Роботов, помимо немногочисленных рекламных и исследовательских экземпляров, не создают просто так. У каждой серийной машины — конкретный заказчик с конкретным запросом. Соответственно, тело робота всегда будет адаптировано для его задач. Конечно, можно теоретизировать, что со временем инженеры начнут создавать всё более и более гибкие конструкции, которые можно будет адаптировать под различные нужды, — и, возможно, такие машины будут иметь некое сходство с человеком. Но это в любом случае не будут андроиды с кожей, волосами, глазами и голосами как у людей.
Значит ли это, что проблема пола андроидов снимается автоматически, так как никаких человекоподобных машин не появится?
Робот-тюлень PARO со своим создателем.
Не человекоподобный, но человечный
(Фото: Geraldshields11 [CC BY-SA 4.0])
|
Вовсе нет. Ни на войне, ни в промышленности андроиды не будут востребованы, но могут найти спрос в тех сферах, где «человечность» считается ключевым свойством. Уже существует робот Paro, выглядящий как игрушечный тюлень. Он умеет симулировать радость от внимания и урчать, когда его гладят, но при этом не может устать или разозлиться по непонятной причине. Благодаря этому искусственное животное очень полезно при работе с пациентами психиатров и пожилыми людьми.
Логичным развитием этой идеи станут андроиды-компаньоны, основная функция которых — составлять компанию детям, старикам или просто одиноким людям. Частным случаем компаньонов будут и сексботы, фактически — продвинутые секс-куклы, бордели с которым уже открываются в разных частях света. Впрочем, скорее всего, наиболее востребованны будут не они, а роботы-няньки, способные следить за детьми, развлекать их и даже кормить.
В дальнейшем эта идея может привести к появлению роботов-учителей или роботов-воспитателей. Автоматизация обучения — уже устоявшийся тренд, и если студенты и ученики старших классов вполне могут обойтись без преподавателей, заменив их программой, то детям помладше может понадобиться «материальный» наставник. Существуют и другие сферы, в которых приятнее иметь дело с человеком или хотя бы с кем-то, кто выглядит как человек, — например, продажи и услуги. Именно такие профессии могут стать прибежищем для андроидов, и именно здесь встанет вопрос, нужен ли человекоподобным роботам пол.
Логичным развитием этой идеи станут андроиды-компаньоны, основная функция которых — составлять компанию детям, старикам или просто одиноким людям. Частным случаем компаньонов будут и сексботы, фактически — продвинутые секс-куклы, бордели с которым уже открываются в разных частях света. Впрочем, скорее всего, наиболее востребованны будут не они, а роботы-няньки, способные следить за детьми, развлекать их и даже кормить.
В дальнейшем эта идея может привести к появлению роботов-учителей или роботов-воспитателей. Автоматизация обучения — уже устоявшийся тренд, и если студенты и ученики старших классов вполне могут обойтись без преподавателей, заменив их программой, то детям помладше может понадобиться «материальный» наставник. Существуют и другие сферы, в которых приятнее иметь дело с человеком или хотя бы с кем-то, кто выглядит как человек, — например, продажи и услуги. Именно такие профессии могут стать прибежищем для андроидов, и именно здесь встанет вопрос, нужен ли человекоподобным роботам пол.
Гендерное равенство
Функция андроидов как компаньонов служит одним из основных аргументов в пользу того, чтобы их облик имел черты, характерные для мужского или женского пола. Или, точнее, гендера, ведь пол — биологическая характеристика, связанная с ролью в продолжении рода, а рукотворные создания ей по определению не будут обладать. Подавляющее большинство людей принадлежит, как биологически, так и социально, к одному из двух гендеров. Исключения существуют, но воспринимаются как нечто необычное. Поэтому будущие создатели роботов-компаньонов будут опираться на два варианта «усреднённого человека».
У слова «андроид» греческое происхождение, причём его корень ἀνδρ означает не человека (по-гречески «антропос»), а именно мужчину. Одной из первых эту несправедливость попыталась исправить в 1985 году писательница и феминистка Гвинет Джонс, предложившая в своём романе Divine Endurance («Божественная стойкость») термин «гиноид» — от греческого γυνή (женщина). Кроме того, в семидесятых был популяризирован термин «фембот».
Настоящий искусственный интеллект, способный в полной мере заменить работника из плоти и крови, — перспектива совсем не близкая. Даже в книгах, играх и кино андроидов часто изображают лишёнными некоторых человеческих способностей — например, к сопереживанию или пониманию эмоций. Но именно эти черты могут быть самыми важными для искусственных компаньонов. И пока учёные не создадут машину, способную к эмоциям, создателям андроидов нужно будет фактически «обманывать» людей, заставляя их поверить в то, что перед ними человек, а не робот. И это не
так сложно, как кажется.
Создатели робота-компаньона Pepper
считают его бесполым, но не против, если покупатель сам решит, какой пол у этой
машины.
|
Ещё в 1966 году была создана программа Элиза, заметно превзошедшая современные ей системы в прохождении теста Тьюринга (тест считается пройденным, если собеседник программы не смог отличить её по разговору от человека). Она сделала это не за счёт сложного технического исполнения, а за счёт иной стратегии диалога: вместо того чтобы создавать алгоритмы, активно реагирующие на слова собеседника, создатели Элизы заложили в неё механизмы, позволявшие симулировать процесс «активного слушания».
Проще говоря, программа просто изменяла последнюю фразу говорящего с ней человека, превращая её в вопрос, и таким образом успешно создавала ощущение диалога. Нечто подобное необходимо и в случае с андроидом. Разработчикам важно создать не столько такую машину, которая будет вести себя как человек, сколько такую, в человечность которой будет легко поверить. А это означает, что её внешность и поведение должны привлекать как можно меньше внимания, чтобы люди, взаимодействующие с ней, не задумывались о природе собеседника и могли спокойно проецировать на андроида свои чувства и представления.
Проще говоря, программа просто изменяла последнюю фразу говорящего с ней человека, превращая её в вопрос, и таким образом успешно создавала ощущение диалога. Нечто подобное необходимо и в случае с андроидом. Разработчикам важно создать не столько такую машину, которая будет вести себя как человек, сколько такую, в человечность которой будет легко поверить. А это означает, что её внешность и поведение должны привлекать как можно меньше внимания, чтобы люди, взаимодействующие с ней, не задумывались о природе собеседника и могли спокойно проецировать на андроида свои чувства и представления.
Гиноид ReplieeQ1 похож на женщину именно
в той степени,
чтобы попасть в «зловещую
долину» (Gnsin [CC BY-SA 3.0]) |
Тут важно не попасть в «зловещую долину», описанную японским учёным Масахито Мори.
Он обнаружил, что роботы часто вызывают у людей необъяснимую тревогу, если они напоминают человека, но имеют какие-то черты или особенности поведения, выдающие их нечеловеческую природу. Человекоподобный объект, лишённый каких-либо признаков гендера, находится далеко от центра «долины», но достаточно необычен и вряд ли подойдёт для задач компаньонов.
Вопрос состоит ещё и в том, можем ли мы не наделять андроидов гендером, даже если захотим. Хотя массовое производство человекоподобных роботов только зарождается, уже сравнительно долго существует индустрия искусственных домашних питомцев. Самый известный её представитель — робот-щенок AIBO, выпущенный компанией Sony ещё в 1999 году. Хотя в целом проект оказался не слишком коммерчески успешным и в 2006 году компания закрыла последний сервисный центр, по всему миру было продано около 150 тысяч электронных питомцев. И согласно наблюдениям за гражданами США, купившими робощенков, многие из них относили своих AIBO к тому или иному гендеру.
Вопрос состоит ещё и в том, можем ли мы не наделять андроидов гендером, даже если захотим. Хотя массовое производство человекоподобных роботов только зарождается, уже сравнительно долго существует индустрия искусственных домашних питомцев. Самый известный её представитель — робот-щенок AIBO, выпущенный компанией Sony ещё в 1999 году. Хотя в целом проект оказался не слишком коммерчески успешным и в 2006 году компания закрыла последний сервисный центр, по всему миру было продано около 150 тысяч электронных питомцев. И согласно наблюдениям за гражданами США, купившими робощенков, многие из них относили своих AIBO к тому или иному гендеру.
Даже роботпёс AIBO может быть мальчиком
или девочкой — в зависимости от того, как его воспринимает хозяин (Фото: Sven
Volkens [CC BY-SA 4.0])
|
Гиноид ReplieeQ2 моргает и имитирует
дыхание.
Но всё равно сложно забыть, что это не
человек
|
Это заложено даже на уровне нашей речи. В английском, французском, испанском и многих других языках мы вынуждены определять пол существа, о котором говорим, через местоимения. Слова, обозначающие отсутствие пола, вроде «оно» или «it», часто несут в себе довольно отчётливые негативные коннотации, подчёркивают, что речь о чём-то неживом, неодушевлённом или по меньшей мере странном. Какой смысл заводить друга, чтобы называть его так же, как монстра из романа Стивена Кинга? И захотим ли мы называть так человекоподобное существо?
В какой-то степени ответ на этот вопрос уже есть. Робота-компаньона Pepper, поступившего в продажу в 2016 году, его владельцы, продавцы и просто наблюдатели относят к тому или иному гендеру. Сами создатели Pepper считают, что их творение не имеет пола, но клиенты вольны определять его сами для себя. И, судя по всему, покупатели поступают именно так, по меньшей мере под давлением языка.
Любопытно, что на родине AIBO и Pepper, в Японии, проблема пола роботов стоит менее остро также благодаря языку. Хотя в японском языке существуют местоимения, их не принято использовать так же часто, как, например, в русском. Вместо этого японцы просто называют имя того, о ком говорят, что позволяет им легко выстраивать гендерно-нейтральные предложения. И именно поэтому они вновь и вновь создают предположительно бесполых роботов, которых затем наделяют гендером покупатели из США или Европы.
В какой-то степени ответ на этот вопрос уже есть. Робота-компаньона Pepper, поступившего в продажу в 2016 году, его владельцы, продавцы и просто наблюдатели относят к тому или иному гендеру. Сами создатели Pepper считают, что их творение не имеет пола, но клиенты вольны определять его сами для себя. И, судя по всему, покупатели поступают именно так, по меньшей мере под давлением языка.
Любопытно, что на родине AIBO и Pepper, в Японии, проблема пола роботов стоит менее остро также благодаря языку. Хотя в японском языке существуют местоимения, их не принято использовать так же часто, как, например, в русском. Вместо этого японцы просто называют имя того, о ком говорят, что позволяет им легко выстраивать гендерно-нейтральные предложения. И именно поэтому они вновь и вновь создают предположительно бесполых роботов, которых затем наделяют гендером покупатели из США или Европы.
Анатомия
куклы Кена
Проблема, которая становится особенно заметна при разговоре о гендере роботов, состоит в том, что «норма» — это не объективное понятие, единожды спущенное с небес. Каждое поколение создаёт свои нормы поведения, в том числе и относительно гендера. Поведение, одежда или внешний вид, которые в одну эпоху кажутся «мужественными» или «женственными», могут уже через несколько десятилетий восприниматься совершенно иначе.
Единственным сколько-нибудь постоянным критерием, также не лишённым своих особенностей, но всё-таки достаточно универсальным, остаётся роль в репродуктивном цикле. Но у роботов явно не будет такого механизма. Это значит, что «пол» в их случае не будет хотя бы условно следовать из устройства их тела — наоборот, оно будет сознательно создаваться с определёнными гендерными признаками. И это непростая задача, особенно если мы говорим об андроидах, чьё назначение не связано с сексом.
Единственным сколько-нибудь постоянным критерием, также не лишённым своих особенностей, но всё-таки достаточно универсальным, остаётся роль в репродуктивном цикле. Но у роботов явно не будет такого механизма. Это значит, что «пол» в их случае не будет хотя бы условно следовать из устройства их тела — наоборот, оно будет сознательно создаваться с определёнными гендерными признаками. И это непростая задача, особенно если мы говорим об андроидах, чьё назначение не связано с сексом.
Репликанта из фильма «Бегущий по лезвию»
физически невозможно отличить от человека — требуется сложный психологический
тест. В сиквеле это объяснили тем, что они не роботы, а искусственные люди
|
Делая роботам большую грудь или более широкие бёдра, чтобы обозначить их принадлежность к женскому гендеру, или широкие плечи для обозначения принадлежности к мужскому, создатели не отражают объективную реальность. Вместо этого они воспроизводят распространённые в обществе стереотипы о том, как «должны» выглядеть мужчины и женщины.
Чем дальше будут развиваться технологии, тем острее будет вставать проблема, особенно по части поведения роботов. Очевидно, что никто не будет позволять андроидам «учиться быть собой» — так, как мы позволяем это делать детям. Их будут создавать уже готовыми и сформировавшимися «личностями», даже если прорывы в машинном обучении и позволят им усваивать много новой информации и после «рождения».
Это не большая проблема, если робот способен произносить сто или даже несколько тысяч слов и фраз, — в этом случае разница между роботом-«мужчиной» и роботом-«женщиной» сведётся к голосу для озвучки. Но если технологии шагнут дальше и роботы будут способны поддерживать диалог, рассуждать и учить, придётся симулировать их характер и мироощущение.
Чем дальше будут развиваться технологии, тем острее будет вставать проблема, особенно по части поведения роботов. Очевидно, что никто не будет позволять андроидам «учиться быть собой» — так, как мы позволяем это делать детям. Их будут создавать уже готовыми и сформировавшимися «личностями», даже если прорывы в машинном обучении и позволят им усваивать много новой информации и после «рождения».
Это не большая проблема, если робот способен произносить сто или даже несколько тысяч слов и фраз, — в этом случае разница между роботом-«мужчиной» и роботом-«женщиной» сведётся к голосу для озвучки. Но если технологии шагнут дальше и роботы будут способны поддерживать диалог, рассуждать и учить, придётся симулировать их характер и мироощущение.
Существует немалый риск, что их создатели будут опираться на стереотипы о том, как «должны» вести себя мужчины и женщины.
Например, делать роботов-мужчин более грубыми или уверенными в себе, а всех гиноидов заставлять подчёркивать любовь к детям.
То, что наши представления о гендерном поведении созданы обществом, а не подсказаны природой, — факт, который в научных кругах уже давно признан. Андроиды могут стать прекрасной иллюстрацией к этому тезису, буквально поставив перед своими создателями вопрос о том, «что делает мужчину мужчиной, а женщину — женщиной». Но при этом существует риск, что с помощью роботов новым поколениям будут навязывать стереотипы о «нормальном» поведении. Это особенно актуально в свете того, что одна из сфер, где могут применяться человекоподобные машины, — воспитание детей.
То, что наши представления о гендерном поведении созданы обществом, а не подсказаны природой, — факт, который в научных кругах уже давно признан. Андроиды могут стать прекрасной иллюстрацией к этому тезису, буквально поставив перед своими создателями вопрос о том, «что делает мужчину мужчиной, а женщину — женщиной». Но при этом существует риск, что с помощью роботов новым поколениям будут навязывать стереотипы о «нормальном» поведении. Это особенно актуально в свете того, что одна из сфер, где могут применяться человекоподобные машины, — воспитание детей.
Кэра из игры Detroit: Become Human больше похожа на искусственного человека, чем на человекоподобного робота |
Теоретически возможен и обратный вариант. Андроиды могут в очередной раз разжечь споры о гендере и свободе его выбора, предоставляя потенциальным покупателям возможность выразить собственные представления о поле через искусственных людей. В какой-то степени это уже происходит с AIBO и Pepper — каждый покупатель сам решает, к какому гендеру относится его электронный друг. Можно вообразить себе мир будущего, где андроидов будут специально адаптировать под нужды конкретных людей, позволяя тем самостоятельно решать, как именно робот будет себя вести, выглядеть и к какому гендеру он будет себя относить.
Но этому препятствуют две проблемы. Прежде всего, даже если андроиды когда-нибудь станут сравнительно дёшевы, их серийный выпуск всё равно будет экономически целесообразнее, чем создание «кастомных» роботов под каждого клиента. Конечно, число серий может расти, но оно всё равно будет конечным. В результате мы окажемся в мире шведского сериала «Настоящие люди» (Äkta människor). В нём все андроиды (или «хуботы», как их назвали создатели сериала) принадлежат к той или иной популярной серии, все представители которой имеют одинаковую внешность, отражающую их функцию. Причём эта внешность полностью укладывается в наши стереотипы о том, как должны себя вести и чем должны заниматься мужчины и женщины, молодые люди и старики, красавцы и обладатели непримечательного облика.
Но этому препятствуют две проблемы. Прежде всего, даже если андроиды когда-нибудь станут сравнительно дёшевы, их серийный выпуск всё равно будет экономически целесообразнее, чем создание «кастомных» роботов под каждого клиента. Конечно, число серий может расти, но оно всё равно будет конечным. В результате мы окажемся в мире шведского сериала «Настоящие люди» (Äkta människor). В нём все андроиды (или «хуботы», как их назвали создатели сериала) принадлежат к той или иной популярной серии, все представители которой имеют одинаковую внешность, отражающую их функцию. Причём эта внешность полностью укладывается в наши стереотипы о том, как должны себя вести и чем должны заниматься мужчины и женщины, молодые люди и старики, красавцы и обладатели непримечательного облика.
Андроиды из «Мира Дикого Запада» не
просто роботы,
они актёры. А для роли пол особенно
важен
|
Вторая проблема состоит в том, что современная индустрия роботехники — сфера, в которой в основном заняты мужчины, к тому же часто критически относящиеся к современным гуманитарным исследованиям и общественным спорам о свободе и социальной справедливости. Для них сама нужда в соответствующих дискуссиях и исследованиях может быть неочевидна. В результате мы можем оказаться в ситуации, знакомой по множеству игр и фильмов, где гиноиды почти всегда выглядят как молодые сексапильные женщины, даже если такая внешность противоречит их предполагаемой функции.
У дроида L3-37 из «Хана Соло» никаких
внешних признаков пола нет —
просто её личность считает себя женщиной
|
🔷🔷🔷🔷🔷🔷🔷
Роботы в искусстве всегда служили отражением того, как мы видим самих себя. Скорее всего, когда мы получим возможность создавать их, эта тенденция не изменится. То, какими будут андроиды далёкого будущего, зависит от того, как изменится к тому моменту наше общество. Возможно, они превратятся в инструмент утверждения разнообразия, возможно, станут средством закрепления консервативных взглядов и традиционных представлений о норме.
Не исключено, что верх возьмёт и третий, «японский» путь — специально делать андроидов бесполыми, чтобы избежать любых возможных конфликтов. Но, скорее всего, такой вариант не сможет долго продержаться — по крайней мере, без радикального изменения того, как сами люди говорят и думают. В любом случае человекоподобные роботы будут частью гораздо более глобального процесса, который сейчас разворачивается в нашем обществе, — процесса, результат которого не может с уверенностью предсказать ни один специалист.
Leo Moiges
Не исключено, что верх возьмёт и третий, «японский» путь — специально делать андроидов бесполыми, чтобы избежать любых возможных конфликтов. Но, скорее всего, такой вариант не сможет долго продержаться — по крайней мере, без радикального изменения того, как сами люди говорят и думают. В любом случае человекоподобные роботы будут частью гораздо более глобального процесса, который сейчас разворачивается в нашем обществе, — процесса, результат которого не может с уверенностью предсказать ни один специалист.
Leo Moiges