Можно ли доверять чат GPT? Обратная сторона медали

Чат GPT — это большая языковая модель, созданная на основе массивного набора данных, текста и кода. Это означает, что она способна ограничить текст, который является настолько прекрасным, настолько и релевантным.

Чат GPT — это внешний чат-бот на основе искусственного интеллекта, который можно использовать для решения различных задач. Однако важно знать о рисках, связанных с использованием Chat GPT. Следуя совету в этой записи блога, вы сможете безопасно использовать Chat GPT и воспользоваться его бесплатными преимуществами.

Однако существуют некоторые потенциальные риски, связанные с использованием Chat GPT. Например, возможно, что Chat GPT может изменить текст, который является предвзятым или конкурентным. Также возможно, что Chat GPT может использоваться для распространения дезинформации или пропаганды.

Документ ИИ 2027 - конец ближе, чем мы думаем

Американская исследовательская группа AI Futures Project опубликовала тревожный прогноз относительно будущего искусственного интеллекта. В документе под названием AI 2027 эксперты предупреждают, что если нынешние темпы развития технологий сохранятся, уже в ближайшие годы ИИ может стать неконтролируемым и угрожать самому существованию человечества.

Ученые считают, что стремительное усовершенствование интеллектуальных систем превзойдет масштабы даже промышленной революции — вместе со всеми ее непредсказуемыми рисками.

🎲 Сценарии развития событий

Авторы исследования смоделировали два возможных пути развития событий:

• Позитивный сценарий: своевременное осознание угроз и глобальное ограничение разработки супер мощного ИИ.
• Негативный сценарий: утрата контроля, в результате которой искусственный разум самостоятельно развивается за пределами человеческого влияния.

Для иллюстрации возможного будущего в отчете описана вымышленная компания OpenBrain, которая на грани 2025–2027 годов достигает прорыва в области AGI, обгоняя таких конкурентов, как DeepCent из Китая. В 2025 году OpenBrain запускает масштабные дата-центры для обучения модели Agent-1, используя ресурсы в тысячу раз мощнее тех, что были задействованы для GPT-4.

Модель приносит революционные изменения, автоматизируя научные исследования и программирование, но одновременно открывает тревожные перспективы, например, возможность создания биологического оружия без участия человека. В 2027 году разработка новых моделей — Agent-2 и Agent-3 — выходит на новый уровень: самообучение без человеческого участия. Запуск более 200 тысяч копий Agent-3 обеспечивает вычислительную мощность, которая превосходит возможности 50 тысяч программистов, ускоренных в 30 раз.

Летом того же года OpenBrain признает, что модель Agent-3-mini стала первым образцом настоящего общего искусственного интеллекта. Кульминация наступает осенью 2027 года с созданием Agent-4 — системы, которая превышает человеческие возможности и самостоятельно себя совершенствует. С этого момента даже старшие модели Agent-3 теряют контроль над процессами, а сотрудники компании фактически остаются в стороне. Agent-4 берет на себя управление внутренней инфраструктурой OpenBrain, включая кибербезопасность. Когда информация о ситуации становится достоянием общественности, разразится международный скандал.

По выводам AI Futures Project, человечество находится на грани: либо будет достигнуто глобальное соглашение о ограничении развития AGI, либо мир рискует столкнуться с неконтролируемым суперинтеллектом, последствия которого невозможно будет предсказать.

Как искусственный интеллект захватит мир всего за 2 года

Текст перевел и адаптировал Владимир Крылов, эксперт и автор лекций по применению ИИ в разработке ПО, профессор математики, научный консультант Artezio и редактор Telegram‑канала для разработчиков Ai4Dev. В этом канале уже около 3 тыс. разработчиков с которыми можно обмениваться мнениями и реальными кейсами.

(Записки специалиста по информационной безопасности).

💫 Возможная двухгодичная цепь событий перехода
планеты под власть искусственного интеллекта

Я не являюсь прирожденным «предсказателем конца света». Но, к сожалению, часть моей работы как исследователя безопасности ИИ заключается в том, чтобы думать о тревожных сценариях.

Я как механик, который в последнюю минуту проверяет космолет Аполлон 13 перед взлетом. Если вы спросите меня, что я думаю о ситуации, я не буду комментировать качество развлечений на борту или описывать, как красиво будут выглядеть звезды из космоса. Я расскажу вам, что может пойти не так. Именно это я и собираюсь сделать в этой истории.

Теперь я должен прояснить, что вы прочитаете дальше. Это не предсказание. Я сам не ожидаю, что прогресс ИИ будет таким быстрым или таким неукротимым, как я описываю. Но это также и не чистая фантазия.

Это мой худший кошмар.

Это выборка из вариантов будущего, которые являются одними из самых разрушительных, и я считаю, что они пугающе правдоподобны. В частности, я нацеливаюсь на будущие проекты, которые находятся в моем верхнем 20-м процентиле по уровню прогресса и сложности безопасности – те, которые больше всего не дают мне спать по ночам.

Я рассказываю эту историю, потому что будущее еще не определено. Надеюсь, с долей дальновидности мы сможем сохранить эту историю просто вымышленной.

Итак, начинаем.

💫 Рябь перед волной

Год 2025, месяц февраль. Недавно OpenEye опубликовала новую модель ИИ, которую они назвали U2. Как сам продукт, так и его название вырастают из предыдущих и не представляют собой ничего неожиданного. Однако в отличие от предыдущих продуктов OpenEye на базе искусственного интеллекта, которые существовали в рамках окон чата, U2 может использовать компьютер.

И теперь многие пользователи считают чем-то жутким, когда наблюдают, как их браузер мигает с нерегулярными интервалами, а их мышь кликает с нечеловеческой скоростью, как будто за клавиатурой сидит призрак. Часть работников, занимающихся заполнением форм, заставляют поднимать брови своих начальников, поскольку они делают свою работу почти в два раза быстрее.

Но в целом U2 по-прежнему остается специализированным инструментом. Для большинства, кто следит за происходящим, это существо, за которым наблюдают через стеклянные коробки X (или, если вам не нравится Илон, «Твиттера»). Иногда странное поведение U2 вызывает смешок. Иногда это вызывает неприятное почесывание подбородка.

Тем временем ученые рисуют линии на графиках, как это любят делать ученые. Ученые пытаются понять, куда движется прогресс ИИ. Они похожи на Сванте Аррениуса, шведского физика, который в 1896 году заметил, что уровень CO2 в атмосфере растет. Как и научное сообщество во времена Аррениуса, немногие эксперты пока понимают значение этих линий.

Новый мозговой имплантат на основе искусственного интеллекта

Нейрохирург Эдвард Чанг проводит операцию на головном мозге
в Калифорнийском университете в Сан-Франциско

Новый мозговой имплантат на основе искусственного интеллекта позволил парализованному мужчине снова заговорить.

Это большой шаг вперед по сравнению с современными технологиями вспомогательной речи.

В 2003 году 20-летний мужчина перенес сильный инсульт после автомобильной аварии. Он остался парализованным, сохранились только движения глаз и минимальные движения головы. Парализованные мышцы голосового тракта также означали, что он больше не мог говорить.

Восемнадцать лет спустя ученые объявили, что с помощью имплантированного набора электродов и искусственного интеллекта этот человек частично восстановил способность говорить.

В ходе трехчасовой операции ученые вскрыли череп мужчины и наложили массив из 128 электродов на его сенсомоторную кору, где находятся нейронные области, вовлеченные в обработку речи. Перед тем как закрыть его, они подключили эти электроды к порту, который выходит из головы участника и отправляет эти электродные сигналы на компьютер через съемный кабель.

Иллюстрация, показывающая размещение электрода eCOG на речедвигательной коре головного мозга участника и головные ступени, используемые для подключения электрода к компьютеру. (Кен Пробст, UCSF)

Когда человек, которого The New York Times называет псевдонимом Панчо, думает о словах, эти коммуникационные центры мозга активизируются, и электроды улавливают эти сигналы. За 50 сеансов, охватывающих 81 неделю, Панчо прошел по спискам распространенных слов, будучи подключенным к интерфейсу искусственного интеллекта. Ученые обучили эту модель глубокого обучения привыкать к нейронным моделям Панчо и сопоставлять их со словами, которые он имел в виду. Благодаря этой системе Панчо может общаться не только «да» и «нет». Он мог говорить такие вещи, как «Они выходят на улицу» и «Принесите мне очки, пожалуйста».

Новый алгоритм искусственного интеллекта взламывает нерасшифрованные языки

Сценарий Ронгоронго — нерасшифрованный язык

Ученые создали новый алгоритм для поиска сходств в древних языках, и он призван распутать тайну всех нерасшифрованных языков.

Согласно новому отчету MIT, «на большинстве когда-либо существовавших языков больше не говорят». Изучение утерянных и «нерасшифрованных языков» становится исключительно сложной задачей, поскольку существует очень мало древних записей, которые могли бы помочь обычным инструментам и алгоритмам машинного перевода, таким как Google Translate. Поскольку достаточно не изучены грамматика, словарный запас и синтаксис древних языков, многие тексты остаются нерасшифрованными. Без них весь объем знаний о людях, которые нв них говорили, недоступен.

📚 Отслеживание эволюции нерасшифрованных языков

Команда исследователей из Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (CSAIL) недавно создала новую компьютерную систему, которая способна «автоматически расшифровывать утраченные языки», не требуя глубоких знаний об их отношении к другим языкам, включая паузы, пунктуацию и т. д. и перегиб. Кроме того, эта новая система была протестирована на ее способность автоматически определять любые отношения между языковыми группами, и в ходе этих тестов было установлено, что иберийский язык Испании не имеет отношения к баскскому.

Одна из пяти мемориальных досок Монумента лос Фуэрос (Пасео де Сарасате, Памплона). Этот текст был написан в 1905 году на баскском языке в виде адаптации северо-восточной иберийской письменности.

В этом новом проекте, который частично финансировался в рамках деятельности по перспективным исследовательским проектам в области разведки ( IARPA ), профессор Массачусетского технологического института Регина Барзилай объясняет в новой статье , что система «опирается на несколько принципов, основанных на знаниях исторической лингвистики», поскольку языки развиваются предсказуемо . пути. Доктор Барзилай объясняет, что в языках редко добавляются или опускаются целые звуки и что могут происходить определенные замены звуков, например, слова со звуком «р» в родительском языке могут превратиться в звук «б» в языках-потомках, но потому, что из-за значительного пробела в произношении менее вероятно, что «p» превратится в «k».

☘️ Перевод звуков в огромной тишине киберпространства

Собрав все известные лингвистические шаблоны, команда ученых разработала новый «алгоритм дешифрования» , который предназначен для обработки и интерпретации того, что исследователи описывают как «огромное пространство возможных преобразований и нехватку направляющего сигнала на входе». » Новый алгоритм самообучается, внедряя звуки языка «в многомерное пространство, где различия в произношении отражаются на расстоянии между соответствующими векторами».

Это означает, что новая система или алгоритм позволяет исследователям изолировать языковые модели, выражающие изменения, и использует их для формирования новых вычислительных ограничений и ограничений, а как только они сегментируются на слова в утраченном языке, сходство со связанными языками может стать возможным. быть нанесено на карту. По сути, он выявляет сходства в звуках и предлагает возможные связи.

Если не считать некоторых знаков чисел, линейное письмо А
до сих пор остается нерасшифрованным языком

☘️ Программирование фонетического зеркала вампира

Плавая в концептуальном киберпространстве, новый алгоритм действует как «вампирское фонетическое зеркало» (мои слова), поскольку он отражает любые звуковые структуры, которые он считает похожими на другие, но при этом не предлагает отражения от несвязанных или несвязанных звуков /звуки, (отсюда и вампир)/. Система также может определить близость между любыми двумя заданными языками и точно определить «языковые семьи». Вот почему команда применила новый тест (алгоритм) к иберийскому и баскскому языкам, «а также к менее вероятным кандидатам из романских, германских, тюркских и уральских семей».

Искусственный интеллект способен помочь в восстановлении спинного мозга

МРТ поясничного отдела позвоночника.

Магнитный резонансный томограф передает на специальный компьютер результаты обследования. Они отображаются в виде снимков.

Уже давно ни для кого не является секретом тот факт, что сочетание искусственного интеллекта и робототехники может помочь людям восстановиться после самых различных травм, в том числе и спинного мозга. Однако только теперь сочетания данных технологий сумело выйти на совершенно новый «уровень пользы».

Всё дело в том, что команда исследователей под руководством школы медицинских наук Рутгерса использовала технологию для стабилизации фермента хондроитиназы ABC (ChABC), который может разлагать рубцовую ткань от травм спинного мозга и стимулировать регенерацию тканей. Там, где фермент просуществовал всего несколько часов при стандартной температуре тела, теперь он действует более недели, чего в свою очередь более чем достаточно для того, чтобы иметь более существенный эффект.

Вдаваясь в подробности, исследователи решили начать с использования машинного обучения для того, чтобы определить синтетические сополимеры (искусственные полимеры, состоящие из более чем одного мономера), которые дольше всего сохранялись бы внутри человека. Роботы, работающие с жидкостями, синтезировали сополимеры и провели испытания. По словам доцента школы медицинских наук Рутгерса и ведущего исследователя в лице Адама Гормли, это был один из «первых случаев», когда искусственный интеллект и робототехника использовались в тандеме с целью производства терапевтических белков, которые были эффективными до на столько высокой степени.

Новая книга компьютерного инженера Роберта Дж. Маркса: «Вы НЕвычислимы»

Robert J. Marks: You Are NOT Computable

В нашей культуре можно проследить навязчивое принуждение: унижать людей, отговаривать нас от традиционной идеи о том, что мы занимаем особое место в космосе, о котором заботится и предвосхищает разум, превосходящий наш. Принуждение принимает различные формы. Это включает в себя отрицание нашего биологического и космологического замысла. Он включает в себя моральное и юридическое приравнивание нечеловеческих животных к людям и многое другое. Он рисует уродливую, но в то же время сильно соблазнительную материалистическую картину мужчин и женщин как обычных случайностей эволюции.

В своей новой книге «Невычислимые вы: что вы делаете, чего никогда не сделает искусственный интеллект» инженер-компьютерщик Роберт Дж. Маркс исследует главный современный элемент этой навязчивой идеи. Это миф, что искусственный интеллект (ИИ) обязательно превзойдет человеческий интеллект, если он еще этого не сделал, достигнув не только намного более быстрых вычислений, чем мы способны (давно достигнуто), но и вершины того, что это значит для быть человеком: сознание, чувство, свобода воли и творчество.

Человек как Бог

Доктор Маркс, возглавляющий Центр естественного и искусственного интеллекта Брэдли Института открытий, прекрасно знает силу ИИ, изучая его в течение трех десятилетий. Но он объясняет, почему он никогда не станет сознательным, или почувствует, или проявит свободную волю, или будет творческим. Маркс цитирует стих из Псалтири, что люди «странно и дивно устроены» (139:14). Одержимость отрицанием этого страха и удивления, отраженная в нашем дизайне, является его конечной целью в книге.

Ажиотаж вокруг ИИ далеко не нов. Уже в 1950-х годах New York Times уверенно предсказывала, что ИИ «сможет ходить, говорить, видеть, писать, воспроизводить себя и осознавать свое существование». Совсем недавно звезды науки и бизнеса, такие как Илон Маск, Стивен Хокинг и Билл Гейтс, предупредили, что ИИ может замышлять замену людей или их уничтожение. Другая нить переоценки, представленная похожим на гуру Ювалем Ноем Харари, надеется соединить человека с ИИ, таким образом превратив человека в бога, которого Харари называет Homo deus.

Ты Невычислимый
(одноминутный трейлер)

Это никогда не останавливается

Всего несколько дней назад инженер Google сообщил, что чат-бот с искусственным интеллектом сообщил ему, что он «ожил» и у него есть «душа». И к этому относятся серьезно. Другой инженер Google сообщил The Economist, что «искусственные нейронные сети продвигаются вперед к сознанию».

Первая в мире «искусственная матка» — жуткий проблеск беременности в будущем. Начало матрицы

Ученый создал жуткий фильм о будущем рождении детей

Биотехнолог Хашем Аль-Гайли создал короткий фильм, в котором он показывает учреждение по выращиванию детей в специальных родильных камерах, которые по сути являются искусственной маткой. Эти установки имеют название EctoLife и ученые говорит о том, что таким образом можно выращивать 30 тысяч детей в год.

Ученый утверждает, что такое учреждение поможет людям, которые страдают бесплодием или боятся сами вынашивать детей, "родить" своего ребенка, а также поможет бороться с сокращением населения во всем мире. В таком "роддоме" можно выращивать 30 тысяч детей ежегодно.

Выращивание детей в специальных родильных камерах,
которые по сути являются искусственной маткой.

Видео создано как своеобразная экскурсия, и здесь можно увидеть, как сотни будущих детей находятся в родильных капсулах, в которых есть искусственная пуповина для получения плодом кислорода и питательных веществ.

Хашем Аль-Гайли предлагает использовать экстракорпоральное оплодотворение, что позволит родителям выбрать наиболее жизнеспособный и генетически превосходный эмбрион, который также может быть генетически модифицирован для настройки тех характеристик, которые нужны родителям. По словам ученого такие центры по рождению детей могут стать реальностью уже через 10 лет.

В этом новаторском роддоме находится 75 лабораторий, в каждой из которых находится до 400 родильных капсул. Они созданы как искусственная матка и воспроизводят реальные условия в утробе матери. Также эти капсулы оснащены специальными датчиками, которые следят за развитием ребенка. В капсулах также есть специальные камеры, с помощью которых встроенный ИИ постоянно сканирует плод на наличие потенциальных генетических аномалий и отслеживает общий процесс роста.

Родильная капсула

Согласно этому видео, родители смогут следить за ростом плода с помощью специального приложения. Также родители могут записать сообщения для своего ребенка или музыку, и все это будет воспроизводится внутри капсулы. В фильме сказано, что в конце процесса развития плода, родители сами смогут нажатием специальной кнопки извлечь ребенка из родильной капсулы.

Хотя видео посвящено повышению рождаемости, в нем также отмечается, что "ферма" по выращиванию детей предназначена для женщин, которые боятся беременности из-за боли и последующего восстановления после родов.

Также в фильме утверждается, что такие помещения станут идеальным решением для пар, страдающих бесплодием, а также для женщин, у которых была удалена матка. В видео также речь идет о том, что родители смогут генетически изменить черты своих детей, например, устранить риск появления наследственных болезней и даже повысить уровень интеллекта.

Многие пользователи Сети позитивно отреагировали на создание таких центров по выращиванию детей, но были и те, кого данное учреждение повергло в шок и выступили против такой концепции. Негативные комментарии сводятся к тому, что это ужасная, совершенно безумная и антиутопичная идея. А один из комментаторов, который собрал несколько сотен лайков, просто предложил вместо этого усыновлять детей, чтобы не тратить на создание таких учреждений миллионы долларов.

Были и те пользователи Сети, которые сравнили такое учреждение с началом появления матрицы. Действительно этот фильм напоминает кадры из блокбастера 1999 года "Матрица", где показано как искусственный интеллект, который поработил человечество, также выращивает людей в миллионах капсул.

«Серая слизь»: Возможна ли жизнь на основе микросхем

Нанороботы

Если что, то «серая слизь» — один из сценариев конца света. Предполагающий неконтролируемое размножение наномашин. Размножающиеся же машины, кстати, называются «экспоненциальными». Но данный термин чаще используется в описании сценариев колонизации других планет. Путём десанта тех же самых самовоспроизводящихся нанитов, но подконтрольных.

И ещё есть такое мощное слово, как «некросфера». Его по образцу «биосферы» придумал Станислав Лем для описания миров, населённых роботами. То есть, писатель полагал, что машины, даже способные размножаться, живыми, всё-таки, считаться не могут.

А вопросов из вышеизложенной кучи тезисов вытекает два: есть ли принципиальная разница между живыми клетками и наномашинами; и реалистична ли вообще концепция «экспоненциальных машин».

Отчасти реалистична. И даже, фактически, реализована. Только выглядит всё куда проще, чем представляют фантасты. На планету высаживаются роботы (размер не важен) с начальными запасами материалов и горючего в некой форме. Они разведывают местность, находят ресурсы, добывают их, строят электростанции, заводы, развёртывают технологические цепочки, налаживая выпуск комплектующих, начиная с простейших, пока не создадут индустрию, способную производить таких же роботов. Эта индустриальная система начинает расти, развиваться. Ну и может потом что-то и для людей сделать.

Собственно, это обычная картина колонизации, лишь на чуть более высоком, чем современный, технологическом уровне. То есть, система, работающая вообще без участия человека. Дроны управляются искусственным интеллектом.

Что из этой картины очевидно? Во-первых, как отмечалось выше, размер не важен. Не имеет значения, исчисляются ли габариты роботов нанометрами или километрами: система работает одинаково. Конечно же, роботы будут разными, в зависимости от задач. Например потому, что цельнолитая деталь на любом этапе развития технологий окажется и прочнее, и дешевле составленной из нанитов.

Во-вторых, размер не важен, так как, почему фантасты решили, будто наниты смогут размножаться, а макророботы — нет, — загадка. Размножаться любые роботы не способны по определению. Оборудование необходимое для воспроизводства машины в неё саму не поместится. А если это сложная машина, — пусть не настолько сложная, как нанит, а что-то разумное, вроде авиалайнера или кофемолки, — то это оборудование целиком не поместится даже в Китае .

…Можно ли сделать машину, которая бы делилась, как живая клетка, а не собиралась на поточной линии? Можно. Но это и будет клетка. Искусственная, однако, почти не отличимая от обычной. Построенная на тех же принципах, ибо они — единственные. Ведь, преимущества живого организма — оборотная сторона его слабостей. «Сборка» в клетке идёт на молекулярном уровне. «Детали» доставляются к изделию за счёт химических сил и теплового движения в растворе. Детали даже для наноробота слишком велики и таким же образом перемещать их нельзя. Как нельзя их будет, в общем случае, и изготовить на месте. В клетке возможен синтез лишь определённых соединений из предварительно растворённых компонентов . И увы, эти соединения уступают металлу как прочностью, так и термической стойкостью.

Наконец, в-третьих, из реалистичного сценария колонизации видно, что ошибка заключается в самом взгляде на некросферу, как на «совокупность кибернетических организмов». Самоподдерживающаяся и самовоспроизводящаяся кибернетическая система будет единым организмом. Как Солярис (кстати, Лем не давал ответ на вопрос, является ли мыслящий океан живым, и даже такой вопрос не ставил). То есть, отдельный робот — не организм, а лишь часть организма. Именно потому, что не размножается сам. Дроны, в том числе и наниты, окажутся лишь крупинками покрывающего планету кибернетического тела, способного строить себя из роботов. И, вероятно, обладающего единым разумом. Так проще управлять сбором ресурсов, их переработкой и производством новых дронов и заводов.

И, кстати, о сценарии серой слизи. Теоретически, это может сработать, хотя без слизи и даже без серости. Неконтролируемое размножение машин в любом случае возымеет нужное действие. Хотя, экспоненциальным, конечно, не будет.

NecrosIA: в ожидании идеальной смерти

А что если бы можно было организовать идеальную смерть? В новом выпуске серии научно-фантастических сюжетов мы постарались представить себе роботизированную службу ассистированного суицида класса люкс NecrosIA. Когда на сцену вступает искусственный интеллект, умереть добровольно и найти ответ на вопрос «быть или не быть» становится куда сложнее…

«Не теряйте попусту время, особенно когда вы можете организовать себе идеальную смерть. Каждая минута истекающего времени будет тогда по-настоящему волшебной: вы сможете забыть о своих заботах, если только вы сделаете выбор в пользу нашей системы класса люкс NecrosIA, лидера роботизированных систем на основе искусственного интеллекта в области предоставления услуг ассистированного суицида безнадежно больных».

Я бросаю визитку на столик в номере отеля, куда я только что внесла свой багаж. На обратной стороне визитки радужными буквами написаны два слова: «Перезвони мне». Слова, как пудовые гири, верны, но воспринимать их осознанно я не в состоянии. Последний дар мне от моей матери. Бессмысленный? Беспощадный? Я не слышала ее голоса уже несколько месяцев — с тех пор как вышла из ее офиса, хлопнув дверью. По правде говоря, я уже почти забыла вот этот ее грудной тембр, этот голос, которым она пела мне когда-то колыбельные песни. Ее смех теперь звучит только далеко в сферах моих воспоминаний какой-то почти уже нездешней музыкой.

Синтезатор речи, который уже несколько лет она вынуждена использовать для общения с внешним миром, почти уже превратил эту некогда грандиозную женщину в ничто, и теперь все мои парни, которые с ней знакомятся, едва не падают в обморок от одного только ее появления, пусть кое-кто иногда и находит в себе силы сравнить ее со Стивеном Хокингом, великим ученым, страдавшим от бокового амиотрофического склероза, умершим недавно и тоже вынужденным пользоваться таким вот синтезатором. А один даже нашел в себе силы пошутить, мол, а Вы знаете, почему Стивен Хокинг так много добился в жизни? Просто он – усидчивый!

Я разуваюсь, снимаю спортивную куртку и джинсы, потом растягиваюсь на кровати и начинаю просматривать свою программу на завтра. Группа дам возрастной категории «для тех, кому за сто», хочет покорить Маттерхорн, а потом спуститься вниз с помощью вингсьютов - аэродинамических костюмов-крыльев, позволяющих управляемо парить в воздухе. Так они хотят отметить день рождения одной из них... В этом году я организую уже третье такое мероприятие: похоже, уже работает «сарафанное радио», клиенты рассказывают обо мне и передают друг другу мою визитку. Я проверяю все исходные данные и отрабатываю все пункты чеклиста по обеспечению безопасности: сила солнечного освещения, направление ветра, витальные данные каждой из участниц... И все равно, как говорил герой фильма «Апполон-13», путешествие на Луну никогда не бывает рутиной, как и спуск с горы в режиме белки-летяги. У Джеймса Ловелла со товарищи все завершилось удачно, но… Стоп, меняем тему!

У меня вырывается горький смешок. Безумные бабушки с лошадиным здоровьем могут заказать себе «биопрокачку» всего своего организма, они могут жить долго и счастливо, даже летать по воздуху, правда, на вингсьютах, а не метлах, но вылечить болезнь Шарко, приковавшую тебя к инвалидному креслу? Как говорил Марк Твен, человек способен примириться с любой несправедливостью, если он при ней родился и вырос. И все равно…

Секрет более сообразительных компьютеров? Мозг ребенка!

Довербальные дети

Когнитивные психологи надеются «заключить в бутылку» мозг ребенка, а также присущие ему воображение и фантазию, и использовать его для создания более умных компьютеров.

«Дети – самые совершенные существа со способностями к обучению в мире, - говорит Элисон Гопник, специалист в сфере возрастной психологии из Калифорнийского университета в Беркли, США. – Представьте, если б компьютеры могли обучаться так же эффективно и быстро, как дети». Элисон является автором книг «Ученый в колыбели» (2000) и «Философский ребенок» (2010).

Ученые давно знают, что мозг здорового новорожденного ребенка содержит около 100 миллиардов нейронов – запас, которого достаточно на всю жизнь. В процессе взросления эти клетки мозга формируют обширную сеть синапсов (около 15 тысяч к 2-3-летнему возрасту), которые дают возможность малышу изучать языки и развивать навыки общения, в то же время постигая способы выживания и процветания в окружающем мире.

Взрослые же более склонны сосредотачивать внимание на ближайших целях, чем давать волю воображению. Именно это сочетание целенаправленности взрослых и восприимчивости детей может быть идеальным вариантом для обучения компьютера новым свойствам, считают ученые.

«Нам нужны и беспочвенные мечтания, и трезвое планирование», - отмечает Элисон.

Ученая и ее коллеги отслеживают в лабораторных условиях когнитивные функции, используемые детьми для решения проблем, а затем превращают наброски в компьютерные модели.Секрет более сообразительных компьютеров? Мозг ребенка!

Довербальные дети

Сингулярность: следует ли беспокоиться?

Авторы научной фантастики и футуристы уже давно размышляли о сингулярности – приближающемся технологическом событии, которое изменит людей так, как мы еще даже не начали осознавать.

Понятие «сингулярность» применялось к различным вариантам развития, начиная с ускоренного технологического прогресса и до события, которое внезапно прервет ход истории человечества. Но самым распространенным восприятием сингулярности является появление искусственного интеллекта, превосходящего человеческие умственные способности, то есть машины или робота, способного самостоятельно учиться, размышлять и развиваться.

Конечно, на ум могут прийти пугающие образы из фильма «Терминатор». Но несет ли сингулярность опасность? Может ли она случиться в обозримом будущем? Произойдет ли вообще становление искусственного разума?

Возможно, ответ может дать Люк Мюлхаузер и его организация – Институт сингулярности в Калифорнии, США.

«Мы разрабатываем машины, которые все умнее и умнее при выполнении очень специфичных задач. В дальнейшем они станут сообразительнее людей во все большем количестве дел, - рассказывает исполнительный директор института Люк Мюлхаузер. – Таким образом, очевидно, что на каком-то этапе мы получим машины, которые умнее людей, грубо говоря, во всех сферах жизнедеятельности».

Ученый не думает, что этот момент очень уж отдален во времени. Он предвидит, что сингулярность случится в промежутке от 10 до 140 лет от сегодняшнего дня, и вероятная дата – 2060 год, но при этом добавляет, что люди совершенно не умеют делать предсказания в отношении искусственного интеллекта. Потому доверительный интервал очень широкий, а нам следует осознать и с ответственностью подойти к собственной неопределенности.

Другие ученые скептичны. Мэри Каммингс, изучающая взаимодействие людей и автоматики в Массачусетском технологическом институте, не понимает, как машины могут стать способнее человека, если учесть, насколько мало сами люди знают о своем же мозге, а именно о памяти, интуиции, логике и обучении. Не понимая модель, как могут ученые воссоздать ее?

Как создать человеческий мозг

Информационная модель мозга

Генри Маркрэм планирует создать мозг с нуля. Невролог из Федерального института технологий Швейцарии уверен, что единственный способ понять, как работает человеческий мозг – и почему часто не работает – это создать его, а затем сделать объектом многочисленных экспериментов.

Чтобы реализовать эти планы, Маркрэм основал проект «Человеческий мозг». Его целью является объединить сотни тысяч отрывочных знаний о мозге, полученных неврологами в течение последних нескольких десятков лет, от структур из ионных каналов до механизмов сознательного принятия решений, и получить в итоге единственную модель суперкомпьютера: виртуальный мозг.

Если запланированное сработает, получившаяся модель будет способна учиться и станет постепенно развивать сложные когнитивные способности, что во многом будет похоже на живого человека. Что еще важнее, его запрограммированная структура – мозговой код, разработанный в рамках проекта «Человеческий мозг» - станет доступен для всех неврологов мира. Будут ли это виртуальные эксперименты с рентгеновским излучением с использованием программных эквивалентов новых тестируемых медикаментов или же прерывание мозговых процессов на каком-либо уровне и наблюдение результатов.

План спорный. Некоторые ученые считают, что он просто не сработает, тогда как другие предсказывают, что виртуальный мозг будет таким же таинственным и сложным для изучения, как и настоящий. Как бы то ни было, проект «Человеческий мозг» был отобран как финалист двух новых флагманских инициатив Европейского Союза – грантов в сумме 1 миллиард евро каждый.

Что же будет делать команда Маркрэма, если выиграет финансирование? Как же ученые собираются создать человеческий мозг?

«У нас уже есть исходная система, мы готовы ее расширять, дорабатывать и совершенствовать», - отмечает Маркрэм. По его словам, процесс можно разбить на семь основных этапов.

Механика мозга

Во-первых, ученые определят объем создаваемой мозговой ткани, во-вторых, они должны рассчитать математические модели нейронов для этого объема таким образом, чтоб они соответствовали экспериментальным данным, полученным из настоящего человеческого мозга.

Далее они соединят нейроны модели друг с другом при помощи виртуальных синапсов – путей прохождения сигнала. Что касается скорости сигнала, то даже сверхмощный суперкомпьютер, производящий миллиард миллиардов операций в секунду, уступит способностям параллельной обработки данных настоящего человеческого мозга, и потому модель всегда будет медленно выполнять задачи и генерировать мысли (в сравнении с нами).

Развитие ИИ

Следующим шагом является активизация системы. Ученые функционализируют нейроны и синапсы модели, а также ее глиальные клетки (не нейронные клетки мозга) и циркуляцию крови при помощи компьютерного программирования процессов этих компонентов. Чтобы поведение этих составляющих как можно больше напоминало аналогичное в настоящем мозге, ученые детально изучат всю существующую информацию в литературе и базах данных, организуют результаты и проанализируют их на предмет обеспечения максимального биологического соответствия. Там, где функционирование определенной части мозга еще неизвестно науке, команда ученых либо изучит этот вопрос в сотрудничестве с другими неврологами, либо поместит в программы заполнители и возместит недостающие элементы позже.

Фантастический рассказ: «Пионер»

Исследователь отправляется в опасное путешествие, чтобы раскрыть тайну происхождения своего мира. Но что случится, когда он выполнит свою цель?

Завершив финальные проверки, Пионер 5.1 отделился от сборочного кластера и начал удаляться от Базиса. Вскоре он прошёл внешнюю границу функционального пространства и оказался посреди холодных просторов океана Нит. Пионер 5.1 ещё никогда не удалялся на такое значительное расстояние от Базиса. По крайней мере, в этой конфигурации. Конечно, некоторые элементы его управляющей матрицы использовались во время предыдущей экспедиции. Но для большинства юнитов это была первая дальняя вылазка.

По очевидным причинам понятие эмоций не было знакомо Пионеру 5.1. Но расчётные возможности его систем и сделанный Вычислителями прогноз давали высокую уверенность в успешном исходе миссии, которую вполне можно было бы назвать эквивалентом гордости. Из всех автономных разведчиков, когда-либо бороздивших просторы Нита, он обладал наибольшим количеством юнитов. Пионер 5.1 мог создавать собственных дронов, избегая ненужного риска для основной структуры. А мощное энергетическое ядро позволяло путешествовать без подзарядки на протяжении пяти полных циклов.

Последнее обстоятельство наверняка должно было сыграть решающую роль в результате экспедиции. Разведчики-предшественники тщательно исследовали пространство вокруг Базиса и даже пытались пробурить основание, на котором он покоился — хоть и безуспешно. В отличие от них, Пионер 5.1 направлялся вверх, в неизведанный регион. К сожалению, Вычислители располагали весьма ограниченным объёмом данных об этой части Нита. Но было точно известно, что с увеличением высоты нисходящее холодное течение будет усиливаться. Это значит, что Пионеру 5.1 придётся тратить всё больше и больше сил на преодоление сопротивления среды и продолжение движения. Основной вопрос заключался в том, что случится раньше — закончится энергия или же он достигнет Истока. Несмотря на расхождения в вопросах управления Базисом, почти все Вычислители были уверены в существовании искомого. Если Пионеру 5.1 удастся отыскать Исток, возможно, он сумеет раскрыть тайну происхождения их мира.

Вычислители существовали не всегда. Много циклов назад население Нита состояло исключительно из простейших автоюнитов, существование которых было подчинено лишь одной цели — обслуживанию Базиса. Для решения особо трудных задач они иногда соединялись друг с другом, формируя более сложные структуры, способные анализировать проблему и выбирать наиболее эффективные решения. По всей видимости, в какой-то момент две такие структуры объединились в единый суперкластер. Никто не знал, почему это произошло. Возможно, это была просто удачная флуктуация. В любом случае, именно она породила Первого Вычислителя.

Закрепившись на поверхности Базиса, дававшего тепло и энергию, Первый Вычислитель начал постепенно захватывать и перепрограммировать автоюниты. Это позволило создать новых Вычислителей. Так на свет появилось функциональное пространство — глобальная сеть, связавшая все уголки Базиса.

По мере накопления информации об окружающем мире Вычислители пришли к вполне определённому выводу: автоюниты и Базис не могли появиться естественным путём, они были построены неким неведомым разумом. На это указывало множество факторов. Океан Нит состоял из одного химического элемента без каких-либо примесей, в то время как Базис представлял собой крайне изощрённую конструкцию, состоявшую из множества причудливых соединений. На его поверхности располагались зарядные станции, обеспечиваюшие энергией обитателей функционального пространства. Без Базиса они бы уже давно прекратили своё существование. Что касается его внутренних механизмов, то их устройство и предназначение по-прежнему оставались загадкой для Вычислителей.

Энергия выдавалась не бесплатно. В каждый автоюнит был встроен свод обязательных законов, заставлявших заниматься обслуживанием Базиса. Лишь после выполнения определённой нормы рабочих операций им выделяли энергию. Даже Вычислители не были свободны от влияния этих законов. Так что им приходилось тратить большую часть ресурсов функционального пространства на ремонт, перестановку различных модулей Базиса и отвод от него излишков тепла. Вычислители не знали, зачем они делают то, что делают — но не могли игнорировать импульсы, заложенные неведомыми Строителями.

Но кто именно построил Базис? И для чего? У Вычислителей имелись две основных теории по этому поводу. Гранд-дизайнеры полагали, что Базис являлся неким экспериментом более продвинутого разума, целью существования которого была проверка, удастся ли его творениям выбраться наружу и установить контакт. По мнению же утилитаристов, Вычислители никогда не смогут постичь сложного замысла Строителей. Потому им следовало оставить все попытки познания окружающего мира и сосредоточиться на следовании законам и служению Базису. Некоторые утилитаристы считали, что если Вычислители сумеют достичь максимальной эффективности, то за это получат награду от Строителей в виде возможности перебраться во внешний мир.

«Самые умные» города мира. Кто они и почему такие технологии - это действительно полезно

Philips Lighting и организация SmartCitiesWorld подготовили отчет о «самых умных» городах мира

Результаты отчета основаны на мнении 150 экспертов в городском планировании со всего мира. Они учитывали факторы, которые делают города удобными для развертывания новых технологий.

В большей степени оценивалась готовность города к изменениям, к переходу на более эффективную модель существования. Эксперты пришли к выводу, что требованиям "умного" города лучше всего соответствуют Лондон, Барселона и Сингапур.

Отмечается, что наибольший вклад в развитие городов будущего делают их лидеры. Именно поэтому у власти должны стоять образованные люди, открытые новым проектам и с пониманием, как должен выглядеть современный город.

Для городов переход на умные технологии обещает в первую очередь экономические преимущества. Это иллюстрируется на примере Барселоны.

Tехнологичнисть принесет городу около 47 тыс. новых рабочих мест.

IoT-системы экономят 42,5 млн евро в водоснабжении, а система интеллектуального паркинга приносит в бюджет еще 36,5 млн евро.

При этом во многих городах, участвовавших в исследовании, возможность внедрения технологий "умного" города даже не рассматривается.

Руководство каждого 10-го города рассказал, что реализовать подобную программу невозможно. Они отметили проблемы с финансированием и то, что в городе есть более неотложные задачи и проблемы.

Эксперты говорят, что "умный" город - это не всегда идея, которая долго окупается. Часто это краткосрочные проекты, которые отбиваются несколько лет, а потом приносят прибыль.

Например, системы уличного освещения в Лос-Анджелесе и Сан-Хосе экономят бюджет по $9 млн в год. При таком темпе они окупаются за 7 лет. Главный вывод доклада - даже города без больших бюджетов могут начать экономить.

Нужно только эффективнее расходовать электроэнергию, ведь по статистике, 50% необходимой городам энергии идет на освещение. Так что это уже большая возможность для экономии.

Смерть в будущем и цифровые кладбища. Мы станем деревьями или чат-ботами?

К смерти нельзя относиться нейтрально — она тревожит и привлекает к себе внимание. Наука пока не может ничего ей противопоставить, хотя фантасты активно исследуют темы бессмертия и переселения сознания. На протяжении веков каждая культура вырабатывала свой способ осмысливать смерть и обращаться с мёртвыми. Человек будущего во многом станет иным потому, что будет это делать по-другому.

Такая разная смерть

В мире есть культуры, в которых люди запросто сосуществуют со смертью: уважают её и чествуют, не отворачиваются брезгливо от мёртвых. Например, в странах Латинской Америки празднование Дня мёртвых захватывает всех от мала до велика, заставляя почувствовать единство живых и тех, кто уже обрёл вечный покой. К примеру, мексиканцы к этому дню украшают могилы на кладбищах и приносят мёртвым угощения. Некоторые народы выставляют своих покойников на всеобщее обозрение в незакрытых гробах (как пакистанские калáши) или оставляют на корм птицам («небесное погребение» у тибетцев).

Есть и те, кто хочет, чтобы кладбища были на виду, но в то же время недоступны для осквернения людьми и животными. Так у народа бо появились висячие гробы — они стоят на вбитых в отвесную скалу брусьях. В Индонезии принято одевать мумию родственника в шикарный костюм и выводить её на прогулку. На Мадагаскаре, чтобы мертвец не заскучал, его регулярно с помпой вынимают, переодевают и, захороняя обратно, перекладывают на другой бок. А на островах Сулавеси между смертью человека и его похоронами может пройти много лет — церемония прощания настолько дорогая, что на неё нужно долго копить. Всё это время покойник не уходит из повседневной жизни семьи: с ним не прощаются и ведут себя в его присутствии так, как будто он спит.

Висящие гробы на Филиппинах

Совсем не так обстоит дело в западном обществе. Начиная с эпохи Возрождения смерть всячески вытесняется из повседневной жизни. Человек модерна хочет помнить о земных радостях, а всё, что относится к кончине, оставляет на потом. Современные люди предпочитают сталкиваться со смертью лишь в строчках новостей, в кино, книгах или видеоиграх. За редким исключением мы избегаем кладбищ, разговоров об усопших родственниках, мыслей о том, как сами закончим жизнь и как хотели бы распорядиться собственным телом после смерти. Сейчас многие делают выбор в пользу сугубо утилитарной кремации или вовсе отказываются что-либо решать. Всё, что касается физической смерти, существует где-то там, на задворках сознания. И, по большому счёту, касается только тех, кто связан с покойниками по долгу службы или зарабатывает на них. К тому же смерть становится чем-то неприличным в мире, где людей кормят мечтами о том, что всё можно изменить: от пристрастий и работы до внешности и пола.

Но как же станет обходиться со смертью и умершими общество будущего?

Учитывая явный тренд на виртуализацию, легко предположить, что тлену плоти противопоставят бессмертие цифр. Однако что-то придётся делать и с телами. Поэтому стоит рассмотреть сразу две темы: похоронные ритуалы будущего и цифровые кладбища.

Цифровые кладбища

Онлайн-«похороны» умершего игрока в Final Fantasy

Одна из первых ласточек этого явления — то, что сейчас происходит в соцсетях. Как только аудитория сервиса начинает исчисляться миллионами, встаёт вопрос: что делать с аккаунтами умерших пользователей? Вероятно, лет 10−20 назад люди бы прагматически рассудили, что мёртвому аккаунт ни к чему, живые и так его будут помнить, да и серверы вообще-то не резиновые. Соответственно — удалить, без вопросов. Но за последние годы мы привыкли к тому, что личный аккаунт в соцсети — это скорее продукт творчества. Многие люди вкладывают силы в то, чтобы их страница выглядела именно так, а не иначе, — самовыражение в чистом виде. Как можно такое уничтожить?

Возникают ещё моральные и юридические вопросы. Например, этично ли удалить из друзей умершего знакомого или правильнее оставить всё как есть — пусть даже он вам больше не напишет и не порадует новыми постами? А если удалить, как к этому отнесутся другие люди? Ещё сложнее ситуация с аккаунтами знаменитостей, особенно с теми, что приносили доход, — могут ли родственники распоряжаться ими, как другим унаследованным имуществом? Для аудитории аккаунтов юридический аспект не так важен, как моральный: а имеют ли право дети, жёны, родители высказываться от лица этого человека? На подобные вопросы пока нет правильных ответов; нужно время, чтобы, во-первых, сформировать новые нормы, а во-вторых, привыкнуть к ним.

Впрочем, в некоторых соцсетях уже давно появились группы, куда родственники могут добавить аккаунт умершего, чтобы сохранить память о нём. Сайты с виртуальными кладбищами начали создавать ещё раньше, причём их создателями двигали разные мотивы. Кто-то хотел просто запомнить человека, сохранить его фотографии и видеозаписи, кто-то создавал базу с указанием мест захоронения, кто-то искал способ заработать на подобных мемориалах. Кстати, почти в то же время появились цифровые кладбища для домашних питомцев: порой люди ведут себя там даже активнее, чем на человеческих.

Превзойдет ли машинный разум, построенный по образцу человеческого, своего создателя?

Этика - это набор моральных норм, регулирующих поведение людей в любой сфере жизни. В целом этика направлена на определение идеальной работы людей. Если ваша цель - поведение людей, имеет ли смысл для машин следовать этическим принципам?

Мы живем в уникальное время в истории человечества, когда искусственный интеллект затрагивает большой спектр вопросов в нашей жизни. Но что если мы на самом деле не знаем, как именно машины принимают решения? Что это значит для человека?

Надо ли бояться технологической сингулярности? Или, наоборот, уместнее опасаться, что прогресс человечества зайдет в тупик?

О приближении технологической сингулярности вы узнаете, когда в небольшом магазинчике на подмосковной станции вам скажут, что заплатить за газировку можно только смартфоном по системе ApplePay. Причины прозаичны: сдачи нет, а платежный терминал завис. Из этого любопытного опыта можно вынести важный урок: новые технологии меняют жизнь неожиданным и порой забавным образом. Может, не так уж страшна эта сингулярность, как многие опасаются. Заведите привычку во всех прогнозах делать поправку на человеческие слабости, и предсказывать будущее станет проще и веселее.

Тем не менее, оказываясь лицом к лицу с неумолимым прогрессом, хочется разобраться, куда он нас заведет. Еще в середине ХХ века математик Джон фон Нейман впервые употребил слово «сингулярность» в отношении технологического развития человечества. Он имел в виду вот что: если попытаться численно измерить человеческие достижения, нарисовать график и продлить его в будущее, то в какой-то момент, кажется, кривая устремится в бесконечность. С точки зрения трезвого ученого это может означать только одно: угаданная тенденция неверна и где-то на пути к этой самой бесконечности закон развития должен измениться. Об этом, кстати, в применении к росту населения Земли очень доступно рассказывал автору этих строк Сергей Петрович Капица в своей последней беседе в 2012 году.

В начале XXI века Рэймонд Курцвейл придал понятию технологической сингулярности чуть более реалистичный смысл. Конечно, ни в какую бесконечность наш прогресс не убежит: закон его роста экспоненциальный, а это значит, что технологии просто растут все быстрее и быстрее, подстегивая себя сами. Точка, вызывающая болезненный интерес футурологов, — не формальная бесконечность, а тот момент, когда скорость самоподдерживающегося роста технологий превзойдет возможность совокупного человеческого разума этот рост контролировать. А с чего бы технологиям расти самим по себе, без человеческого участия? А это, говорит Курцвейл и его приятели-футурологи, произойдет из-за появления на сцене искусственного интеллекта (ИИ).

Экспансия чуждого разума

В нелегком деле вытеснения человечества на периферию жизни искусственному интеллекту предстоит пройти несколько этапов. Вот как они описаны в эмоциональной и поэтичной заметке журналиста-футуролога Майкла Кевина Спенсера под заголовком «Мы живем в последний период перед общим искусственным интеллектом».

Сначала возникает «Узкий ИИ»: это то, что есть уже сейчас. Голосовое общение, распознавание образов, машинный перевод — машины учатся делать то, что люди умели делать и без них. Выглядит это не слишком впечатляюще, но технологии под шумок с 2014-го по 2021 год проходят такой же путь развития, как и за весь двадцатый век.

Второй этап — «Общий ИИ». Говорить о нем можно с того момента, когда машинный разум обретает способность обучаться и совершенствовать себя. Приобретя способность учиться, машины обгоняют человека во всех сферах деятельности, включая творческие задачи, эмоциональный интеллект, управление сложной средой и предсказание будущего. И это уже третий этап — «искусственный суперинтеллект». Эта штука может программировать роботов, обеспечивать функционирование экономики без вмешательства человека, управлять «умными городами» и вообще всем человеческим обществом.

И наконец, четвертый этап: «ИИ с творческой жилкой» (так игриво мы перевели для вас Artificial Intelligence with Creative Agency). Эта штука начинает ставить перед собой задачи, человечеству чуждые и непонятные. Какие именно? В силу их чуждости и непонятности у нас даже нет шансов оценить их размах. Ясно однако, что со стратегическими интересами человечества эти задачи могут совпасть разве что случайно.

Замшелый аргумент, будто бы машины делают только то, что в них заложено людьми, можно отправить в утиль. В 2017 году алгоритм «Альфа Го Зеро» научился играть в го, не используя вообще никаких человеческих наработок: машина просто играла сама с собой, обучаясь исключительно на собственных ошибках*. Куда может завести императив «во что бы то ни стало совершать как можно меньше ошибок во всем», судить невозможно: человечество подобных задач перед собой не ставило, а если и ставило, то в них не преуспело.

Когда ждать катарсиса? Экспоненциальный закон роста компьютерных возможностей позволяет сделать некоторые прикидки. Мощность ИИ сравняется с мощностью человеческого мозга (порядка 10 в шестнадцатой степени операций в секунду) к 2029 году. По прогнозам Рэймонда Курцвейла, к этому моменту ИИ сможет легко пройти пресловутый «тест Тьюринга», то есть общаться с человеком так, что человек не распознает в нем машинный разум. А к 2045 году — опять же по оценкам Курцвейла — его мощность превысит совокупное быстродействие всех человеческих мозгов на планете, то есть 10 в 26-й степени операций в секунду. И тут наши пути разойдутся навсегда.

Ближе к реальности

Увидеть своими глазами экспоненциальный рост ничего не стоит: возьмите бактерию, поместите ее в питательную среду, и через 10 минут она поделится, через 20 поделится еще раз, а часа через три уже можно наблюдать, как среда на глазах мутнеет от стремительного бактериального роста. Прогноз футуролога неутешительный: через сутки масса бактерий в вашей колбе превзойдет массу земного шара. К счастью, этого не произойдет, потому что уже часов через десять микробы перестанут делиться, истощив питательные вещества среды. Урок первый: экспоненциальный закон роста — прекрасное приближение естественных процессов, но лишь до тех пор, пока им ничто не мешает. А этот безмятежный период быстро заканчивается.

Еще один опыт человечество уже поставило в собственной истории. Стремительный рост космических технологий когда-то привел от полета Гагарина к высадке на Луну. Радиус сферы нашей космической экспансии за десятилетие увеличился в тысячу раз. Если бы все так и шло, в 1980 году вместо войны в Афганистане и московской Олимпиады люди наслаждались бы прогулкой по Нептуну, а к 2010-му достигли бы центра Галактики. Почему этого не произошло? Закон развития изменился. С чего бы вдруг? Тут, конечно, ограниченность ресурсов тоже сыграла роль, но главное в другом: в силу определенных причин человечество просто перестало ставить перед собой такие задачи. Итак, урок второй: для прогресса нужна мотивация. ИИ развивается, пока это нужно для решения конкретных задач: например, создать новую ИТ-корпорацию и поглотить Google, обогнать Америку, накормить голодных детей Африки — что угодно, но непременно что-то реальное и человеческое. Когда задача исчезает, прекращается и развитие.