Мы еще НЕ разобрались, как работает человечность. Святослав Вакарчук рассказал о развитии и вызов эпохи искусственного интеллекта

Время отвечать. Ведущий Иван Яковина. Гость - музыкант, лидер группы Океан Эльзы Святослав Вакарчук. Эфир от 09.11.2018

Святослав Вакарчук: Добрый вечер, Иван, очень приятно здесь снова быть в этой студии - она у меня теперь ассоциируется только с наукой.

Иван Яковина: В общем, так и есть. Я всегда стараюсь в своих передачах говорит о науке.

Святослав Вакарчук: Особенно, когда ты говоришь о midterm elections [промежуточные выборы - Ред.] В Америке.

Об искусственном интеллекте говорят многие. По крайней мере, Илона Маск - небезызвестный многим человек - говорит, что это может быть самое важное и в то же время последнее изобретение человечества, что дальше уже мы, может быть, ничего НЕ изобретать по причине того, что: а) мы будем уничтожены ; б) потому что нам больше ничего НЕ понадобится.

Святослав Вакарчук: Да, давай я тоже попробую что-то сказать. Когда мы готовились к эфиру, Ваня предложил начать с сказок. Эти сказки на самом деле очень важны, одна из них - это сказка о Голема. В Праге в еврейской общине была такая легенда, что один раввин создал Голема, который бы помогал людям в каких-то добрых делах. Он был таким сильным и мощным, что им пользовались, чтобы добро самом деле победило зло.

Но по легенде он в какой-то момент вышел из-под контроля, и что было дальше? Как и во всех сказках, понятно, что создатель потерял с ним связь. И сейчас есть такая легенда, что он до сих пор живет в Праге в этом районе (или в других местах), надо быть осторожным, так как неизвестно, с каким намерением он будет - добрым или злым. На самом деле, такая сказка типичной, мы можем вспомнить и более поздние истории.

Иван Яковина: Легенда о чудовище Франкенштейна.

Святослав Вакарчук: Да, мы можем вспомнить роман Мэри Шелли о Франкенштейна, мы можем вспомнить и о более философские вещи, когда, условно говоря, в самом человеке вселялась вторая часть человека, которого она не контролировала, - это доктор Джекил и мистер Хайд Оскара Уайльда .

Но самое главное во всех этих сказках и легендах том, что человек всегда боялась (или представляла и боялась одновременно), что будет создан такой объект или субъект, в какой-то момент будет напоминать человека или будет человеческий облик, но получится из- под контроля ее создателя, и потом будут твориться какие-то ужасы. Кстати, человек-невидимка оттуда.

Фото: Unsplash

Иван Яковина: В общем, пока мы находимся далеко от этого. По Самым оптимистичным прогнозам создание общего искусственного интеллекта (то есть искусственного интеллекта, який бы включала в себя маленькие искусственные подинтеллекты) в самом [лучшем] случае [стоит ждать через] пять-десять лет, но говорят в двадцати и даже пятидесяти годах.

Святослав Вакарчук: Давай начнем с того, что такое искусственный интеллект, и люди называют искусственным интеллектом. На самом деле, очень много названий и ...

Иван Яковина: определена.

Святослав Вакарчук: Дефиниций искусственного интеллекта, и они очень часто отличаются. Давай решим, что мы с тобой под этим понимаем. Что ты понимаешь под словом "искусственный интеллект"?

Иван Яковина Два вида, я бы так сказал: первый - это общий; и второй - частный искусственный интеллект, он также называется тонким. Это, например, то, что содержит Siri; это, например, система, управляющая движением самолетов, автомобилей ...

Святослав Вакарчук: Давай иначе: [что] ты имеешь в виду под этим?

Иван Яковина: способны к обучению программы, Которые самостоятельно решают определенную задачу.

Святослав Вакарчук: Конкретную задачу.

Иван Яковина Одну конкретную задачу. Например, искусственный интеллект, способный выиграть у человека в шахматы или в GO, - вот это было достаточно серьезное достижение, потому что это не просто перебор вариантов, а искусственный интеллект учится будто бы думать, так получается, учится разным тактикам.

И есть общий [искуственный интеллект]: по сути дела, это интеллект вроде человеческого, в котором, правда, не очень понятно, есть ли сознание, потому что сознание - это отдельное, очень сложное ...

Святослав Вакарчук: Так вот, очень важно, что на самом деле можно сказать, это раздел компьютерной информатики, занимающийся формализацией проблем и задач, подобных тем действий, которые выполняет человек. Надо начать рассказывать об истории искусственного интеллекта.

В том числе и первых примитивных роботов, которые просто имели команды, заводские конвейеры и т.д., имели руки, например, или ноги, но не имели головы. А в какой-то момент мы начали думать: а что, если мы начнем создавать такие машины, которые начнут думать или как минимум сначала считать быстрее нас?

Первые компьютеры, сам по себе компьютер - это уже первая заявка к интеллекту, потому что мы ставим перед ним какую-то задачу, и он без нашего ведома выполняет ее за поставленным аргументом. Но знаменитый английский ученый Алан Тьюринг (вы, кстати, я думаю, все видели этот фильм - Игра ума) ...

Иван Яковина Я, кстати, не видел.

Святослав Вакарчук: где прекрасно играет Бенедикт Камбербэтч, он рассказывает о его истории. Это тот парень, который расшифровал Энигму - код немецкой машины; он был знаменитым математиком, который создал потом знаменитый тест Тьюринга, заключающийся в очень простом: если вы можете отличить ...

Пусть есть машина, которая умеет что-то делать, отвечать вам на вопрос, - если человек может с вопросами и ответами понять, человек это или робот, это означает, что это либо человек, или робот. Он говорил, что всегда можно дойти до такой точки, где ты поймешь, что тебе отвечает робот, а не человек. И люди поставили задачу: а можно обойти этот тест? Можно дойти до такого уровня, что мы перестанем вообще думать ...

Иван Яковина: Создать машину, которая сможет обмануть.

Святослав Вакарчук: Да. В 50-60-е годы американские ученые начали этим заниматься, это щедро финансировалось Пентагоном, потому что понятно, что это прекрасная история для возможного ... Представь себе солдата, мы все видели эти фантастические фильмы, как его можно запрограммировать, а дальше он думает, принимает решение сам, представь себе ...

Иван Яковина: Кстати, уже есть такие солдаты.

Святослав Вакарчук: Да. Представь себе шпиона, искусственный интеллект, который умеет обманывать и тому подобное. В 50-60-х годах это очень активно поднимался, это был Гарвард, MIT, Гарвардский колледж, они это все делали. Это был сбор математиков, в частности, знаменитый минский специалист и другие, они занимались моделями, для них это было искусство. Но в какой-то момент это перестало давать конкретные результаты, и Пентагон остановил исследования, на некоторое время они перестали давать результаты. Почему они перестали давать результаты?

Фото: Unsplash

Потому что искусственный интеллект построен на очень простом принципе, который еще называется рекуррентным принципу: ты запускаешь входящее задание, есть какая-то функция, которая ничего не решает, дает выход, возвращается на начало и принимает новую информацию. Чем больше информации, тем ближе она доходит до настоящего развязку. Для качественного существования искусственного интеллекта нам нужно много информации. Мы не имели такой информации раньше.

С появлением а) ​​интернета и б) с тем, как компьютеры начали по закону Мура становиться все более и более работоспособными, более и более продуктивными, в 90-х годах мы получили "новое дыхание" для искусственного интеллекта. Информация стала куча, мы начали терабайтами загружать, тоннами терабайт эту информацию, и оказалось, что эти формулы и функции начинают работать гораздо эффективнее. В 2000-х у нас начался "бум".

Иван Яковина: Big data и вот это все дало огромный толчок развитию искусственного интеллекта. Я хочу сказать, смотрите, что уже есть: самоуправляемы автомобили (пока есть ограничения на их использование, но в общем они существуют) есть компьютерные игроки на бирже, Которые часто работают даже эффективнее, чем обычные трейдеры; есть переводчики - всем известный Google Translate, який постоянно самообучается; есть врачи-диагносты, Которые на основании миллионов самых разных случаев болезней ставят диагноз даже лучше, чем врачи (причем часто делают это гораздо лучше, чем врачи (врачи-люди, имеется в виду). Недавно китайцы создали даже телеведущего ...

Святослав Вакарчук: Да, я тоже видел ...

Иван Яковина: Компьютерного, которого очень сложно отличить от обычного человека. Искусственный интеллект проявляется везде, но это пока узкий искусственный интеллект.

Иван Яковина: В космосе - да где угодно.

Святослав Вакарчук: В транспорте, в космосе. Давай быстренько, коротко пройдемся, чтобы люди поняли, где оно сейчас работает. Не на словах, а конкретно.

Иван Яковина: А люди даже не обратят на это внимания.

Святослав Вакарчук: Газ и нефть: не только находить новые месторождения, но кроме всего, он может сделать логистику, передачу; он будет знать, каким образом гораздо эффективнее это сделать. Это же касается в принципе транспорта. Я Вани уже рассказывал в частной беседе, что МакДональдз давно поставил ...

Искусственный интеллект занимается продажами, принятием заказов на МакДрайв: в американских городах ты подъезжаешь к МакДрайв, вводишь заказ, он передается в их штаб (я не помню, в каком городе он находится) за тысячи километров оттуда; в секунду передает тому, кто делает это заказ; и ты приходишь, получаешь свой заказ так, будто кто-то, как в старые времена, кричал. Оказывается, что это эффективнее, экономит время, увеличивает точность, и главное - уменьшает количество людей, которым нужно платить зарплату (об этом мы отдельно поговорим, это приводит к проблеме безработицы).

Иван Яковина: Например, на Амазоне, когда покупаешь что-нибудь, он предлагает тебе что бы ты еще мог купит. И часто ...

Святослав Вакарчук: Я думаю, что это только начало, будущее ритейла именно такое.

Иван Яковина: Особенно это касается книг - очень часто "попадает".

Фото: Unsplash

Здесь вообще интересно, искусственный интеллект сможет помогать борьбе с коррупцией и сможет ли он уменьшить, уничтожить коррупцию как явление. Это очень интересные философские темы, я не думал об этом, даже дошел до того, а вообще не наступит такой момент, что искусственный интеллект сможет управлять политически государствами ...

Иван Яковина: Сможет, уже сейчас это происходит ...

Святослав Вакарчук: Лучше, чем это делают политики. Тем более, мы видим, что - по крайней мере, пока - у искусственного интеллекта отсутствуют такие понятия, как персональные амбиции, желание отомстить; такие человеческие качества, которые пока, к счастью, имитировать или полностью взять на себя искусственный интеллект не может.

Иван Яковина: Жажда власти и все такое. Смотри, это уже используется в Китае, это очень интересная тема, может быть, даже для отдельного разговора. В Китае очень сложные алгоритмы искусственного интеллекта используются для тотального контроля над жителями Синьцзян-Уйгурского автономного округа.

Там благодаря искусственному интеллекту построили просто дистопию - Адское общество, где все люди находятся под контролем этого искусственного интеллекта; где алгоритмы следят за каждым шагом потенциально неблагонадежных людей; поощряют тех, кто любит Китай, и наказывают тех, кто не любить. И благодаря этому искусственный интеллект ...

Святослав Вакарчук: Это уже какой-то Оруэлл.

Иван Яковина: Да-да, и это есть уже сейчас. Кроме того, что касается управления государством: в Гарвардский университете (ты, по-моему, знаешь эту историю) шесть с лишним миллионов самых разных дел оцифровалы, загрузили в компьютер, он сейчас занимается машинным обучением, и из него Пытаются сделать искусственный интеллект. Будет судья ...

Святослав Вакарчук: Искусственного судью.

Иван Яковина: Будет искусственный судья с искусственным интеллектом, який будет видеть любого человека насквозь: будет видеть, когда человек волнуется, когда он неуверен, когда наоборот - уверен, когда дает какие-то показания, и на основании миллионов реально существовавших уголовных, административных и вторых дел [будет] выдавать единственно Возможное и абсолютно справедливое судебное решение.

Хотел бы ты, чтоб тебя судили, например, в каком-то споре (не берем какие-то уголовные варианты, просто в споре), чтоб тебя судили искусственный интеллект? Потому что, как мне кто-то написал, там будет решать НЕ интеллект, а какой-то дядя с рубильником.

Святослав Вакарчук: Человеческий фактор пока стоит за любой историей, связанной с искусственным интеллектом. Чего мы хотим в правосудии? Независимости, беспристрастности и справедливости. Если бы мы знали, что доступа к этому искусственного интеллекта человек не имеет, то я не исключаю, что в большинстве своем такие решения были бы справедливыми именно потому, что одна из вещей, которую должен иметь судья - быть абсолютно нейтральным ко всем сторонам.

Иван Яковина: А такие понятия, как человечность?

Святослав Вакарчук: Иронично говоря, с украинской судебной системой, я думаю, что было бы не сложно; думаю, что большое количество бизнесменов и обычных людей ...

Иван Яковина: Будет лучше, чем с украинской.

Иван Яковина Я думаю, что это абсолютно неизбежно, потому что уже сейчас появляются автомобили, Которые, по сути дела, управляются искусственным интеллектом - беспилотные автомобили. Потом эти автомобили будут обязательными, потому что они будут управляться гораздо более надежно, чем управляемые людьми, сажать человека за руль будет просто опасно.

А потом и судебные решения будут приниматься только искусственным интеллектом, потому что будет опасно сажать судью: судья - человек, на него можно влият, он может быть таким-сяким-пятым-десятым, и в результате останется только искусственный интеллект в качестве суда.

Фото: Unsplash

И здесь возникает такой, очень интересный вопрос: если искусственный интеллект видит гораздо дальше, знает гораздо больше (судебный искусственный интеллект) для всех людей человек кажется НЕ виновным, а искусственный интеллект этого человека "бах" - и сажает на 100 лет, руководствуясь какими-то своими очень глубокими мотивами, которые мы даже понятий не можем. Мы будем доверять такому искусственному интеллекту или нет? Или отменить его решение?

Святослав Вакарчук: Я думаю, что это вопрос, о котором мы хотели говорить дальше, но давай начнем сейчас. Я считаю, что искусственный интеллект не будет принимать каких-то ... Или менять человеческую жизнь на принципиальном уровне, пока человек [его] контролирует. Потому что наш эгоизм, наши страхи, наша ненависть, наша любовь - это действительно наши инстинктивные реакции, которые нам очень-очень трудно подавить.

Зная, что есть какая-то машина, которая может делать нас то, что подавляет наши первичные инстинкты, мы не согласимся на то, чтобы она это делала, мы всегда будем держать руку на всякий случай на кнопке. И здесь вопрос, о котором мы, пожалуй, должны поговорить: помнишь "Ури, где он, его кнопка?».

Иван Яковина: Да-да.

Святослав Вакарчук: Вопрос в том, до какого момента мы будем спокойны, понимая, что мы всегда знаем, где у этого искусственного интеллекта есть кнопка.

Иван Яковина: В этой всей системе искусственного интеллекта это называется «проблема контроля", она абсолютно фундаментальна. Илона Маск говорит, что мы НЕ имеем права создавать искусственный интеллект в тех пор, пока мы НЕ будем точно - на 120% - знать, как мы можем в любой момент его выключить.

Например, я объясню вам, почему: то, что машина выигрывает у человека в шахматы или в GO и даже через миллионы загруженных судебных дел сможет справедливо судить конкретные вещи, еще ничего не значит - это очень линейные процессы. То есть эти машины могут делать конкретные вещи, которым их научили, запрограммировали.

Иван Яковина: Узкий искусственный интеллект, да.

Святослав Вакарчук: Но, например, ощущение математики у искусственного интеллекта нет. Я объясню слушателям, что я имею в виду. Вы, например, знаете, что маленький ребенок, который только рождается, которая еще младенец, не знает ни языка, ничего. У нее инстинктивно есть ощущение, что цифра 1 отличается от цифры 2 (или цифра 2 от цифры 3). Насколько оно выше - этого я не знаю, но я знаю точно о цифре 1 и 2.

Более того, это касается котят и любых маленьких других животных. Например, когда маленькому ребенку два раза подряд включить свет, она чувствует, что это две вспышки, и она отличает их от друга. Если маленькому ребенку с последовательностью два раза после того включить звук, то она будет ассоциировать эти два раза включения звукового сигнала с такими же двумя разами, когда были вспышки света.

Это означает, что у ребенка интуитивно - или с рождения - присутствует ощущение того, что один раз и два раза - это разные вещи, и ей все равно, это стук по столу, или это моргание, или это какие-то другие вещи, - она все равно и слухом, и зрением воспринимает это как цифру 2, а не 1.

Так вот работа мы еще не можем научить это делать. Еще один пример: маленький ребенок, который якобы не имеет никакого интеллекта, которая только родилась, когда она слышит звук со стороны, она инстинктивно поворачивает голову влево, потому что звук был слева; она не поворачивает голову вправо. Она не знает, лево это или право, но она знает, куда поворачивать голову.

Робот не может сам себя научить это делать. И здесь очень важный вопрос, чтоб мы поняли, что человеческий разум пока имеет большое количество нелинейных связей между нейронами, Которые одновременно делают миллиарды операций в секунду. Не количество операций - миллиарды в секунду, а миллиарды операций в тот же момент, которые между собой связаны-не связаны, и пока нам не хватает мощности и близко, чтобы это понять. Но когда мы дойдем до этого момента, когда ...

Иван Яковина Да, смотри, тут какой важный момент: прогресс НЕ остановить, постоянно идет развитие, поэтому рано или поздно мы сделаем компьютер с достаточной мощностью. Здесь уже возникает вопрос, сможем ли мы в него вдохнуть душу. И здесь вопрос - ты сравнивал ребенка и работа, нам задают вопрос: что будет, когда работы начнут создавать музыку, рисовать картины и трактов Евангелие, прости господи?

Фото: Unsplash

Поясню, что я имею в виду: когда придумывали электрогитару, никто не думал о другом, чем о том, чтобы просто усилить звук акустической гитары. На самом деле, Джимми Хендрикс через несколько лет перегрузил усилитель, сделал звук дисторшна - перегруженной гитары - и с этого создал целый новый стиль рок-музыки и тому подобное. Никто и не думал в этот момент о такой миссии усилителя.

Иван Яковина: Но зато он будет забирать очень много других функций.

Святослав Вакарчук: Это правда.

Иван Яковина: Поговорим о угрозах, которых нам надо ждать от искусственного интеллекта. Первое, что приходит на ум лично мне - это то, что в результате тотальной, повальным автоматизации огромное количество рабочих мест исчезнет. У нас появится огромный класс новых луддитов, Которые начнут сжигать и уничтожать все на свете, начнется ад и космическое вторжение. О чем речь ...

Святослав Вакарчук: Я хочу сразу оппонировать, потому что ...

Иван Яковина: Как минимум 15% американских рабочих мест так или иначе завязаны на транспорт США. То есть 15% населения США с появлением беспилотных автомобилей лишится работы - это как минимум.

Святослав Вакарчук: Ваня, это правда. Я хочу сказать, что такое массовая безработица действительно очевидно, но оно скорее всего коснется одного конкретного поколения людей, которое живет сейчас, и, может, немножко после нас.

Ты упоминал луддитов: луддиты протестовали, это было движение в Англии, когда началось массовое движение ткацких станков, они протестовали против того, что ткацкие станки забирают их работу, очень сильно удешевляют их продукцию и они становятся ненужными, потому что все могут делать машины, не нужны портные и специальные рабочие. Но оказалось, что побочным эффектом ткацких станков было удешевление продукции, больше людей смогли себе купить продукт, который ранее производили только портные.

А это значит, что нужно было больше фабрик - эти же люди пошли автоматизировано работать на более фабрик, и в результате через поколение даже больше людей стали занятыми на фабриках, чем работали ткачами и портными к этому. Поэтому нельзя делать линейных выводов. Я лично считаю, что пока не ввьяжешся в драку, ты не поймешь, что будет.

Очевидно, что сейчас те, кого называют "blue-collar" и "white-collar" (синие воротнички и белые воротнички, то есть люди, которые имеют университетское образование, но выполняют интеллектуально унифицированную линейную работу, например, брокеры, юристы, специалисты по логистике , бухгалтеры и т.д.), будут иметь большие проблемы с работой.

Иван Яковина: телеведущие (как я иногда), радиоведущие.

Святослав Вакарчук: Та же история - ты точно проблем с работой иметь не будешь (в крайнем случае, мы возьмем тебя к себе гитарным техником). А вот музыканты точно не переведутся.

Иван Яковина: Хорошо.

Святослав Вакарчук: Если говорить серьезно о голубых воротничков, понятно, что на фабриках, возможно, также исчезнет простая унифицированная работа. Но представь себе, что поскольку, опять-таки, здешевляться все вещи, появится потребность в том, чтобы обслуживать так называемые искусственные интеллекты и все, что они делают.

Это означает, что в разы увеличится - возможно, даже экспоненциально - количество айтишников; людей, которые занимаются обслуживанием всего, что связано с искусственным интеллектом, компьютерами и т.д.; количество тех, кто производит детали для них, кто добывает редкоземельные металлы, кто занимается кремнием и др.

Я уверен, что через одно-два поколения человечество подстроится под эту ситуацию; и сейчас линейно прогнозировать, что будет, заранее нельзя. И последнее - самое главное - точно увеличится количество творческих профессий.

Фото: Unsplash

Таким образом, я просто призываю всех (особенно молодых людей) помнить, что ваш уровень творческого, абстрактного, интуитивного мышления, на самом деле, будет кормить вас в будущем. То, что вы что-то можете делать прогнозируемо - то, что могут делать и другие - не спасет вас, а скорее всего приведет вас к безработице. Поэтому учитесь делать, занимайтесь творчеством - вот мой основной месседж.

Иван Яковина: Смотри, какая история. Все, что ты говоришь, это правильно, Учитывая Нынешний уровень развития искусственного интеллекта. Но если работы начнут лучше писать музыку, лучше рисовать картины, лучше писать коды (в том числе компьютерные коды), вот тут-то мы и "попляшу", потому что здесь, получается, люди не нужны.

Более того, даже если у нас появится общий искусственный интеллект (а до его появления по Самым оптимистичным оценкам осталось 10 лет, по пессимистичным - 50, в общем, через 50 он все равно наверняка уже появится), и в этом случае этот общий искусственный интеллект в своем развитии настолько превзойдет человека интеллектуально, что он будет делать и физическую, и постоянно повторяющуюся, и творческую работу гораздо лучше людей. И вот здесь возникнут очень серьезные вопросы: а зачем вообще нужны люди?

Святослав Вакарчук: вот, это вопрос очень философский, и я не знаю, хватит ли нам десяти минут, которые у нас остались, для того, чтобы об этом поговорить. Но я хочу еще раз перед философией обратиться к практическому применению и того, что произойдет.

Пока есть большая проблема с пониманием того, как работает ощущение, как работает интуиция, хотя уже существуют программы так называемой искусственной интуиции, которые начинают моделировать человеческую интуицию. Но тем не менее, к концу мы в этом не разобрались. И как работает то, что мы называем человечество, humanity ...

Иван Яковина: Human touch [с англ. человеческое касание, - Ред.].

Святослав Вакарчук: Human touch, да. И есть такая теория, что это все вопрос времени - все равно это химические процессы, и эти химические процессы рано или поздно ...

Иван Яковина: электрохимические.

Святослав Вакарчук: Да, мы рано или поздно их расшифруем, просчитаем, экстраполируем и симулирует. Возможно, это так; но, возможно, на каком-то глубоком этапе мы столкнемся еще с какой-то проблемой, которой мы сейчас не видим, и это нас еще немножко удалит. Не исключено, что Творец (я понимаю, что некоторые очень материалистических людей, которые нас сейчас слушают, будут думать, что я зашел в неинтересны категории, но тем не менее) - тот Создатель, который всех нас создал, - возможно, придумал это как о черепахе и Ахилла? Помнишь ...

Иван Яковина: Парадокс Зенона.

Святослав Вакарчук: Да, парадокс Зенона, как бы ни было, но Ахилл никогда не догонит черепаху в том парадоксе, потому что ... Или вспомни нашу предыдущую программу - первую, - где мы говорили о путешествии во времени, что не может быть скорости большей , чем свет, потому что как только мы приблизимся так близко, чтобы быть у скорости света, время начнет замедляться, а расстояние начнет уменьшаться, и мы никогда не достигнем.

Возможно, Создатель задал такую ​​схему, чем ближе мы будем приближаться к тому, чтобы повторить человека, тем нам будет сложнее и сложнее это делать. И он будет отдалять этот момент до бесконечности, возможно.

Иван Яковина: Но это если верить в бога. А если нет?

Святослав Вакарчук: Ты знаешь, Ваня, здесь я должен признаться: я верю в бога, и поэтому мне сложно сделать ...

Иван Яковина: Понятно. Я вот не верю, поэтому оцениваем все с сугубо материалистической точки зрения: мне кажется, что это все может довольно паршиво закончиться для нас.

Святослав Вакарчук: Давай тогда я скажу тебе последний аргумент, и, возможно, он тоже будет ... Кстати, как человек, который верит в бога не во узком религиозном смысле этого слова, а в большом, философском смысле этого слова; что все имеет свое начало, все имеет свой конец.

Так вот, если считать, что есть определенная начальная сила (назовем ее или богом, или по-другому), которая началась, которая создала все, то рано или поздно будет заложен механизм перехода человечества, - как пока вершины творения, природы - в -то другое.

И не исключено, что одно из двух: или человечество остановится на этом этапе, просто самоуничтожится и не доживет до момента, пока искусственный интеллект его преодолеет; или, возможно, этот искусственный интеллект, о котором мы говорим, который начнет жить в условной сети сам по себе, станет следующим эволюционным творением бога, можно и так об этом думать.

Иван Яковина: То есть мы уже скатимся к уровня каких-то неандертальцев.

Святослав Вакарчук: Почему до уровня? Давай будем прямым текстом говорить: до уровня сначала рыб или каких-то ...

Иван Яковина: А потом микробов.

Иван Яковина: Есть такая очень интересная теория, что мы не видимых инопланетян, потому что все инопланетяне в своем развитии рано или поздно доходят до момента создания искусственного интеллекта, после чего он либо а) уничтожает всех инопланетян; либо б) они полностью все свое сознание загружают в компьютерную сеть, в этой компьютерной сети они себя сами изготавливают "рай" - место бесконечного счастья, бесконечного удовольствия, что-то такое, чего в обычной жизни быть даже близко быть не может, и таким образом они просто исчезают от старости, умирают. И все - на этом заканчивается история человечества.

Фото: Unsplash

Святослав Вакарчук: Если проблема репродуктивности искусственным интеллектом будет решена и проблема бесперебойных источников энергии будет решена, то я не исключаю, что этот вариант возможен. Я просто не считаю, что это противоречит вере в бога, вот и все. Ты помнишь эту знаменитую ... Я думаю, что я это скажу в конце, напомни мне в конце, за одну или две минуты, рассказать сюжет знаменитого романа Айзека Азимова.

Иван Яковина: Хорошо. Я сейчас пока хочу рассказать один известный сюжет Курта Воннегута. Он рассказывал историю тральфамадорцев - воображаемых существ, инопланетян.

Я прямо зачитаю: «В одно время на Тральфамадор жили существа, совсем НЕ похожие на машины. Они были ненадежны. Они были плохо сконструированы. Они были непредсказуемы. Они были недолговечны. И эти жалкие существа полагал, что все сущее должно иметь какую-то цель и что одни цели выше, чем другие. Эти существа почти всю свою жизнь тратили на то, чтоб понять, какова цель их жизни. И каждый раз, когда они находили что-то, что казалось им целью жизни, она оказывалась такой ничтожной и низменное, что эти существа не знали, куда деться от стыда и отвращения. Тогда, чтобы не служит низменным целям, эти существа стали делать для ЭТИХ целей машины. Это давало существам возможность на досуге служит более высоким целям ", - то есть заниматься творчеством.

Святослав Вакарчук: Голем.

Иван Яковина: Да. "Но даже когда они находили более Высокую цель, она все равно оказывалась совершенно недостаточной. Тогда они стали делать машины для поиска более высоких целей. Машины делали все так безошибочно, что им в конце концов даже доверилы поиски цели жизни самых ЭТИХ существ. Машины честно выполнили свою работу и выдали ответ: по сути дела, никакой цели жизни ЭТИХ существ обнаружить не удалось. Тогда существа принялись истреблять друг друга, потому что никак не могли примириться с бесцельностью собственного существования. Они сделали еще одно открытие - они даже истреблять друг друга толком не умели. Тогда они передали это дело машинам. И машины закончили с этим быстрее, чем вы успеете сказать слово "Тральфамадор". Вот такая история.

Святослав Вакарчук: Да, Ваня, ты нарисовал очень апокалиптическую картину. Мне любопытно…

Иван Яковина: Это не я, это Курт Воннегут.

Святослав Вакарчук: Я надеюсь, что все люди, которые ехали за рулем, сейчас спокойно проехали эту часть, никто не нарушил правила, все живы-здоровы и счастливы. Я думаю, что в следующий раз, когда Ваня начинает такую ​​тираду, вы или выключить, или переключайте на радио, где играет джаз.

Всем хочется дожить до того момента. Мы приходим в философский вопрос, и оно к науке имеет мало отношения. Я бы сказал так: поживем - увидим. Мы уже ввязались в эту драку, которая называется "а что будет, если мы создадим машину, которая будет думать и чувствовать так, как мы".

И только в конце нам будет известен результат этой драки. Если говорить слово "драка", что мы начали сами с собой или со своей собственной цивилизацией; или, возможно, со своей собственной гордостью или жаждой к знаниям; начали драку на ринге, если считать, что это боксерский поединок, то где-то во втором, возможно, третьем раунде профессионального поединка.

У нас еще много раундов впереди, и кто победит - или человеческая жажда знаний, или человеческое тщеславие в каком-то смысле, или законы эволюции - этого никто не знает. Я бы хотел закончить на очень простой и очень философской, но очень конкретной истории Айзека Азимова, когда был создан ...

Иван Яковина: У нас еще три минуты, мы пока еще НЕ заканчиваем.

Святослав Вакарчук: Тогда расскажи, что ты хотел сказать?

Иван Яковина Да, смотри, какая еще интересная вещь: в чем еще опасность создания общего искусственного интеллекта - такого, який будет умнее человека, и будет соображать быстрее, чем человек?

В том, что перед тем, как такой интеллект появится, скажем, если он будет появляться в Америке, Китай и Россия могут начать атомную войну, потому что это получается ситуация "the winner takes it all" [победитель получает все, - Ред.] , появится глобальный лидер, догнать которого будет невозможно никогда, вообще никогда.

И поэтому у Китая и России останется только один метод догнать Америку (или вообще хоть что-то с ней сделать) - начать атомную войну. Слухи о возможно появление искусственного интеллекта могут привести к уничтожению человечества, - причем руками самого человечества - еще до того, как появится интеллект.

Святослав Вакарчук: Ваня, я тебе хочу сказать откровенно: к таким серьезным угроз и исчезновения человечества могут привести много других вещей, кроме этой, эта не самая опасная. Я так не считаю, я думаю, что когда нам станет не хватать энергии, которую мы добываем на Земле, когда у нас начнутся проблемы с перенаселением, и вообще - от обычных амбиций каких лидеров мы можем получить большие проблемы.

Когда был создан ядерное оружие, никто не хотел любой ценой остановить другую страну, все просто старались сделать это первыми. Америка сделала это первой, но очень быстро это сделал Советский Союз и другие страны, началась гонка вооружений.

Фото: Unsplash

Скорее всего, я подозреваю, что будет что-то подобное, определенная гонка вооружений искусственных интеллектов, но пока еще раз говорю: человечество контролирует и знает, где кнопка, и пока у нас есть сознание, понимает, какой следующий шаг мы делаем, я надеюсь , что человечеству хватит коллективной мудрости не создать Франкенштейна.

Иван Яковина: Давай Азимова, у нас осталось совсем мало времени.

Святослав Вакарчук: В заключение я хотел рассказать историю. Когда люди, которые продвинулись гораздо дальше, чем мы, и уже имели искусственный интеллект, решили создать уравнение Вселенной. Просто решить уравнение всей Вселенной и понять, как же все функционирует.

Они загрузили все в компьютер, а искусственный интеллект сказал - "недостаточно информации". Прошла еще тысяча лет, они продвинулись гораздо дальше, начали летать в другие галактики. Опять загрузили всю мировую информацию в искусственный интеллект, он долго думал и выдал - "недостаточно информации".

Наконец, прошли еще миллионы лет, и они уже освоили полностью всю Вселенную, погрузили всю информацию Вселенной, которая у них была, они знали все. Компьютер долго-долго думал и сказал "информации достаточно", и начал считать. Они ждали-ждали, и в конце он выдал решение: "Вначале было Слово, Слово было у Бога и Слово было Бог".

Мы в 2020 году. Как изменится Украина?

В четверг, 15 ноября, Состоится финальная работа НВ из цикла "Украина 2020 Что ждет страну".

Что можем сделать мы, чтоб Украина наконец стала успешной страной?