Илья Скакунов
октябрь 2019.
962

Можно ли в будущем доверить управление миром искусственному интеллекту, которому чужды эмоции, потребности, собственная выгода и другое?

Ответить
Ответить
Комментировать
1
Подписаться
3
6 ответов
Поделиться

"Да будет так, Высокий Индинал! — ответил конструктор. — Но каков должен быть основной принцип деятельности Машины?"

"Конечно, принцип свободной инициативы граждан. Машина не должна ничего ни приказывать им, ни запрещать; она может, конечно, изменять условия нашего существования, но только путем предложений, предоставляя нам возможности, между которыми мы будем свободно выбирать".

"Да будет так, Высокий Индинал! — повторил конструктор. — Но это касается путей её действия, а я спрашиваю о конечной цели. К чему должна будет стремиться Машина?"

"Нашему Государству угрожает хаос; ширится анархия и неуважение к законам. Пусть Машина установит на планете Высочайшую Гармонию, пусть установит и упрочит Совершенный и Абсолютный порядок".

"Будет, как вы сказали! — промолвил конструктор. — В течение шести месяцев я построю Установитель Добровольного Абсолютного Порядка. Я берусь это сделать. Прощайте…"

"Погоди, — прервал его один из достойных. — Машина, которую ты построишь, должна действовать не только совершенно, но и приятно, то есть все создаваемое ею должно вызывать ощущения, которые удовлетворили бы самый изысканный вкус…"

Конструктор поклонился и молча вышел. Напряженно работая, с помощью отряда искусных ассистентов он создал Машину для Управления Государством, ту самую, которую ты, чужеземец, видишь на горизонте как тёмное пятнышко.

Это громада железных цилиндров удивительного вида, в которых что-то непрестанно громыхает и вспыхивает. День ее запуска был большим государственным праздником; старейший Архиспирит торжественно освятил её, после чего Высокий Индинал передал ей всю полноту власти. Тотчас же Установитель Добровольного и Абсолютного Порядка протяжно засвистел и приступил к делу.

Шестеро суток Машина работала непрерывно; днем над нею возносились клубы дыма, ночью её окружало светлое зарево. Почва сотрясалась на сто шестьдесят миль кругом. Потом дверцы в ее цилиндрах раскрылись, и оттуда высыпали толпы маленьких чёрных автоматов, которые враскачку, словно утки, разбежались по всей планете, до самых отдалённых закоулков её. Куда бы они ни попали, они собирались у заводских складов и в общепонятных и изящных словах требовали различных товаров, за которые платили без промедления. За одну неделю склады опустели, и достойные — владельцы заводов — облегчённо вздохнули, говоря: "Поистине превосходную Машину построил конструктор!"

Действительно, изумление охватывало при виде того, как автоматы потребляют купленные ими товары: они одевались в парчу и атлас, смазывали себе оси косметикой, курили табак, читали книги, роняя над печальными страницами синтетические слезы, и даже нашли искусственный способ лакомиться деликатесами и сластями (правда, без пользы для себя, ибо питались они электричеством, но зато с пользой для фабрикантов). Только толпы лямкарей не выражали ни малейшего удовлетворения - напротив, их ропот все нарастал.

Достойные же с надеждой ожидали от Машины дальнейших действий, которые не заставили себя ждать.

Она накопила огромные запасы мрамора, алебастра, гранита, горного хрусталя, яшмы, груды меди, мешки золота и серебра, а затем, грохоча и дымя ужасно, построила здание, какого индиоты доселе не видывали,— вот этот Радужный Дворец, что высится пред тобой, чужеземец!

Я посмотрел туда, куда показывал индиот. Солнце как раз выглянуло из-за туч, и лучи его заиграли на шлифованных стенах, рассыпаясь сапфировыми и гранатовыми огнями; радужные пятна, казалось, трепетали у выступов и бастионов, а крыша со стройными шпилями, выложенная золотой чешуей, вся сверкала. Я наслаждался этим великолепным зрелищем, а индиот продолжал:

— По всей планете разнеслась весть об этом дивном здании. Начались настоящие паломничества к нему из самых дальних краев. Когда толпы заполонили все окрестные поля и луга, Машина разверзла свои железные уста и заговорила:

"В первый день Месяца Стручьев растворятся яшмовые врата Радужного Дворца, и каждый индиот, знатный или безродный, сможет по своей воле войти в него и вкусить всего, что его там ожидает. До этого времени сдержите добровольно свое любопытство, как потом добровольно будете его насыщать".

И вот утром, в первый день Месяца Стручьев, загремели серебряные фанфары и с глухим рокотом растворились двери Дворца. Толпы народа потекли в него широкой рекою, втрое шире, чем мощеная дорога, соединяющая обе наши столицы — Дебилию и Морону. Целый день двигались массы индиотов, но толпа их не убывала, ибо из глубины страны прибывали все новые. Машина оказывала им гостеприимство: чёрные автоматы, пробираясь в давке, разносили прохладительные напитки и сытные кушанья. Так продолжалось пятнадцать дней. Тысячи, десятки тысяч, наконец, миллионы индиотов вошли в Радужный Дворец, но из тех, кто вошел, ни один не вернулся.

Кое-кто удивлялся, что бы это могло означать и куда могла сгинуть такая масса народа, но их одинокие голоса тонули в бодром ритме маршевой музыки; проворные автоматы поили жаждущих и насыщали голодных, серебряные куранты на дворцовых башнях вызванивали время, а когда наступала ночь, хрустальные окна Дворца горели огнями. Наконец толпы ожидающих значительно поредели; лишь несколько сот индиотов терпеливо ждали на мраморных ступенях своей очереди, и вдруг, заглушая бравурную барабанную дробь, разнёсся крик ужаса: "Измена! Слушайте! Дворец совсем не чудо, но адская ловушка! Спасайся кто может! Горе! Горе!"

"Горе!" — отозвалась толпа на ступенях, заметалась и кинулась врассыпную. Ей никто не препятствовал.

На следующую ночь несколько отважных лямкарей подкрались к Дворцу.

Вернувшись, они рассказали, что задняя стена Дворца медленно раскрылась и оттуда высыпалось несметное множество блестящих кружков. Вокруг них засуетились чёрные автоматы, развозя их по полям и укладывая замысловатыми фигурами и узорами.

Услыхав об этом, спириты и достойные, ранее заседавшие в Индинале (они не ходили к Дворцу, дабы не смешиваться с уличным плебсом), тотчас же собрались и, желая разгадать тайну, призвали к себе учёного конструктора.

Вместо него явился его сын, он был мрачен и катил перед собой большой прозрачный диск.

Достойные, не владея собой от нетерпения и гнева, бранили учёного и осыпали его самыми тяжкими проклятиями. Они забросали юношу вопросами, требуя объяснить, что за тайны кроются в Радужном Дворце и что сделала Машина с вошедшими туда индиотами.

"Не смейте порочить память моего отца! — гневно ответил юноша. — Он построил Машину, строго придерживаясь ваших приказов и пожеланий; пустив её в ход, он не больше каждого из нас знал, что она будет делать, и лучшее тому доказательство — то, что он одним из первых вошел в Радужный Дворец!"

"И где же он теперь?!" — воскликнул Индинал в один голос.

"Вот он", - скорбно ответил юноша, показывая на блестящий диск.

Надменно взглянул он на старцев и ушёл, никем не задерживаемый, катя перед собою превращённого отца.

© Станислав Лем. Звездные дневники Ийона Тихого. Путешествие двадцать четвёртое

Ну и в итоге из граждан сложили ровные линии и узоры. Так воцарился порядок.

Всяк Сверчокотвечает на ваши вопросы в своейПрямой линии
5
-1

Устала читать. Что-то подобное читала ещё в школе, только там немного другая ситуация была. Тогда понравилось, сейчас….

Всё искусственное не приносит пользу. Людям бы с "натуральными" интеллектами разобраться.

+2
Ответить

Искусственный интеллект приносит громадную пользу. Но на сегодня от него нельзя ждать слишком многого.

0
Ответить
Прокомментировать

Если этому ИИ будут чужды эмоции, потребности, собственные желания, то это будет просто автомат, работающий по заранее составленной программе, пусть даже он и имеет огромную вычислительную мощность. Интеллект - это не просто способность выполнять логические операции, но и способность понимать, что такое хорошо и что такое плохо, какие действия допустимы, а какие категорически неприемлемы, даже если и кажутся выгодными. Иными словами, высокоразвитый интеллект невозможен без того, что у людей называется сознанием.

Каким будет сознание у гипотетического будущего ИИ мы не знаем, но, конечно не таким, как у человека. Я бы поостерегся доверять ему то, от чего могут зависеть жизни и судьбы людей. К счастью, сегодня такая проблема перед человечеством не стоит: до создания искусственного интеллекта еще очень далеко.

Виталий Гробштейнотвечает на ваши вопросы в своейПрямой линии
1
0
Прокомментировать

Доверять управление миром вообще никому нельзя, ни искусственному интеллекту, ни мудрейшему из живущих. Только рабам нужен хозяин, а люди без свободы собственного выбора и возможности альтернативы просто не выживут.

0
0
Прокомментировать

Вряд ли искусственный интеллект, технически способный управлять миром, станет с кем-то советоваться по вопросу, можно ли ему это доверить. Он просто выполнит свою функцию.

Это как динозавры прикидывали бы: а можно ли доверить дальнейшую эволюцию млекопитающим?

0
0
Прокомментировать

ИИ  совершенствуется.  Дело в том  , что эмоции  интеллекту  все-таки  нужны . Без них  нет   импульсов , которые    двигают и питают   энергию , из которой  состоит  наш мир. Добро показывает путь , зло  заставляет  его  двигаться  так и создаются  импульсы. Разум не был бы разумом   , если бы не  видел в этом  пользы  и не   учился  на предыдущих  опытах .  Мы  можем не доверять ему , но он может доверять нам.

2
-3

ИИ пока никто не создал, совершенствовать нечего.

+1
Ответить

Не  все  сообщают по радио и в газетах .А так же  по инету.

+1
Ответить
Ещё 1 комментарий

Вот так вот, не создан. Проблема коротко, любой компьютер работает по может быть очень сложному но алгоритму. Т. Е. Если компьютер вдруг сталкивается с ситуацией которой просто нет в алгоритме, он выдаёт фатальную ошибку, после которой перестаёт работать. Интеллект работает по  иному принципу. Это одна из фундаментальных проблем, которая пока не решена. Есть и другие проблемы. 

Так что эра ИИ пока далеко.

0
Ответить

Как это не создано?ИИ создан давным-давно,тот же сири на вашем телефоне,нужно быть корректнее,ИИ такого уровня,о котором говорит автор еще не разработан.

0
Ответить

Так и было задумано .Все  посмотрели   фильм  " Матрица"  ,поохали , поахали   и  живем  дальше . Мысль  что  нами  управляет   кто-то  невыносима , поэтому   на  ней  не  заостряется  внимание .  Но  оглянитесь,  как часто  вы говорите  с кем-то и    видите , что вас  не  слышат.  Человек  вроде бы  слушает , кивает ,а  сам  где-то  очень далеко    мыслями  от вашего  с ним  диалога .Настоящая  власть  не будет   открыто   себя   рекламировать. Потому  что недовольные  могут    подойти   близко  и просто    разломать  все .  А так  разрушат  просто  ширму , которую не трудно  будет  потом  восстановить.

0
Ответить

Валентина,  вы имеете полное право исповедовать любую веру,  хоть в "матрицу", это ваш личный выбор. Я ,  лично,  его не разделяю.

0
Ответить

Siri это пусть сложная,  но всё же просто программа, которая работает по очень сложному, но всё же алгоритму. СИРИ не равно ИИ, т.к. Сири способен решать только узкопрофильные задачи по распознаванию текста и выполнять команды по жестко заданному алгоритму.
С таким же успехом можно назвать какой-нибудь шахматный симулятор ИИ.

0
Ответить
Ещё 3 комментария

Ты мало знаком с термином ИИ,советую ознакомиться и просветиться в этом вопросе.Да,шахматный симулятор против которого мы играем действует на основе искусственного интеллекта.Видимо в твоем понимании ИИ это только такое сознание,у которого есть собственный разум,воля.Но то и то,по сути является ии,последний просто напросто еше не разработан,но это пока.

0
Ответить

Первое , это ничего что я с вами на вы,  а то вдруг вам как-то неуютно.
Второе,  я хорошо понимаю что такое ИИ.

Был такой Тьюринг,  может слышали,  тот самый кто первый придумал ЭВМ.  Так вот он, написал интересную статью, Вычислительные машины и разум,  статья кстати вышла в 1950 году. Там был предложен тест по определению у конкретной ЭВМ наличия ИИ. Так вот пока никто не создал программу способную этот тест пройти.
Стандартная интерпретация этого теста звучит следующим образом: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы — ввести человека в заблуждение, заставив сделать неверный выбор». Все участники теста не видят друг друга.

И последнее:

шахматный симулятор против которого мы играем действует на основе искусственного интеллекта

Шахматный симулятор лишь перебирает определенные комбинации ходов из тысяч комбинаций ему известных, т.е. он не думает,  он просто отрабатывает заданный в него алгоритм.

0
Ответить

Abilay Sarsek, рекомендую на досуге,  если тема ИИ вам очень интересна изучить основы программирования. Там есть такое понятие как ветвление. В разный средах оно происходит по разному,  но так или иначе почти в каждом языке программирования есть  IF и FOR.  Как только эту тему изучите, вы сразу поймете всю бесперспективность нашего с вами диспута относительно ИИ.

0
Ответить
Прокомментировать
Читать ещё 1 ответ
Ответить
Читайте также на Яндекс.Кью
Читайте также на Яндекс.Кью