Илья Скакунов
16 октября 08:52.
527

Можно ли в будущем доверить управление миром искусственному интеллекту, которому чужды эмоции, потребности, собственная выгода и другое?

Ответить
Ответить
Комментировать
1
Подписаться
3
6 ответов
Поделиться

"Да будет так, Высокий Индинал! — ответил конструктор. — Но каков должен быть основной принцип деятельности Машины?"

"Конечно, принцип свободной инициативы граждан. Машина не должна ничего ни приказывать им, ни запрещать; она может, конечно, изменять условия нашего существования, но только путем предложений, предоставляя нам возможности, между которыми мы будем свободно выбирать".

"Да будет так, Высокий Индинал! — повторил конструктор. — Но это касается путей её действия, а я спрашиваю о конечной цели. К чему должна будет стремиться Машина?"

"Нашему Государству угрожает хаос; ширится анархия и неуважение к законам. Пусть Машина установит на планете Высочайшую Гармонию, пусть установит и упрочит Совершенный и Абсолютный порядок".

"Будет, как вы сказали! — промолвил конструктор. — В течение шести месяцев я построю Установитель Добровольного Абсолютного Порядка. Я берусь это сделать. Прощайте…"

"Погоди, — прервал его один из достойных. — Машина, которую ты построишь, должна действовать не только совершенно, но и приятно, то есть все создаваемое ею должно вызывать ощущения, которые удовлетворили бы самый изысканный вкус…"

Конструктор поклонился и молча вышел. Напряженно работая, с помощью отряда искусных ассистентов он создал Машину для Управления Государством, ту самую, которую ты, чужеземец, видишь на горизонте как тёмное пятнышко.

Это громада железных цилиндров удивительного вида, в которых что-то непрестанно громыхает и вспыхивает. День ее запуска был большим государственным праздником; старейший Архиспирит торжественно освятил её, после чего Высокий Индинал передал ей всю полноту власти. Тотчас же Установитель Добровольного и Абсолютного Порядка протяжно засвистел и приступил к делу.

Шестеро суток Машина работала непрерывно; днем над нею возносились клубы дыма, ночью её окружало светлое зарево. Почва сотрясалась на сто шестьдесят миль кругом. Потом дверцы в ее цилиндрах раскрылись, и оттуда высыпали толпы маленьких чёрных автоматов, которые враскачку, словно утки, разбежались по всей планете, до самых отдалённых закоулков её. Куда бы они ни попали, они собирались у заводских складов и в общепонятных и изящных словах требовали различных товаров, за которые платили без промедления. За одну неделю склады опустели, и достойные — владельцы заводов — облегчённо вздохнули, говоря: "Поистине превосходную Машину построил конструктор!"

Действительно, изумление охватывало при виде того, как автоматы потребляют купленные ими товары: они одевались в парчу и атлас, смазывали себе оси косметикой, курили табак, читали книги, роняя над печальными страницами синтетические слезы, и даже нашли искусственный способ лакомиться деликатесами и сластями (правда, без пользы для себя, ибо питались они электричеством, но зато с пользой для фабрикантов). Только толпы лямкарей не выражали ни малейшего удовлетворения - напротив, их ропот все нарастал.

Достойные же с надеждой ожидали от Машины дальнейших действий, которые не заставили себя ждать.

Она накопила огромные запасы мрамора, алебастра, гранита, горного хрусталя, яшмы, груды меди, мешки золота и серебра, а затем, грохоча и дымя ужасно, построила здание, какого индиоты доселе не видывали,— вот этот Радужный Дворец, что высится пред тобой, чужеземец!

Я посмотрел туда, куда показывал индиот. Солнце как раз выглянуло из-за туч, и лучи его заиграли на шлифованных стенах, рассыпаясь сапфировыми и гранатовыми огнями; радужные пятна, казалось, трепетали у выступов и бастионов, а крыша со стройными шпилями, выложенная золотой чешуей, вся сверкала. Я наслаждался этим великолепным зрелищем, а индиот продолжал:

— По всей планете разнеслась весть об этом дивном здании. Начались настоящие паломничества к нему из самых дальних краев. Когда толпы заполонили все окрестные поля и луга, Машина разверзла свои железные уста и заговорила:

"В первый день Месяца Стручьев растворятся яшмовые врата Радужного Дворца, и каждый индиот, знатный или безродный, сможет по своей воле войти в него и вкусить всего, что его там ожидает. До этого времени сдержите добровольно свое любопытство, как потом добровольно будете его насыщать".

И вот утром, в первый день Месяца Стручьев, загремели серебряные фанфары и с глухим рокотом растворились двери Дворца. Толпы народа потекли в него широкой рекою, втрое шире, чем мощеная дорога, соединяющая обе наши столицы — Дебилию и Морону. Целый день двигались массы индиотов, но толпа их не убывала, ибо из глубины страны прибывали все новые. Машина оказывала им гостеприимство: чёрные автоматы, пробираясь в давке, разносили прохладительные напитки и сытные кушанья. Так продолжалось пятнадцать дней. Тысячи, десятки тысяч, наконец, миллионы индиотов вошли в Радужный Дворец, но из тех, кто вошел, ни один не вернулся.

Кое-кто удивлялся, что бы это могло означать и куда могла сгинуть такая масса народа, но их одинокие голоса тонули в бодром ритме маршевой музыки; проворные автоматы поили жаждущих и насыщали голодных, серебряные куранты на дворцовых башнях вызванивали время, а когда наступала ночь, хрустальные окна Дворца горели огнями. Наконец толпы ожидающих значительно поредели; лишь несколько сот индиотов терпеливо ждали на мраморных ступенях своей очереди, и вдруг, заглушая бравурную барабанную дробь, разнёсся крик ужаса: "Измена! Слушайте! Дворец совсем не чудо, но адская ловушка! Спасайся кто может! Горе! Горе!"

"Горе!" — отозвалась толпа на ступенях, заметалась и кинулась врассыпную. Ей никто не препятствовал.

На следующую ночь несколько отважных лямкарей подкрались к Дворцу.

Вернувшись, они рассказали, что задняя стена Дворца медленно раскрылась и оттуда высыпалось несметное множество блестящих кружков. Вокруг них засуетились чёрные автоматы, развозя их по полям и укладывая замысловатыми фигурами и узорами.

Услыхав об этом, спириты и достойные, ранее заседавшие в Индинале (они не ходили к Дворцу, дабы не смешиваться с уличным плебсом), тотчас же собрались и, желая разгадать тайну, призвали к себе учёного конструктора.

Вместо него явился его сын, он был мрачен и катил перед собой большой прозрачный диск.

Достойные, не владея собой от нетерпения и гнева, бранили учёного и осыпали его самыми тяжкими проклятиями. Они забросали юношу вопросами, требуя объяснить, что за тайны кроются в Радужном Дворце и что сделала Машина с вошедшими туда индиотами.

"Не смейте порочить память моего отца! — гневно ответил юноша. — Он построил Машину, строго придерживаясь ваших приказов и пожеланий; пустив её в ход, он не больше каждого из нас знал, что она будет делать, и лучшее тому доказательство — то, что он одним из первых вошел в Радужный Дворец!"

"И где же он теперь?!" — воскликнул Индинал в один голос.

"Вот он", - скорбно ответил юноша, показывая на блестящий диск.

Надменно взглянул он на старцев и ушёл, никем не задерживаемый, катя перед собою превращённого отца.

© Станислав Лем. Звездные дневники Ийона Тихого. Путешествие двадцать четвёртое

Ну и в итоге из граждан сложили ровные линии и узоры. Так воцарился порядок.

Всяк Сверчокотвечает на ваши вопросы в своейПрямой линии
6
-1

     Устала читать. Что-то подобное читала ещё в школе, только там немного другая ситуация была. Тогда понравилось, сейчас….

     Всё искусственное не приносит пользу. Людям бы с "натуральными" интеллектами разобраться. 

+2
Ответить

Искусственный интеллект приносит громадную пользу. Но на сегодня от него нельзя ждать слишком многого.

0
Ответить
Прокомментировать

Если этому ИИ будут чужды эмоции, потребности, собственные желания, то это будет просто автомат, работающий по заранее составленной программе, пусть даже он и имеет огромную вычислительную мощность. Интеллект - это не просто способность выполнять логические операции, но и способность понимать, что такое хорошо и что такое плохо, какие действия допустимы, а какие категорически неприемлемы, даже если и кажутся выгодными. Иными словами, высокоразвитый интеллект невозможен без того, что у людей называется сознанием.

Каким будет сознание у гипотетического будущего ИИ мы не знаем, но, конечно не таким, как у человека. Я бы поостерегся доверять ему то, от чего могут зависеть жизни и судьбы людей. К счастью, сегодня такая проблема перед человечеством не стоит: до создания искусственного интеллекта еще очень далеко.   

Виталий Гробштейнотвечает на ваши вопросы в своейПрямой линии
1
0
Прокомментировать

Доверять управление миром вообще никому нельзя, ни искусственному интеллекту, ни мудрейшему из живущих. Только рабам нужен хозяин, а люди без свободы собственного выбора и возможности альтернативы просто не выживут.

0
0
Прокомментировать

Вряд ли искусственный интеллект, технически способный управлять миром, станет с кем-то советоваться по вопросу, можно ли ему это доверить. Он просто выполнит свою функцию.

Это как динозавры прикидывали бы: а можно ли доверить дальнейшую эволюцию млекопитающим?

0
0
Прокомментировать

Вы обсуждаете то чего в природе не существует. Созданию ИИ пока мешает некоторые фундаментальные особенности построения компьютеров. Так что человечеству до ИИ как до Венеры. 

А вы уже наделяете ИИ эмоциями... 

0
-1

Почему все зациклились на эмоциях? Я никого ничем не наделял, а написал это лишь чтобы показать возможные плюсы ИИ в сравнении с человеком, который может быть движим, например, эмоциональным отношением к конкретной проблеме(остро воспринимает вопрос принижения роли его нации), в результате чего возможны военные конфликты. Цель вопросы была следующая: какие на ваш взгляд прогнозы НА БУДУЩЕЕ (да да, там слово это есть) в становлении ИИ на путь руководителя. То, что написан бред в первом комментарии никак не связан с темой вопроса. Вроде никого не просили размышлять на тему добра/зла, эмоциональных стимулов совершения действий и тд.

+1
Ответить

ИИ пока нет в природе, глобально никто не знает как его вообще создать. Есть несколько на данный момент неразрешимых проблем. Часть специалистов вообще считает ИИ утопией. Вот это ключевое, а каким будет то, что еще не создано.... просто фантазии

0
Ответить
Прокомментировать
Читать ещё 1 ответ
Ответить