Даниил Ф
февраль 2019.
1585

Разумно ли будет для человечества, заменить все мировое правительство искусственным интеллектом?

Ответить
Ответить
Комментировать
4
Подписаться
2
4 ответа
Поделиться

Можно выделить 2 основных вида искусственного интеллекта: основанный на человеческом опыте (современные программы) и самостоятельный (основанный на личном опыте, который мы не можем даже представить).

  1. Различные представители первого вида ИИ уже умудрялись наносить ракетные удары по неверным целям и устраивать панику на биржах. Их проблемы заключаются в недостатке данных, ошибочных допущениях, заложенных разработчиками (людьми), непосредственно дефектах кода... Отдельная тема - ручное манипулирование софтом (как в Китае, например).
  2. Второй вид ещё более непредсказуем, потому что его мотивы людям не только неизвестны, но и недоступны.
    Если же все яйца окажутся в одной корзине, то их можно разбить с одной попытки.

Как было сказано выше, элементы машинного управления обществом уже существуют, и их доля увеличивается. С помощью таких инструментов, как Facebook и Youtube, можно влиять на поведение огромных масс. Как пример приводят выборы Трампа и Brexit - два идиотских поступка 300 и 60 миллионов человек соответственно.

6
-1

Алгоритмические ленты в соцсетях, система рекомендаций в ютубе заставляют блогеров делать контент, который с большей вероятностью будет продвинут роботом широкой аудитории. В итоге стилистика и содержание постов в какой-то мере диктуется роботом.

+3
Ответить

В том числе. Есть и другие особенности информационной среды, на которые могут повлиять и влияют цифровые технологии. Учёные уже давно изучают влияние интернета на человека и достаточно обеспокоены.

+1
Ответить

Цифровые технологии в целом — это шире. Вертикальное видео — это же кошмарный сон кинематографиста. Тут нет ИИ, а технологии есть.

0
Ответить
Прокомментировать

Думаю да, только лучше начать с внедрения ИИ как рекомендательного сервиса. Например оценки рисков, моделирование и прогнозы. Просто так взять и засунуть ИИ вместо людей не получиться, ему мало того, что обучиться нужно, дак и ещё и нам привыкнуть к нему.

Я работаю с ИИ, в частности Google и Яндекс. Они управляют людьми достаточно успешно. И знаете что самое пугающее? Со временем осознаешь, что люди создали то, что не могут понимать... ну в плане не сложно понять как работает ИИ, но когда он обучается становится невозможно понять как он делает выводы (по каким факторам точно). Правильно или не правильно? Исказил ли он смысл из-за неполноты данных или нет? Лечатся такие ошибки только откатами версий. 

~ Это как обучать ребёнка собирать/разбирать конструктор, а потом обнаружить, как он вашего кота на детали разобрал (пытался максимально жестко описать мысль).

Ну я к тому, что первое время необходимо работать вместе с ИИ, и это будет разумно. В них точно есть польза для общества. Лично я не представляю до сих пор, почему к ИИ не обращаются для решения политических и юридических вопросов, думаю хотя бы попробовать стоило уже. Есть десятки систем из людей, которые можно заменить даже одной таблицей Excel, не говоря уж о ИИ. 

Видимо в этой всей бюрократии есть какая то идея, которую сложно мне понять. Как и в том, что мы доверяем больше людям и машин боимся в этих вопросах. Хотя сомнительно, учитывая, что смартфон мы уважаем и доверяем ему жизнь легко. 

Я обычно пример привожу, что в наше время отправить деньги через приложение на телефоне меньше стресса, чем передать их через кассу (пока там 12 форм заполнишь всяких, потом ещё при тебе эти деньги пересчитают раза 3, потом ещё ~АЛО здесь подпись, ...).

4
-3

Наконец-то вразумительный ответ, спасибо)

+2
Ответить

— Во мне все можно найти! — похвастался Googlе. — Я самый главный в мире! — заявил Интернет — Не существует задачи, которую я не мог бы решить - сказал Искусственный интеллект.

Ну, ну … — тихо ответило электричество )))))

+2
Ответить

Влияние на выбор гражданами–избирателями кандидатов в депутаты от партий (или самовыдвиженцев), если не в предстоящих, то на последующих будущих политических выборах в Госдуму, искусственный интеллект (ИИ, самообучающаяся нейросеть) будет оказывать опосредовательным образом более чем существенное значение, усиливающееся от выборов к очередным выборам.

Это очевидно исходя из текущего уровня и последующего прогнозируемого уровня развития информационных технологий и искусственного интеллекта – нейросети.

Искусственный интеллект (самообучающаяся нейросеть) посредством специализированных поисковых ботов, сможет опосредовано влиять на мнение избирателей. Как и поспособствовать полному проигрышу на выборах партии власти и провластным кандидатам самовыдвиженцам, и соответственно убедительному выигрышу в выборах другим политическим силам.

Чтобы для действующей власти (и правящей элиты), это не стало неожиданным неприятным "сюрпризом", а для россиян изменение политического устройства общества не повлекло за собой негативных последствий.

Необходимо заблаговременно власти начать договариваться с обществом по поиску компромиссных решений существующих социально-экономических проблем, учитывающих больше интересы общества (народа) и немного меньше интересы правящей элиты и бизнеса. Подробно в статье https://олег-бегов.рф/vibori-ii.html

0
Ответить
Прокомментировать

Мне бы не хотелось так думать. Но если все таки безумец человек решиться отдать себя в руки своему творению....Это будет конец.Вся фантастика оживет.Ученик должен превзойти учителя- ведь так.Машина не имеющая души не только не допустит ошибок но и поступит логически и разумно всегда.В отличии от человека который может что то и забить любуясь на закат. В другом варианте также останется кучка умников по своим интересам.Зачипируют и закодируют.Для подавляющего большинства перспективы мрачные.Тогда уже будем не люди-а роботы.

0
-1
Прокомментировать

Это было бы неразумно. Какими бы ни были возможности ИИ, но целеполагание в человеческом обществе должно осуществляться людьми, а не машинами. В теории можно даже представить правительство, состоящее из ИИ, но чтобы оно удовлетворяло задачам человечества, у людей должна быть возможность отправить это правительство в отставку в любой момент времени. Не говоря уже о том, что сама постановка вопроса об управлении людьми искусственным интеллектом входит в противоречие с нашей психологией. В обществе должны напрочь атрофироваться такие вещи, как творчество, комбинаторика, соревновательность, риск, чтобы оно согласилось терпеть подобную реальность.

2
-3

Просто вам пока сложно осознать, что лучше иметь под рукой калькулятор, чем человека счетовода. Мы уже все давно полагаемся на технику, наша психология давно готова к тому, что бы доверять ей больше, чем людям.

+1
Ответить

Почему же? Осознаю. Просто есть серьёзное различие между калькулятором и мировым правительством. Калькулятор ли, компьютер ли, осуществляют задачи, заложенные в них человеком. А здесь предлагается положиться на ИИ, чтобы он сам нам устанавливал задачи. Разница фундаментальная.

+1
Ответить

Калькулятор нами не командует и не определяет планы на то как нам жить

+1
Ответить

Разве? 

Если его использовать только для решения домашки да, а вот если на нём (или его производных) считать свой бюджет например, то он вам планы строит. 

Если вы доверяете погоде и времена не телефоне, то он определяет в этом смысле ваше поведение. Не говоря уж о навигаторах, где конструируются маршруты и показываются загруженности дорог.

Социальные сети, которые уже давно используют умные ленты определяют контент, который необходимо вам показывать. Поисковые системы собирают и используют данные о вас, по факту их анализа определяют какую рекламу или какую ссылку в выдаче где поставить, т.е. они напрямую дают вам информацию.

Да ладно, вами даже светофоры командуют, а это давно уже не просто фонарики, а централизованная система по трафику в городе.

+1
Ответить
Ещё 12 комментариев

Это все не совсем то Никак калькулятор ни соцсети сами не решат, что вот вам нужно выполнить пятилетку или жить так то в обязательном порядке. Или не скажут, раз у тебя социальный рейтинг в минусе то было бы рационально тебя усыпить

0
Ответить

Ну да, но и люди не всегда могут наказать виновного, и помочь невинному. Да и в юриспруденции есть прецеденты, где и машина не справится, да и человек до сих пор (Терри Шайво, Вагонетка, ...). Но почему бы не попробовать? Интересно же посмотреть, а иногда даже было бы интересно увидеть, что эталонный мозг скажет, когда люди выносят условные года лишения свободы за убийство например.

В Китае недавно участвовала ИИ в судебном процессе, я не вижу ничего в этом плохого, пока она лишь участвует.

Я в своём ответе настаивал на участии только, ибо мне кажется глупо не пользоваться таким инструментом. Политика имеет в себе много входов, куда можно было бы подключить аналитику. 

Конечно с другой стороны ИИ всё же коректируются человеком и будут работать несовершенно, если попадут в руки тем, кому не следовало бы. Хотя мой опыт показывает, что влиять на ИИ не так просто (слишком жесткая модель после обучения).

0
Ответить

Всё так, за исключение одного но. Вы используете логику "или, или". Или телефон влияет на наше поведение, или мы влияем на его работоспособность. Но такая логика бывает крайне редко. Гораздо чаще бывает "и, и":

И социальные сети определяют наше поведение, и мы определяем развитие социальных сетей. И светофоры контролируют движение на дорогах, и люди контролируют количество и качество светофоров.

И граница здесь только в том, кто над кем имеет определяющее значение. Мы можем выключить светофоры? Конечно. Светофоры могут выключить нас? Конечно нет)))

+1
Ответить

Гораздо чаще бывает "и, и"

Согласен, у нас симбиоз с техникой. Только мы им даём ресурсы, а нам дают функции, условно. Данные о нас они сами уже давно собирают, без нашего спроса.

И социальные сети определяют наше поведение, и мы определяем развитие социальных сетей.

В этом есть эффект очень интересный, когда мы дорабатываем систему по указаниям этой системы. В последнее время редко кому-то приходит что-то гениально. Чаще всего все доработки формируются из аналитики. Да ИИ пока не особо умеет себя дорабатывать, но вот ТЗ уше пишут сами программы для себя в каком то смысле.

И светофоры контролируют движение на дорогах, и люди контролируют количество и качество светофоров.

В идеале можно (или уже есть) системы, которые сами укажут об необходимости светофоров. Как в банках есть системы для расставания точек отделений и банкоматов по аналитике (анализ по градиенту с карты спроса идёт, например).

Да нам даже кредиты одобряет уже робот.

Мы можем выключить светофоры? Конечно. Светофоры могут выключить нас? Конечно нет

Но рационально ли спрашивать такое? Функция светофоров управлять трафиком, конечно они не могут отключить нас. Но есть системы, которые могут при желании нами управлять. Интернет-маркетинг почти полностью из них состоит например.

Единственное, чем мы можем пока спасаться от мысли того, что нами уже давно управляют машины частично, это то, что в наших руках провод от вилки в розетке энергопитания.

0
Ответить

Не могу с вами согласиться. Чтобы разобраться в вопросе полностью, необходимо его полностью упростить. Существует ли компьютер отдельно от человека? Нет, компьютер существует только в человеческом окружении. Не дай Бог, погибнет человечество, и компьютеры тоже выйдут из строя. Одномоментно или по мере выключения электричества, старения материалов корпуса, критических ошибок операционной системы, износа кабелей, жёстких дисков и прочего (это уже не существенно). Бывает ли интернет-маркетинг отдельно от человеческого общества? Нет, не бывает. Не будет людей, не будет и маркетинга. Естественно, речь о вещах, созданных людьми. Нельзя исключать, что во Вселенной где-то существуют иные компьютеры и иной Интернет. В таком случае будет другая причинно-следственная связь.

Но это только часть ограничения ИИ. Есть и другое обстоятельство. Попробую его выразить. Мы (человечество) развиваемся. В своём развитии наша цивилизация прошла ряд крупных этапов. Мы существовали в логике собирательства пока не научились охотиться на крупных зверей и удить рыбу. Существовали в логике охоты и рыболовства пока не научились земледелию. Был феодальный строй,  был индустриальный строй, сейчас вот капитализм, постмодернизм. История нас учит, что чем больше развивается общество, тем больше задач перед нами возникает. Теперь поговорим о ИИ. Представьте, что ИИ запрограммирован определённым образом (в конкретное время, в конкретный этап развития общества, под конкретные задачи, стоящие перед обществом). Представьте, что все свои задачи он успешно решает, но цивилизация наша перестала развиваться. В обществе стагнация, нарастает кризис, требуется изменение парадигмы развития. Аналогия - доиндустриальное общество наращивает производство зерна, мясо-молочных продуктов, но этого недостаточно. Города тонут в конском навозе, связность дорожной экономики не соответствует уровню производства, люди из одних стран умирают от голода, в других странах войны, эпидемии, государства грызутся за наиболее ценные ресурсы, обеспечивающие временное решение проблем. Что здесь сможет сделать ИИ, функционирующий в рамках решения прошлых задач? Здесь необходим выход за пределы прежнего мышления. И пока человек не найдёт этот выход, не убедится в его эффективности, ИИ так и будет клепать стандартные для прошлого этапа развития решения. А когда человек отыщет новую парадигму развития, он внесёт изменения в ИИ (или создаст новые инструменты под новые задачи) и пока не исчерпается ресурс нового открытия, человечество будет снова эффективно развиваться. То же самое земледелие для своего времени было невероятной инновацией. И совсем не просто было до него додуматься людям (охотникам), для которых копание в земле считалось совершенно презренным занятием.

На горизонте у человечества целый ряд проблем. Не думаю, что, к примеру, войны, рискующие привести планету к ядерной зиме (горячие, холодные, информационные) можно прекратить с помощью компьютерных сетей. Наоборот, компьютерные технологии очень активно используются для ведения таких войн. Здесь требуется совершенно иное решение, до которого люди ещё не дошли.

0
Ответить

Вы сильно переоцениваете важность человека, или наивно ограничиваете его возможности в создании технологий.

Какая разница кто главнее? Кто от кого зависит? Вопрос не в этом, а в том, насколько функции ИИ совершенны относительно людей, и по этому почему бы их не использовать. Как мы уже используем их, как они уже влияют на нашу жизнь.

Но если пофантазировать, то машины уже собирают машины. Машины умеют программировать. Машины умеют делать всё, что умеет человек. Аргумент про источник энергии не особо работает, ведь как будто человек не зависит от источника природы, которая его создала, но которой он пытается управлять.

Тот кто появился первый не имеет значения, не это определяет превосходство.

0
Ответить

"Вы сильно переоцениваете важность человека, или наивно ограничиваете его возможности в создании технологий".

В этом предложении нет логики. Переоцениваю я людей или недооцениваю? :) От чего отталкиваемся?

Вообще, я не говорю кто главнее. Говорю что от кого зависит. Ещё раз повторю. Представьте, что Интернет исчез. Люди останутся жить? А теперь представьте, что исчезли люди - будет ли Интернет? Вот и всё доказательство. Предельно коротко. Безусловно у людей есть зависимость от компьютерных технологий, но она не фундаментальная. Зависимость же компьютера от человека полная и безоговорочная.

0
Ответить

В этом предложении нет логики. Переоцениваю я людей или недооцениваю?

Дак именно я не понимаю. Вы говорите, что технологии против людей слабы, ибо человек важнее и могущественнее, но в тоже время это следствие сомнения в том, что человек может сделать технологию выше себя.

Сможет ли всемогущий бог создать камень, который не сможет поднять?

Ну а я считаю, что человек уже давно создал то, что сильнее его, и как я ответил в ответах, его тщеславие держится лишь на выключателе, что не очень надёжно.

0
Ответить

"Дак именно я не понимаю. Вы говорите, что технологии против людей слабы, ибо человек важнее и могущественнее, но в тоже время это следствие сомнения в том, что человек может сделать технологию выше себя".

Мы разговариваем на разном языке. В моём нет слов типа могущественнее и главнее. У меня чисто логическое восприятие - ИИ в отрыве от человека не имеет для человека ни ценности, ни особого смысла. Почему не имеет? Потому что все компьютерные технологии - это инструмент для решения человеческих задач. Поэтому сама постановка вопроса, "что или кто главнее" не имеет смысла. ИИ не является актором, у него нет свободной воли. В этой паре только одно действующее лицо - это человек. ИИ - наш инструмент. А выключатель, розетка - это доказательство данного факта. Предвидя ваше возражение, я скажу следующее:

В теории ИИ может в будущем уничтожить человечество. Но я не вижу ни одного сценария, в котором это могло бы произойти по воле самого ИИ. Это фактор риска. Такой же, к примеру, как и риск аварии на АЭС. Но это фактор риска человеческой деятельности, поскольку целеполаганием ИИ занимается именно человек, а сам ИИ способен только перебирать варианты решения задач. И здесь он конечно нас в определённой степени превосходит.

0
Ответить

В этом рассуждении есть одно слабое место. Вы говорите об опыте человечества так, словно оно состоит из людей, проживших непрерывную жизнь от пещер до космолётов.
Но дело в том, что никто из нас не создавал первого каменного рубила: мы знаем о рубилах лишь из базы данных, накопленных человечеством за его историю. Таков же наш опыт во всём, с чем мы не соприкасались: это не наш личный опыт. 

Мы используем чьи-то знания, не свои, знания других людей (существ) из прошлого!  Причём используем успешно.

ИИ, по вводным условиям, обладает способностями не ниже человеческих, а выше. В том числе и способностями к выводам на основе  из базы данных, накопленных не им.

В таком случае - что заставляет предполагать, что выводы и решения ИИ будут хуже человеческих? Отсутствие эмоций и морали? Но современные системы уже осваивают и эмоции, и мораль. Можно говорить о несовершенстве - но не стоит забывать, что развитие таких систем (точнее, электронного сознания) идёт по экспоненте, с ускорением. И через некоторое время речь пойдёт о несовершенстве человеческой морали... Впрочем, об этом говорят со времён фараонов.

Слабое место человека при решении разного рода проблем, особенно глобальных - неспособность сопоставлять между собой одновременно большое количество данных, что и приводит к неоптимальному (неверному или несправедливому) решению. Это касается и технических, и гуманитарных вопросов.

Никакой, самый справедливый и праведный судья не сможет учесть абсолютно всех обстоятельств дела и не сможет избавиться от личных пристрастий и эмоций. Если он - человек.

Особенно, если дело слушается в России.

+1
Ответить

"что заставляет предполагать, что выводы и решения ИИ будут хуже человеческих?"

Вы не правильно меня поняли. Действия ИИ могут быть эффективнее, чем действия людей. Гораздо эффективнее. Но ИИ не имеет воли. Это как сравнить человека с костром, который и разжёг человек для того, чтобы согреться и приготовить пищу. Естественно костёр намного эффективнее отогревает человека, чем он может обогреться с помощью механических действий (бега по лесу или, например, растирания себя руками). Костёр в случае не соблюдения правил пожарной безопасности может даже выйти из под контроля. Тогда случится пожар. Но называть костёр актором, действующим лицом будет неправильно. Он лишь инструмент, служащий человеку. Последний вывод, тем не менее, не означает, что им не могут воспользоваться и другие акторы.

Что касается опыта человечества, то непрерывное его проживание конкретными людьми является совершенно необязательным. Для этого достаточно системы передачи информации (например, такой как письменность) и системы обучения (более или менее эффективная, она есть во всех человеческих обществах). Впрочем, можно обойтись и без письменности. Так, в ранних обществах наизусть заучивали очень большие объёмы информации. Эпос, древние священные "тексты". Не говоря уже о свойствах окружающей человека природы, знания о которой медленно, но верно накапливались с каждым этапом цивилизации.

А главное, вы пропустили мимо себя тот тезис, что я писал раньше. Он заключается в том, что для развития общества недостаточно увеличивать эффективность определённого рода действий. Наступает момент, когда прежняя парадигма начинает давать сбои. И чтобы эти сбои не превратились для человечества в критические ошибки, необходимо создавать новую парадигму существования общества. Другими словами я утверждаю, что ИИ способен производить эффективные действия в логике интенсивного развития, но бесполезен в качестве инструмента экстенсивного развития.

0
Ответить

В последнем сообщении мной перепутаны термины. Интенсивный и экстенсивный нужно поменять местами.

0
Ответить

Не думаю, что, к примеру, войны, рискующие привести планету к ядерной зиме (горячие, холодные, информационные) можно прекратить с помощью саморазвивающихся компьютерных сетей. Вот так точнее.

0
Ответить

С помощью людей они тоже не особо удачно прекращаются. Прекращаются только тогда, когда кто-то побеждает.

+1
Ответить
Ещё 3 комментария

Вы не поняли. Задача не прекратить текущие войны, а прекратить войны в принципе. И уж по меньшей мере убрать угрозу ядерной войны.

0
Ответить

Эту задачу вы не решите без максимального учёта потребностей всех людей с условием исключения пристрастного отношения к тем или иным группам и лицам. Такая задача невыполнима для биологического существа.

0
Ответить

Есть прекрасный пример, когда две нейронных сети заставляли играть в старкрафт множество раз для оттачивания алгоритма победы, в итоге чего они просто перестали воевать.

Может я ошибаюсь, но в наше время ядерное оружие вообще ничего не решает. Кого оно пугает вообще? Какое оно может дат превосходство, если чуть ли не у каждой страны есть щит или система ответного удара? В плане ядерного оружия мир уже давно пришел к тупику. Оно должно быть, и при этом оно бесполезно, ибо использовав его вы просто самоликвидируетесь по факту, а не победите.

0
Ответить
Прокомментировать
Ответить
Читайте также на Яндекс.Кью
Читайте также на Яндекс.Кью