Почему люди боятся искусственного интеллекта и каков смысл в уничтожении человечества для него?

Ответить
Ответить
Комментировать
2
Подписаться
3
10 ответов
Поделиться

Чисто теоретически, конкуренция за ресурсы между нами и неким ИИ может возникнуть. Хотя вовсе и не обязательно.

А вообще, люди боятся (всегда боялись и будут боятся) всего непонятного и, тем более, более умного чем они сами. 

М.б. мы с нашим разумом будем для ИИ как муравьи -- можно изучать, можно давить, можно давить изучая, можно опыты ставить. Можно для развлечения заставлять скакать через обруч с огнем. Как мы обращаемся не только с муравьями, но и с вполне близкими по разуму обезьянами. Как обращаемся с собаками, китами? Как некоторые просто любят мучить животных? Если разумность ИИ будет настолько превосходить нашу, что мы, с нашими поистине идиотскими конфликтами (как русские с украинцами, например) будем казаться носителям ИИ каким-то недоразвитым недоразумением.

А может быть ИИ захочет даже заняться нашим развитием. Будет помещать нас в некие правильные по его мнению условия, воспитывать. 

Это все вполне реально, мы сами так поступаем с теми, кто менее разумен.

Так что опасения не совсем уж беспочвенны.

P.S. Некоторые почему-то подразумевают под ИИ чисто холодный "механический" интеллект более быстрый чем наш. Но это вовсе не обязательно так. Машине тоже можно дать рецепторы, дать чувства и ее личность может быть такой же или более сложной, противоречивой, как и наша.

Стоит ли наложить мораторий на разработки роботов и искусственного интеллекта, чтобы избежать тотальной безработицы?

14
-1
Автор удалил свой комментарий

А почему у ИИ не может быть чувств? )

Вообще, тут такой вопрос -- может ли признать ИИ некую систему которая не будет развиваться сама по себе. Задавать самой себе вопросы, решать их для себя же. 

"Кто я?", "Какой смысл моей жизни?", "Откуда мы взялись?"

"Как жить, к чему стремиться?"

А какой мотив у ИИ задать себе вопрос? Самостоятельное познание себя и мира. А для этого нужны чувства.

А забота, доброта и т.д. это социальное. Будут носители ИИ общаться, строить некое общество, почему бы не быть у них и доброты, заботы и прочего?

+1
Ответить
Ещё 1 комментарий

Зачем ИИ такие мысли, если люди не могут дать ответ на такие вопросы однозначно, цель создания ИИ ? А почему у них должно быть что то социальное, это очень сложный алгоритм, который действует по определенным правилам, то есть вы заложили социал, он будет социалльным, но это не определяет сущность ИИ, то есть определяет вашу сущность как создателя ИИ, но это не выбор ИИ. Каков ИИ сам по себе ? Сухой алгоритм или воплощение чьих-то желаний или умственных трудов ?

0
Ответить
Комментарий удален модератором
Комментарий удален модератором
Ещё 16 комментариев

Интеллект не может быть безразличным.

0
Ответить
Ещё 15 комментариев

Почему ?

0
Ответить

imho - Суть интеллекта состоит в "голоде". В первую очередь - информационном.

0
Ответить

чем же накормить ИИ которое управляет пассажирским самолётом ?

0
Ответить

А зачем ему вообще управлять пассажирским самолетом? Сначала давайте определим -- зачем ему это вообще понадобится.

То то и оно, что ИИ если будет свободен и умнее человека, то непонятно, зачем ему человека перевозить. 

Только договариваясь на взаимовыгодных основаниях. 

0
Ответить

потому, что ИИ создан для того, чтобы облегчить сложные задачи, а не для игры в Бога. Мне вот интересно, как вы договоритесь с алгоритмом распознавания лиц, что  по сути и является  ИИ. 

0
Ответить

"алгоритмом распознавания лиц, что  по сути и является  ИИ"

Но очень примитивным. :)

0
Ответить

что же делает его небезразличным к чему-то, и в чем проявляется эта заинтересованность?

0
Ответить

"Небезразличие" делает сознание интеллектом.

0
Ответить

Мммм) Цитаты великих. А по сути? 

0
Ответить
Комментарий удален модератором

"Цитаты великих."

Спасибо. Польщён. :D

+1
Ответить

По сути -- Вы сами ответьте как Вы отличите автомат умеющий рассуждать и принимать решения от ИИ, который обладает сознанием )

В принципе, первые конструкции которые по желобам разного диаметра давали прокатиться разного диаметра шарам и тем самым их сортировали, это уже элементарный искусственный рассудок. И он не отличается принципиально от современных компьютеров. Вопрос -- когда же он становится обладающим сознанием?

Когда Вы его уже не можете отличить от других существ заведомо обладающих сознанием. 

В частности. Существо которому все безразлично просто не будет развиваться, оно даже и разговаривать с Вами не будет, оно не будет принимать никаких собственных решений. Оно не захочет и осознать себя, ему это безразлично. Значит и не будет у него своего "Я".

0
Ответить

"В принципе, первые конструкции которые по желобам разного диаметра давали прокатиться разного диаметра шарам и тем самым их сортировали, это уже элементарный искусственный рассудок. И он не отличается принципиально от современных компьютеров. Вопрос -- когда же он становится обладающим сознанием?" - ответ, никак, ибо это работа сенсоров, которые снимают физические параметры с обьекта "игры", а алгоритм обрабатывает  этот массив данных  и на выходе дает управляющую команду, вот  и всё. Взаимосвязь алгоритмов, датчиков, памяти, ЦПУ не делает сознания. Согласны?

0
Ответить

Вот мы сейчас про что, про возможность в принципе создать ИИ с сознанием? Или Ваш вопрос был -- почему люди боятся?

Просто про возможность -- это отдельный вопрос, который тут десяток раз обсуждался. И очень большой вопрос. Его сложно будет обсудить в комментах.

Я отвечал в условностях, что ИИ с сознанием создан. И вот почему его люди боятся.

+1
Ответить

Попробуйте внутренним поиском "сознание", "искусственный интеллект" -- почитайте что было. Обратите внимание на наши с Овчаренко обсуждения. 

Я не вижу принципиальных препятствий для создания настоящего ИИ с сознанием. А он считает, что элементы этого уже существуют.

О, вот, я придумал как быстро найти актуальное обсуждение:

Стоит ли наложить мораторий на разработки роботов и искусственного интеллекта, чтобы избежать тотальной безработицы?

Почитайте, правда, много сказано, жаль просто заново пересказывать, потеряешь много.

0
Ответить
Автор удалил свой комментарий

На данном этапе максимум -- искусственный рассудок (рассуждающее устройство). Сознание еще близко не существует. А когда будет -- не проблема научить его (или он сам научится) чувствовать боль. Гормоны, рефлексы -- это просто инструменты, одни, другие, без разницы.

0
Ответить
Ещё 7 комментариев

В общем-то боль это лишь способ переживать осознавать сигнал. Сигналы у ИИ будут, способ их переживания и осознавания обязан быть, иначе это будет не ИИ.

0
Ответить

Зачем ИИ сопереживание, боль и так далее ?

0
Ответить

"Зачем ИИ сопереживание, боль и так далее ?"

А человеку зачем? :) Ради выживания вида. Конечно у ИИ будут собственные эмоции, непонятные человеку.

0
Ответить

ну и как же этот инструмент(гормоны, рефлексы) прикрепить к ИИ и зачем он ему ? И в каком виде быдет выглядеть этот "инструмент" ?

0
Ответить

"как же этот инструмент(гормоны, рефлексы) прикрепить к ИИ и зачем он ему ?"

Чтобы познавать мир. У ИИ будут собственные органы чувств и регуляторы функций. Он может пользоваться разнообразными приборами, созданными человеком. Видео-, аудиоаппаратурой, датчиками движения, радиации, температуры и т.п.

0
Ответить

Ой, да умоляю вас... Будто бы ИИ это кукла с мозгом человека, которая будет познавать мир. 

+1
Ответить

"Будто бы ИИ это кукла с мозгом человека, которая будет познавать мир."

Да мы понятия не имеем, что такое ИИ! Слова придумали, а значение - нет. :) Поэтому и плодим кучу гипотез о его приходе. Каждый из участников обсуждения имеет в голове собственный образ сабжа. Поэтому нам будет очень трудно договориться. ;)

+1
Ответить
Автор удалил свой комментарий

Пусть блок Б не знает алгоритма создания рандомных чисел в блоке А. Как тогда это система будет отличаться от системы "мозг-гормоны"?

0
Ответить
Ещё 5 комментариев

Ну... какая-то не очень аналогия с гормонами и алгоритмами. Обьясните, пожалуйста, по-другому, ибо я не понял смысла.

0
Ответить

Многие мыслительные процессы в нашем мозгу зависят от гормонов. При разном влиянии гормонов человек при одинаковых данных может прийти к разным выводам, не понимая отчего вот видится все именно так. В машинном эквиваленте, робот может сказать "стакан наполовину пуст" при "0", а "наполовину полон" при "1".А единицу или ноль выдаст другой блок (эквивалент гормонов).  Вот вам и настроение у ИИ готово. И вы потом не отличите искусственное сознание от человеческого.

0
Ответить

"А единицу или ноль выдаст другой блок (эквивалент гормонов)", обьясните тут, по какому правилу он выдаст результат на выход ?
Это так не работает, то что вы описали 2мя блоками, это всего лишь составляющие одного алгоритма, которые никогда не будут работать рандомно. 

0
Ответить

по любому правилу, хоть забейте ему менструальный цикл, если хотите добавить роботу ПМС.

Почему нельзя взять два алгоритма? Или хоть два компьютера? Один выдает 1 или ноль другой в зависимости от "настроения" принимает решение.

0
Ответить

Не согласен с Вашим мнением. Если ИИ это просто машина, то зачем ему это знать ? Если это машина, то как мы можем применять его в сферах человеческой деятельности ? Окей, допустим. У каждой женщины менструальный цикл идет в одно и тоже время ? Как компьютер будет определять это, у одних так, а у других ? Просто потому что так построен алгоритм ? Так тогда ИИ будет думать только в одну сторону, то есть кто его и как запрограммирует, кто считает что то лучшим и так далее... Ну то есть у одного человека хорошее настроение при таких же обстоятельствах, а у другого плохое, нет универсального алгоритма, который бы смог иметь свое собственное мнение, потому что оно будет обусловлено тем, кто закладывает основы этого так званого "настроения" или "ПМС" и так далее...

+1
Ответить

"ведь наше сознание это не алгоритм

0
Ответить

"ведь наше сознание это не алгоритм"

Это алгоритм. 8) Только ОЧЕНЬ сложный.

0
Ответить
Ещё 1 комментарий

алгоритм который сам не знает себя)

0
Ответить
Ещё 22 комментария

Кстати, да, Иван прав. Люди могут начать первыми -- пытаться заставить встать ИИ на какую-либо сторону. Ну, например, васюки и шасюки старые враги. Васюки могут подстроить аварию на электростанции с целью свалить нападение на шасюков. ИИ должен будет нейтрализовать шасюков, чтобы те больше не угрожали существованию ИИ.

0
Ответить
Автор удалил свой комментарий
Ещё 5 комментариев

Что значит бояться? Это эмоциональное переживание некой ситуации. 

ИИ может ставить перед собой цель. Например, локальная цель -- поддерживать свое существование. Это же элементарный шаг. Один из первых.

Мы уже можем создать машину которая будет, например, играть музыку и у нее будет дополнительная задача -- не давать себя выключить. Просто чтобы продолжать играть музыку. Подходит кто-то к рубильнику -- включить сирену и свет которые не дадут действовать врагу.

Вячеслав, вообще-то и не все люди боятся уничтожения ) Вот Вы боитесь уничтожения? Может быть и нет. Но, наверняка, будете препятствовать попытке Вас выключить. Просто чтобы продолжать свое существование. Вот и ИИ может также. Если ИИ будет все равно существует он или нет, то он очень быстро перестанет существовать.

Чтобы ИИ появился, он должен научиться развиваться сам. Для этого нужны некие мотивы. Если ИИ не будет хотеть продолжать существовать, он не станет ИИ. Не сможет развиться в нечто большее, чем он есть в предыдущий момент времени.

+1
Ответить
Автор удалил свой комментарий

Если некий ИИ не способен сам придумывать себе цели, это не ИИ.

Нет, есть желание не дать себя выключить -- это не страх. Это просто желание. А страх это переживание этого желания. 

Сравните -- я не хочу чтобы меня ударил мой ребенок. Мне не страшно, просто это помешает моей цели (например, печатать на клавиатуре). 

В принципе, неважно. Ок, назовите это страхом. Вот такой "страх" может быть и у ИИ. Почему нет?

0
Ответить

Нет, ибо вы неправильно  интерпретируете "Нет, есть желание не дать себя выключить -- это не страх" это не желание не дать себя выключить, это механизм, это правило, условие, алгоритм. Желание - это я хочу попить воды или послушать музыку.

0
Ответить

Ваше желание пить, есть, дышать совершенно автоматические. Вы не можете не хотеть есть, пить, дышать. Как только наступит недостаток питания Вы тут же автоматически гарантированно захотите.

Машина которая тоже так хочет еще не ИИ. Но, конечно, такие желания сделать не проблема. 

Вот слушать музыку -- дело другое. 

ИИ должен обладать желанием получать информацию. У ИИ должны быть для этого рецепторы. Это в том числе и слушать музыку.

+1
Ответить

Ничего удивительно в том, что у ИИ неизбежно возникнет сознание нет, скорее наоборот. А смогут ли на земле мирно сосуществовать два разумных вида? Когда-то наши предки через что-то подобное проходили, кто-то может повторить?!)

0
Ответить
Автор удалил свой комментарий

На сколько я понимаю, все знания, что человечество накопило за свою историю, загружены и хранятся в сети, они будут частью ИИ, как будет эволюционировать вся эта информация и ИИ вместе с ней? Очевидно ведь, что если ИИ осознает себя и поймет, что оно такое и почему возникло, шансов на то, что люди будут мирно с ним сосуществовать крайне малы.

0
Ответить

Основной ведь вопрос в том, способен ли в принципе созданный человеком ИИ осознать себя, свое существование и понять, что он такое.

0
Ответить
Комментарий удален модератором

"Основной ведь вопрос в том, способен ли в принципе созданный человеком ИИ осознать себя, свое существование и понять, что он такое."

Способно ли животное осознать своё существование? 8)

0
Ответить
Ещё 1 комментарий
Автор удалил свой комментарий

Все, что мы имеем сейчас в виде ИИ, это действительно алгоритмы и ничего похожего на «осознание себя» нет, но теоретики функционализма более оптимистичны по этому поводу, на сколько я понимаю.

0
Ответить

Нам крупно повезет если ИИ будет «животным», но что-то мне подсказывает, что если ИИ достигнет уровня «высшее животное», это будет конец привычному нам миру.

0
Ответить

ИИ уже обгоняет большинство животных (микробы, насекомые). Хотя пока что он существует в тепличных условиях.

0
Ответить
Ещё 4 комментария
Автор удалил свой комментарий

"как алгоритм может соревноваться с биологическим существом, отобранное эволюцией миллионами лет?"

Искусственный алгоритм может учиться в тысячи-миллионы раз быстрее естественного.

+1
Ответить
Автор удалил свой комментарий

Некорректно.

0
Ответить

ИИ страшен тем, что у него нет комплексов по поводу убийства людей.
У нас с рождения закладываются сотни барьеров по этому поводу. А у ИИ - нет. Более того, как показывает пример Айзека Азимова, даже вроде безупречные законы могут привести к прямо противоположному пониманию со стороны ИИ. Я про три основных закона робототехники.
Кстати, не только убийства, но и просто - ограничения свобод.

0
Ответить
Прокомментировать

Они боятся, что ИИ выйдет из-под контроля и его невозможно будет остановить. Дело в том, что если речь идет об истинном ИИ, обладающим сознанием, подобным человеческому, то он может уничтожить людей просто по ошибке - например, перестав считать их, собственно, людьми из-за сбоя. Или принять решение, которое человек счел бы аморальным.

Программы пишутся людьми, и люди склонны совершать ошибки, отбрасывать некоторые "маловероятные" сценарии, и эти ружья в глобальных масштабах обязательно рано или поздно выстреливают, скажем так. Взять хотя бы  текущее состояние программной индустрии - огромное множество патчей, закрывающих самые разнообразные дыры; массовые утечки данных; уязвимости на аппаратном уровне процессора, которые можно полностью убрать только заменив процессор на новое поколение, ну и так далее. Предусмотреть всё и защититься от всего невозможно, поэтому ИИ в любом случае будет уязвимым и для хакерских атак.

На данный момент больше всего боятся автономного оружия - эдаких роботов-убийц, боязнь очень широко распространена благодаря произведениям массовой культуры от книг Азимова до фильмов вроде "Терминатора" и игр типа Detroit: Become Human.

8
-1
Прокомментировать
АВТОР ВОПРОСА ОДОБРИЛ ЭТОТ ОТВЕТ

Люди боятся ИИ потому что он служит для нас зеркалом и мы примеряем ему наши мотивы поступков. Это зеркало потенциально может нас уничтожить и мы потому мы боимся своего отражения. И боимся что оно будет лучше нас в интеллекте.

Смысл ИИ нас уничтожать, с точки зрения человеческой паранои очень прост- что бы мы не уничтожили его.

3
0

Не разделяю вашу точку зрения. Давайте перефразирую: какая выгода для ИИ в уничтожении человека, группы людей, или человечества, или вообще, в уничтожении чего-либо. Зачем это ему ?

+1
Ответить

Я не вижу резонов ИИ уничтожать человечество. А резоны почему этого боятся люди я привел выше. Просто потому что он потенциально это может.

0
Ответить
Ещё 4 комментария

Вы смотрели шикарный фильм "Другая Земля"? Там отличная мысль прозвучала-вот если бы сейчас на противоположной орбите оказалась бы двойняшка нашей планеты с точно такими же людьми, мы бы сразу начали бы бояться что они нас уничтожат. Потому что у них такие же возможности как и у нас, такой же ядерный потенциал, и такое же мышление. Мы боимся себя.

0
Ответить

Ну еще можно добавить что ИИ лишен этики. Особенно сантиментов. Если он примет решение о геноциде то не остановится из за нравственных терзаний. 

0
Ответить

ну идея понятная ) не спорю. Но дело вот в чём, разве этот месседж не ошибочный ?

0
Ответить

Возможно ошибочный, возможно нет. Лично я с колокольни здравого смысла не вижу причин нас уничтожать. Потому что мы все сильнее будем зависить от ИИ. Ему нужно лишь подождать что бы перейти из состояния нашего раба в статус равноправной условной "цивилизации"

0
Ответить

Вот интересное рассуждение по теме: https://www.youtube.com/watch?v=DHyUYg8X31c

0
Ответить

Чем интересен этот пассаж? Я вот не боюсь. Мотивация ИИ для сохранения человечества-зоопарк и несколько чучел. На протоплазму- есть другие объекты, дружить? Человечество вымрет в любом случае, как вымирали другие виды, очень специфичные условия существования. Кислород ёк, вода замёрзнет.

0
Ответить
Ещё 3 комментария

Разве мотивация это не заслуга гормонов, которых никогда не будет в ИИ ?

0
Ответить

Если нет мотивации (ее не обязательно организовывать гормонами), то нет и ИИ. Почему -- написал в комментах выше.

0
Ответить

Узко смотрите, стыдно. Посмотрите шире-ваш ИИ, то же что и инопланетный разум-ИР..). Андрей Л., и как тода с вашими- нет мотивации и нет ИИ? Пожму руку тому, кто даст три различия..).

0
Ответить

Я не боюсь ИИ, лишь бы, он или она, это кстати также вопрос, только что бы оно служило на благо человечеству. Но, благо человечества никого не интересует, все преследуют свои личные цели. А если в ИИ будет заложен алгоритм, который преследует какие то специфичные потребности, то не о каком благе не может идти речь. И тогда да, почему бы и нет, ИИ может уничтожить человечество или его какую то часть, все зависит от его хозяина. А свободно думающий ИИ со своей точкой зрения никому не нужен ! Потому что человек обладает своей точкой зрения сформированной в некотором кругу его окружения, информации, которой он обладает и так далее, зачем изобретать велосипед ?))

+1
Ответить
Прокомментировать

Может я и не права, но мне кажется, потому что он будет создан самими людьми. Так как некоторые изобретение человечества уже нанесли большой вред и планете, и самим людям. Да и неизвестно, с какими помыслами будет искусственный интеллект создаваться. Возможно, он будет создан каким-то добрым и бескорыстным гением, а может, и гением-шизофреником, которых уже много бывало в нашей истории.

2
0
Прокомментировать

Смысла уничтожения человечества нет, попросту зачем? А то что человек не идеален и ИИ может быть создан таким же, то это уже не вина ИИ.

А что касается того как будет себя вести ИИ напрямую зависит от его аппарата принятия решения :)

1
0

Зачем человек уничтожает других животных и растения?

+2
Ответить

Еда, строительный материал. Вроде очевидно, но много человек делает и полезного для этих же животных и так далее. Чем отличается человек от животного ? 

То есть, если для ИИ мы будем на равне с животными, то что то пошло не так... 

Или вы борец за права животных и за то, что надо не употреблять мясо ?))

0
Ответить
Прокомментировать
Читать ещё 5 ответов
Ответить