Будет ли способен самообучающийся искусственный интеллект ценить свой уникальный опыт и испытывать страх смерти из-за этого?

Ответить
Ответить
Комментировать
0
Подписаться
0
4 ответа
Поделиться

Ваш вопрос содержит одну из самых распространенных ошибок в любом разговоре о полноценном ИИ – антропоморфизацию. Вы задаете вопрос в категориях человеческих существ, являющихся результатом биологической и социальной эволюции. Использование понятий, обозначающих инстинкты (страх смерти) или некие категории этики (ценность уникального опыта), вообще говоря, некорректно.

3
-1
Прокомментировать

Мы пока не представляем себе, как будет работать сильный ИИ, подобный человеческому или превосходящий его (и сможем ли мы его создать). Поэтому насчет страха смерти у такого ИИ можно сделать несколько предположений:

  1. Если такой ИИ удастся создать по принципу компьютера с оперативной памятью и "жестким диском" для долгосрочной памяти и приобретенных навыков, то его выключение/обесточивание и последующее включение не будет катастрофическим для такого ИИ, он продолжит себя осознавать все тем же, как человек после глубокого сна. Поэтому у него не будет страха выключения/обесточивания, но возможен страх или опасения полного физического износа и разборки или стирания памяти.

  2. Если выключение/обесточивание прервет "мыслительную деятельность" такого ИИ, и при включении ИИ уже не будет осознавать себя тем же "индивидом", то возможен страх выключения/обесточивания.

  3. "Страхи" и "опасения" пп.(1) и (2) могут возникнуть у ИИ либо:

а) как заложенное программистами некое "базовое" условие - здесь снова развилка, сможет ли ИИ сам отменить/игнорировать это условие или оно будет зашито "навечно", наподобие "3-х законов робототехники" в произведениях Айзека Азимова?;

б) как приобретенное "чувство" (и снова развилка - как результат самоэволюции такого ИИ или результат эволюции группы, "общества" ИИ, или как попытка копировать человека по тем или иным причинам?)

  1. Наконец, сможем ли мы некоторые наблюдаемые действия ИИ, например, избегание чего-либо, назвать "страхом", либо же это просто оптимизационный алгоритм так работает? Ну для сравнения, взрослый человек избегает наступать в лужу, но мы же не можем сказать, что у него "страх луж"?

Как видите, возможны различные варианты, различные виды и степени этого "чувства", либо его отсутствие. У нас, к сожалению (или к счастью?) не было пока возможности наблюдать сильный ИИ в реальности.

1
0
Прокомментировать

Думается мне, что в основе любого интеллекта должны быть заложены хотя бы базовые программы, иначе он просто будет простаивать без цели.

У живых существ данными программами являются базовые инстинкты, основной из которых - инстинкт выживания.

Соответственно ответ на вопрос - да, будет ценить, и да, будет бояться(а скорее просто действовать во избежание смерти). Но только при условии, что был на это запрограммирован создателями.

Хотя, в качестве альтернативного сценария - он поймёт бесцельность бытия, что мы все в конечном счете всё равно умрём и затрёт сам себя. Вот такое вот может получиться харакири в исполнении ИИ.

1
0
Прокомментировать

Ценить - вполне возможно. Бояться смерти, будучи искусственным интеллектом, глупо. Для начала надо понимать как устроен ИИ чтобы конкретно говорить о его возможностях.

1
-1
Прокомментировать
Ответить
Читайте также на Яндекс.Кью
Читайте также на Яндекс.Кью