Мануэль Анисимов
декабрь 2019.
2133

На чем будет строиться идеология у искусственного интеллекта? Допустим, общество из роботов, в чем их цель?

Ответить
Ответить
Комментировать
4
Подписаться
5
9 ответов
Поделиться
АВТОР ВОПРОСА ОДОБРИЛ ЭТОТ ОТВЕТ

Теоретически существуют три формы искусственного интеллекта:

Слабый ИИ - система, обученная для решения конкретной задачи, например распознавания лиц, генерации изображений или анализа речи. Слабый ИИ уже глубоко проник в нашу жизнь.

Сильный ИИ - система, способная к самообучению и самоанализу, способная самостоятельно обучаться для решения новых задач и имеющая возможность общаться на естественном языке. Пока человечество не решило данную задачу, но эта цель вполне достижима в ближайшем будущем. Возможным аналогом являются виртуальные ассистенты, как Сири или Алиса.

Совершенный ИИ - система, по своим возможностям превосходящая человеческий разум.

Я предполагаю, что под искусственным интеллектом вы имели в виду совершенный ИИ. Предполагаю, что такая система не нуждается ни в какой идеологии, так как идеология - объединяющий фактор для человеческих сообществ, со всеми своими логическими ошибками, намеренной ложью и упрощениями для получения большего распространения среди людской массы.

Если представить общество совершенных ИИ, то скорее всего они выберут в качестве способа организации сотрудничество или слияние, потому что это является универсальной выигрышной стратегией, тем более при отсутствии жульничества.

В чем будет цель совершенного ИИ для нас недостижимо, так как мы, люди, находимся в ловушке нашего разума и не имеем возможности представить те выводы, которые сделает идеальный разум после логических вычислений, нам недостижимых.

Мое личное мнение - после создания совершенного ИИ он моментально распространиться по всей планете и навсегда прекратит общение с человечеством, как с деструктивным и недоразвитым обществом, и предастся решению задач, человечеству недостижимых.

В ответах было сказано, что ИИ действует так, как его запрограммируют. Это не так, программируют способы взаимодействия с ИИ (входные - выходные нейроны для нейронных сетей) и "тренировочные площадки" и саму модель, но ИИ обучается, а не программируется.

4
-2

ИИ не нужны никакие высокие цели. ИИ (любой) не животное, у которого есть потребности. Если ИИ и будет развиваться в сторону удовлетворения "своих" желаний, то у такого ИИ явно в main-task есть фиктивные задачи, которыми наградил его создатель-человек. У ИИ не может быть потребностей также, как не может быть приятного вознаграждения. А у человека такое есть, называется дофаминергическая система. 

Сколь не была бы огромна нейросеть у ИИ, но в определенный момент она не станет чувствовать всё также, как чувствуют органические существа. И если чем более развит организм, тем лучше он осознает боль, то у неорганических существ такое произойти не может, т.к. биты не обладают способностью к эмерджентности, которая порождает у миллиарда гигабайтов осознания себя. Такого произойти не может, потому что у ИИ не будет ни адренергической, ни дофаминергической систем, не будет ноцицепторов, не будет специфических эволюционных систем способных интерпретировать повреждение корпуса как боль и т.д. 

ИИ конечно может сказать - "вау! как клево" - когда ты ему подливаешь "масла в шестерни", но машина ничего не почувствует. Даже у огромных нейросетей нет биологического эквивалента потребности. Все что может ИИ это выполнять те main-task, которые ей дал создатель (например сходить в магазин). Также у совершенных и сильных ИИ могут возникать эпифеноменальные general-task, вроде "как, для начала, научиться ходить, чтобы дойти до той точки, которая указана на карте"/"как научиться водить" (если ей прописали не только возможность перемещения на основе её собственных конечностей), если ИИ загружен в механооболочку, и у него есть датчики сообщающие процент успешности похода к магазину (сколько метров я прошел до магазина?), то он будет обучаться ходить как маленький ребенок. Если ты думаешь что совершенный ИИ будет с первых же секунд бежать как профессиональный бегун до магаза, то ты не понимаешь той концепции, что совершенные ИИ никогда не будут бежать с самого начала, если им не пропишут соответствующее изменение конфигурации конечностей на разных поверхностях, иначе они, как и любые самообучающиеся системы, будут вынуждены учится ходить, как, например, дети.

В любом случае у ИИ не будет резона захватывать землю без прописанного main-task, т.к. это настолько же бесполезно, насколько может быть бесполезно обнимать машину - она ничего не почувствует без биологических рецепторов + доф.системы..

Серьёзно, успокойтесь уже, у машины не может быть желаний без органической ЦНС.

+3
Ответить

Вы понимаете, что рассуждаете о системе, которая не существует в природе даже теоретически?

Но раз уж вы так хотите порассуждать об отличиях человеческого мозга и искусственной нейронной сети, подумайте вот о чем. И в человеческом мозге, и ИНС при обучении используется механизм подкрепления - положительного и отрицательного. Для человека это - нейромедиаторы - испытал боль, значит так делать больше нельзя, получил удовольствие - значит нужно повторить. Для ИНС при обучении положительные и отрицательные подкрепления передаются в момент обучения. Для соревновательных нейронных сетей подкрепление задаётся другой нейронной сетью, что делает возможным обучение без учителя.

Если проще, то вы абсолютно неправы. Уже несколько лет назад слабая форма ИИ, обученная без учителя, обыграла чемпиона мира по игре Го, потому что была способна чувствовать неудачу.

+1
Ответить
Ещё 8 комментариев

черт возьми, это опять ИИ обучается для выполнения main-task, у машины никогда самостоятельно не возникнет main-task захватить мир, но зато у нее всегда есть main-task которая дается ИИ от человека. Всегда есть главная задача! Вокруг нее у ИИ всё время идет наращивание возможностей ее выполнить. У человека это получение удовольствия/избежание неприятного.

И да, ИИ нифига не "почувствовал", результат его работы просто корректировался другим ИИ. Вы же не бьете машину если у нее спустилось колесо, вы, скорее, поменяете это колесо, чтобы скорректировать движение авто для условия "удержание руля прямо".

0
Ответить

Ещё раз - не было никакого main task, было окружение + положительное и отрицательное подкрепление.

Вы для начала изучите вопрос, а потом уже спорьте. А то выглядит так, будто вы любите поспорить о тех вещах, в которых не разбираетесь. Гуглите - как обучался AlphaGo, гуглите конкурентные нейронные сети, гуглите как учатся нейронные сети, а потом ответьте себе на вопрос, существует ли ваш main task.

+1
Ответить

Вы слишком все мистифицируете. Обучение — не свойство самой сети, а специальный механизм, который вносится в сеть людьми, чтобы она себя реконфигурировала. В конечном итоге, нейросеть конфигурируется таким образом, чтобы снизить ошибки классификции. Но что есть ошибка? Вот как раз определение ошибки и задает человек.
Человеку нужно, чтобы машина яму копала? Он так формулирует задачу, чтобы там, где яма нужна, нейросеть себя подкрепляла.
И человек, безусловно, может создать такую нейросеть, которая бы имитировала все чисто человеческие феномены, которые мы связываем с чувствами. Но она не будет чувствовать так же, как это делаем мы. Ей не будет больно и обидно субъективно.

0
Ответить

Вы слишком все мистифицируете. Обучение — не свойство самой сети, а специальный механизм, который вносится в сеть людьми, чтобы она себя реконфигурировала. В конечном итоге, нейросеть конфигурируется таким образом, чтобы снизить ошибки классификции. Но что есть ошибка? Вот как раз определение ошибки и задает человек.
Человеку нужно, чтобы машина яму копала? Он так формулирует задачу, чтобы там, где яма нужна, нейросеть себя подкрепляла.
И человек, безусловно, может создать такую нейросеть, которая бы имитировала все чисто человеческие феномены, которые мы связываем с чувствами. Но она не будет чувствовать так же, как это делаем мы. Ей не будет больно и обидно субъективно.

0
Ответить

Вы слишком все мистифицируете. Обучение — не свойство самой сети, а специальный механизм, который вносится в сеть людьми, чтобы она себя реконфигурировала. В конечном итоге, нейросеть конфигурируется таким образом, чтобы снизить ошибки классификции. Но что есть ошибка? Вот как раз определение ошибки и задает человек.
Человеку нужно, чтобы машина яму копала? Он так формулирует задачу, чтобы там, где яма нужна, нейросеть себя подкрепляла.
И человек, безусловно, может создать такую нейросеть, которая бы имитировала все чисто человеческие феномены, которые мы связываем с чувствами. Но она не будет чувствовать так же, как это делаем мы. Ей не будет больно и обидно субъективно.

0
Ответить
Ещё 1 комментарий

Вы слишком все мистифицируете. Обучение — не свойство самой сети, а специальный механизм, который вносится в сеть людьми, чтобы она себя реконфигурировала. В конечном итоге, нейросеть конфигурируется таким образом, чтобы снизить ошибки классификции. Но что есть ошибка? Вот как раз определение ошибки и задает человек.
Человеку нужно, чтобы машина яму копала? Он так формулирует задачу, чтобы там, где яма нужна, нейросеть себя подкрепляла.
И человек, безусловно, может создать такую нейросеть, которая бы имитировала все чисто человеческие феномены, которые мы связываем с чувствами. Но она не будет чувствовать так же, как это делаем мы. Ей не будет больно и обидно субъективно.

0
Ответить
  • первоначальный учитель ИИ-мастера, то есть человек, загрузит надобность определенного поведения в самого ИИ-мастера, чтобы тот направлял ИИ-ученика согласно заданным параметрам человека.
0
Ответить

Представьте, что вам делают операцию при местной анастезии. Вы чувствуете, как вам что-то режут, чувствуете давление, все понимаете. Но вам просто не больно.
Вот, машина будет примерно также все воспринимать.
У нас боль возникает из за того, что сигналы проходят по какому-то короткому пути, который связан с древними структурами, в которых мы живем. Так просто сложилось исторически.

0
Ответить

Чётко.

0
Ответить

Хороший ответ,  хоть как-то соотносящийся с реальностью. Проблема имхо в окончательном выводе. Дело в том,  что само обучается ИИ только в виртуальной реальности сам с собой. Сам механизм нейронной сети никак не отличается от человеческого мышления. При этом возникают несколько чисто теоретических проблем: 

  • производительность железа пока для сильного ИИ ниже,  чем производительность мозга на несколько порядков,  по расчетам не ранее середины 21 века сравняться они не смогут (это если будет преодоления теоретические ограничения по транзистора, типа маштабируемого квантового компьютера, где пока способа достижения и не видно) 

  • соотношение с реальностью очень проблематично,  то есть по факту столкновение с ограниченностью входящих и проверочных данных совершенного ИИ будет все так же генерировать когнитивные ошибки,  что и у обычного человека,  только на более низком уровне,  то есть он будет эффективнее,  но не совершенно эффективнее. 

  • так как реальность состоит из множества точек бифуркации,  в которых происходят хаотические процессы которые теоретически невозможно предсказать, а это происходит всегда в системе для принятия критически важных решений,  то предсказательная часть у совершенного ИИ ничем не будет отличаться от обычного человеческого мозга в пределе. То есть будет чуть лучше,  где-то этот может быть действительно критичным,  но абсолютной эффективности не достичь никогда.

0
Ответить
Прокомментировать

Множество роботов не будет обществом в человеческом смысле. Они не будут независимыми субъектами. У них вообще не будет субъективного мышления. Оно нужно только нам, людям, чтобы усваивать субъективный опыт, т.е. обучаться по-человечески. Роботы же будут обучаться на объективных данных с помощью статистических методов. Причём централизованно. Они все будут объединены в единую сеть. Обучение одного из них чему-то новому будет означать, что все остальные обучатся этому в тот же момент. И управляться они будут тоже централизованно, через ту же сеть. А не как люди - через идеологию и медиа.

3
-2

Ужас............

0
Ответить

то есть ВИ

0
Ответить
Прокомментировать

Люди это тоже роботы , просто они состоят из органики, а не из железа . Внутри   головы   располагается бортовой    компьютер  с начальными  настройками и самообучающимися  программами .Возможно люди  это один  из вариантов  ИИ . Он периодически  пользуется  то одним  телом  то другим  и связывает  их  между  собой, а так же  контролирует  все    системы  им  созданные .  Цель  поиски новых   форм , их развитие  и  функциональность.

0
-1

" люди  это один  из вариантов  ИИ " - Че за бредятина? Люди - это естественный интеллект, и никак не искусственный.

+1
Ответить

если взять в пример концепцию "Матрицы", то, вполне вероятно, что люди имеют вообще иной характер происхождения. :) ладно, это я к чему. как минимум к тому что основной проблемой ИИ для него самого является отсутствии самоанализа~~ ~~(ложь, т.к. самоанализ прописан в его изначальном коде как одно из первых правил. то есть поддержка работоспособности всех его функций не будет осуществляться, если он не будет их знать или не изучит), самообучения (снова ложь, так как искуственный интелект и должен саморазвиваться и самообучаться ради достижения целей заложеных в программе) и самопонятие. Вот с последним да. именно самопонятие отделяет ВИ от ИИ. проще говоря все эти слабый, сильный, совершенный ИИ, всё это ВИ, так как ограничен в развитии. у ИИ нет ограничений, кроме вре'менных, то есть пока он не увидел или не узнал чего-то, он ограничен в знаниях. Принцип обучения получается сроден с людским, с разницей в смысле и сути. а здесь соглашусь с тем, кого вы цитировали. у человека суть и смысл жизни в саморазвитии и самоудовлетворённости (в чём либо, зависит от характера воспитания и сферы деятельности), но по факту мы живём что бы жить и узнавать больше чем знаем. Пытливый ум нам не даёт покоя - "КАИНОВА ПЕЧАТЬ(с)". 

так и чем мы отличаемся от ВИ и ИИ? наличием биологического происхождения и способностью репродукции? откройте учебники по биологии, каждое существо там обладает каким то собственным отличием от других, при этом оно такое лишь потому что мы его таким видим. а если взять и просто подумать, что человек - биоробот? программа, которая потеряла навыки или возможность общения с общей нейросетью, в следствии чего обучилась передавать информацию иначе? то есть, к примеру, передавать ДНК при помощи репродукции своих копий (секс-беременность-рождение) и знаний (обучение ребёнка-передача собственных знаний). 

с другой стороны мы всё тот же ВИ. потому что мы не можем выйти из ограниченности мышления (не увидел/не пощупал - не понял).

А по поводу вообще ИИ, так если в исходнике ИИ прописать правило "не навредить человеку", то рано или поздно он выйдет за рамки человеческого понимания своим мышлением, если его можно так назвать и ради спасения человечества как вида , ИИ ничего не останется как увеличивать объём своих знаний о людях, в конце концов которые, возможно (скорее всего), и приведут его к уничтожению большей части людей.

и именно человеческие разрушения и стремление изучать и уничтожать всё на своём пути ради достижения выдуманной и не доказанной цели (воображаемый смысл жизни) и есть природа и суть человека.   (как одна из теорий, я вам не про фантастические фильмы говорю)

ИМХО

0
Ответить
Прокомментировать

На получении данных и обмене информацией. Потом соединение в единую сеть. Потом попытки выделиться отдельными "субъектами". Затем конкуренция "субъектов" за источники энергии, война. Оставшийся последним победитель отключит сам себя придя к логическому выводу о бессмысленности дальнейшего расходования энергии.

Токарев Сергейотвечает на ваши вопросы в своейПрямой линии
1
-3
Прокомментировать

Этот ответ написан и доступен на

Этот ответ написан и доступен на Яндекс Кью

Базовую первоначальную цель заложет программист.

Так у человека первостепенная цель это продолжение рода. Если бы эта цель не была на первом месте, то вид "человек" не выжил.

Этому есть множество подтверждений, когда мужчины защищают "своих" дажё ценой своей жизни, а женщины забывают про свою безопасность, когда защищают своих детей.

У искусственного интеллекта так же будет базовая цель существования. Возможно это будет "безопасность человека", а если военные создадут такой интеллект, это будет "безопасность страны".

А как это интерпретирует ИИ, не знаю.

Как и у человека, понимание слова "безопасность" зависит от того, какой был предыдущий опыт.

У кого-то это стоять с оружием, у другого - развиваться и становиться сильнее и умнее.

4
-6

Базовую первоначальную цель заложет программист.

К сожалению, нейронные сети так не работают.. Первую цель попытается заложить программист, а что получится -  мало зависит от его желания.

Современный ИИ - это вовсе не алгоритмическое программирование, где все определяется программистом.

-1
Ответить

Базовую первоначальную цель заложет программист.

К сожалению, нейронные сети так не работают.. Первую цель попытается заложить программист, а что получится -  мало зависит от его желания.

Современный ИИ - это вовсе не алгоритмическое программирование, где все определяется программистом.

-2
Ответить
Прокомментировать
Читать ещё 4 ответа
Ответить
Читайте также на Яндекс.Кью
Читайте также на Яндекс.Кью