Развитие интеллекта робота повлечёт опасность? Может ли он принять стратегически верное, но не гуманное решение, кот. негативно скажется на к.-л. сфере жизни?

Ответить
Ответить
Комментировать
0
Подписаться
2
2 ответа
Поделиться

Практически любое решение имеет негативные последствия, особенно - "стратегически верное".

Понятие гуманности настолько запутано, что ему в той или иной форме противоречит также практически любое решение.

Робот с интеллектом по определению самообучаем. Это означает выявление причинно - следственных связей, что и людьми постоянно выполняется с ошибками, и роботами - тоже. И это, конечно, может представлять опасность, например, в медицине.

Большую проблему также представляет правильная постановка задачи. Мы привыкли решать узкие задачи в определенной "экологической нише", когда многие вещи "очевидны". Но для искусственного интеллекта всё, чему его не обучили - не очевидно. Он тут же находит гораздо более оптимальное решение, как Электроник, забивающий мяч в ближайшие ворота.

Спасает только то, что "роботы" из чисто практических соображений внедряются как узкоспециализированные системы и часто с параллельным контролем людей: пылесосы, навигаторы, самонаводящиеся ракеты, рекомендательные системы. Ответственность страхуется, а проблемы постепенно решаются.

Кроме того, из практических соображений на роль с требованиями сугубо человеческих качеств (те же вопросы гуманизма) на порядок проще нанять человека. Прекрасный пример - китайская компания, распознающая капчи для веб-ботов (картинки, доказывающие, что пользователь - не робот) использовала для этого тысячу китайцев. Не проверял, так ли это было на самом деле, но рекламу видел и это прекрасно иллюстрирует возможное разделение труда.

Так что будет как с любой другой автоматизацией: наиболее рутинные и несвойственные людям функции будут постепенно передаваться компьютерам под надзором людей. То, с чем по факту не справятся компьютеры, будет передаваться обратно людям.

П.С. Кстати, я думаю, что не роботы будут гуманизироваться, а люди (как общество) - рационализироваться.

3
-1
Прокомментировать

Роботы - это алгоритмы. Если в их программное обеспечение внести четкое требование не причинять вред живым существам, он не сможет принять решение, противоречащее этому требованию. 

Так что, думаю, если и возможно восстание машин, то лишь спровоцированное человеческим фактором, то есть вмешательством конкретного человека в этот процесс (например, снимут запрет на вред живым существам, или создадут роботов-убийц и т.д.).

1
-1

Во-первых, непричинение вреда не просто живым существам, а людям. А то робот за каждую бактерию будет трястись, это бред.

А во-вторых, понятие «человека» тоже довольно расплывчато. А не решит ли робот, что он и есть человек?

Об этом у Азимова, как основателя жанра, из википедии: 

«Два робота из серии Джорджи приходят к соглашению, что органическое происхождение — необязательное условие, чтобы считаться человеком, и что истинные люди — это они, как наиболее совершенные и разумные создания. Остальные люди — тоже люди, но с меньшим приоритетом. »

0
Ответить
Прокомментировать
Ответить
Читайте также на Яндекс.Кью
Читайте также на Яндекс.Кью