Развитие интеллекта робота повлечёт опасность? Может ли он принять стратегически верное, но не гуманное решение, кот. негативно скажется на к.-л. сфере жизни?

Ответить
Ответить
Комментировать
0
Подписаться
2
2 ответа
Поделиться

Практически любое решение имеет негативные последствия, особенно - "стратегически верное".

Понятие гуманности настолько запутано, что ему в той или иной форме противоречит также практически любое решение.

Робот с интеллектом по определению самообучаем. Это означает выявление причинно - следственных связей, что и людьми постоянно выполняется с ошибками, и роботами - тоже. И это, конечно, может представлять опасность, например, в медицине.

Большую проблему также представляет правильная постановка задачи. Мы привыкли решать узкие задачи в определенной "экологической нише", когда многие вещи "очевидны". Но для искусственного интеллекта всё, чему его не обучили - не очевидно. Он тут же находит гораздо более оптимальное решение, как Электроник, забивающий мяч в ближайшие ворота.

Спасает только то, что "роботы" из чисто практических соображений внедряются как узкоспециализированные системы и часто с параллельным контролем людей: пылесосы, навигаторы, самонаводящиеся ракеты, рекомендательные системы. Ответственность страхуется, а проблемы постепенно решаются.

Кроме того, из практических соображений на роль с требованиями сугубо человеческих качеств (те же вопросы гуманизма) на порядок проще нанять человека. Прекрасный пример - китайская компания, распознающая капчи для веб-ботов (картинки, доказывающие, что пользователь - не робот) использовала для этого тысячу китайцев. Не проверял, так ли это было на самом деле, но рекламу видел и это прекрасно иллюстрирует возможное разделение труда.

Так что будет как с любой другой автоматизацией: наиболее рутинные и несвойственные людям функции будут постепенно передаваться компьютерам под надзором людей. То, с чем по факту не справятся компьютеры, будет передаваться обратно людям.

П.С. Кстати, я думаю, что не роботы будут гуманизироваться, а люди (как общество) - рационализироваться.

Роботы - это алгоритмы. Если в их программное обеспечение внести четкое требование не причинять вред живым существам, он не сможет принять решение, противоречащее этому требованию. 

Так что, думаю, если и возможно восстание машин, то лишь спровоцированное человеческим фактором, то есть вмешательством конкретного человека в этот процесс (например, снимут запрет на вред живым существам, или создадут роботов-убийц и т.д.). 

Ответить