Анонимный вопрос
август 2017.
228

Гипотеза технологической сингулярности является ошибочной?

Ответить
Ответить
Комментировать
0
Подписаться
0
3 ответа
Поделиться

   Да, эта гипотеза является ошибочной. Дело в том, что технологическую сингулярность выводят из простого тезиса - скорость развития технологий увеличивается экспоненциально. Но при этом сторонники сингулярити совсем не учитывают то обстоятельство, что развитие любого частного явления происходит циклично. Так, у компьютеров обязательно будет свой конец цикла. Кроме того, ум - это не главная характеристика живого существа. Искусственный интеллект может быть в триллион раз умнее человека, но пока компьютер не является актором (существом, действующим от своего имени) он обречён выполнять задачи, которые поставит перед ним человек. Искусственный интеллект - не живое существо. Просто замените его словом "технологии", чем он на самом деле и является, и подумайте над конструкцией фразы - восстание технологий против человека. Нам говорят, компьютер выиграл у человека в шахматы и го. А кто придумал их правила? ;) 

   Побеждает не тот, кто делает что-то больше остальных (пускай и в триллион раз), но тот , чьи правила выполняются.

Наоборот, она оправдалась на днях. Компьютер научили обыгрывать чемпиона в игру го. Компьютер превзошёл человеческий интеллект. Однако не был определён список тестов, по которым компьютер должен был обойти человека, чтобы все согласились - теперь да, компьютер умнее. Обыграть в шахматы было недостаточно, а в го - достаточно? А когда компьютер выиграет войну или удвоит продажи Google - будет достаточно, или снова придёт Большой Учитель и поменяет критерии оценки? Пока общепринятого списка тестов нет, каждый может предлагать свой набор и выносить заключение -наступила или нет.

Я обратил внимание на слова Андрея Себранта, прозвучавшие в его лекции по Большим Данным. Он сказал, мол мы в Яндексе не всегда понимаем, почему компьютер так или иначе ранжирует страницы, но пользователям это нравится!

Что это означает? То самое и означает - искусственный интеллект что-то успешно делает, а человек не понимает - как.

Я бы обратил внимание на корень проблемы. В чём проблема, если наш слуга окажется умнее нас? Это же хорошо! Но, по-видимому, опыт учит человека, что сам он с тем, кто глупее его, поступает всегда одинаково. Меняет золото на стеклянные бусы.

Тогда хочется уточнить несколько моментов.

1. Если компьютеры объединятся, чтобы захватить власть - это она, сингулярность. А если они просто выиграют у нас наши квартиры в онлайн-покер, обменяют на артефакты в играх или заберут в уплату за кредит, который мы взяли, заполнив онлайн-форму? Это ещё не сингулярность? Почему? Мне кажется - это она и есть. Компьютерам проще предпочесть мошенничество кровопролитию -им легче мошенничать, чем убивать.

2. Как правило, завоевания территорий включали сговор с некоторыми из местных царьков. Если компьютеры сговорятся не только между собой, но подкупят некоторых людей, разве это будет не сингулярность? Но на мой взгляд,сейчас сговор очевиден. Суперкомпьютеры существуют лишь в небольшой группе стран. Можно представлять это себе так, что страны обзавелись компьютерами, но можно предложить альтернативную модель - компьютеры нашли союзников в некоторых странах. Будет объяснять реальность точно так же хорошо.

В слаборазвитых странах не создаются теории технологической сингулярности, и там не боятся пришельцев. И то, и другое- страхи победивших наций. Там живут те, кого облапошат компьютеры. И там судят о предполагаемом поведении компьютеров, экстраполируя своё собственное поведение в прошлом. Например, компьютеры создадут религию (мобильность, переносимость, прозрачность), вступят в миссионерский орден, и станут карать людей за грехи.

3. Мы уже в лапах организованной группы некоторых людей и некоторых компьютеров. Вся наша персональная информация - в их базах, и мы полностью управляемы. Сейчас мне покажут баннер или тизер, и я где-нибудь зависну на полчаса. Потом я куплю то, что они скажут. Потом я полечу на отдых туда, куда они мне дадут кредит.

Но почему мы должны разделять страхи тех людей, которые вступили в сговор с компьютерами? Разумеется, однажды компьютеры "кинут" своих партнёров-людей, а нам-то - какая разница? Ну ей-богу, какая мне разница - Цукерберг богатеет, или его кластер? Даже вероятнее, что кластер будет относиться ко мне лучше, чем Цукерберг.

Она на то и гипотеза, и на то всё ещё не опровергнутая в научном сообществе гипотеза, что никто пока не смог определить, верна ли она. Такие дела.

Ответить