Указанные выдающиеся личности хороши в своих областях, но в других ничего не понимают и начинают фантазировать. Дело в том, что человек придумал ИИ, и придумал это с определённой целью, хотя сам того и не подозревал, возможно. В этом и заключается особенность эволюционного процесса. Человеческий разум, несомненно, вершина обработки информации в целях обеспечения жизни, но имеет существенный недостаток - рефлекторный механизм её обработки . Это означает, что мы не анализируем информацию, а выбираем определённый сценарий действия из набора имеющихся, в ответ на воспринимаемую информационную комбинацию. Вот откуда такая высокая эффективность в энергетике и отсутствие необходимости в объемных хранилищах памяти. Но это влечёт за собой неточность воспроизведения необходимого сценария. Оно зависит от множества факторов, в том числе, от настроения человека, его политических взглядов и здоровья. Совершенно другое - ИИ. Он анализирует информацию, т.е. расчленяет её на информационные "кирпичики", которые потом складывает в машинный код, запускающий программу по определённому алгоритму. Это позволяет абсолютно точно воспроизводить информацию независимо от других обстоятельств. Естественно, существуют информационные шумы и вирусы, но это уже патология. ИИ нужен Разуму,чтобы преодолеть эмоциональную безалаберность Разума. Будущее - за симбиотическим социо-техногенным информационным пространством, где человек будет принимать уже не просто разумные решения, но решения целесообразные, которые базируются на мощном объективном фундаменте. Но в прямую соединить ИИ и Разум нельзя - это всё равно, что вставить в лошадь двигатель от мерседеса в надежде на то, что она побежит быстрее. Механизмы обработки информации принципиально различны.
Без искусственного интеллекта человечество практически гарантированно выживет (лишь сценарий тотальной ядерной войны единственная возможность самовыпилиться, да и то вряд ли полностью). С искусственным интеллектом человечество преуспеет быстро и во многом, однако гарантий выживания уже нет, всё становится очень сложно.
Возможно потому, что они увидели, что ИИ - это лишь инструмент для естественного интеллекта (ЕИ), который ставит задачи для ИИ. А это - кратное увеличение опасности самоуничтожения ЕИ.
Всё это - фантазии, в основе которых полное непонимание различий в деятельности ИИ и Разума.
Они боятся утратить контроль. Этот страх свойственен всем людям. А еще никто не знает что такое интеллект и каждый понимает под этим терминами чтото свое. Возможно эти люди представляют ИИ и как "улучшенную" копию себя, более мощную и сильную. А себя то они знают что могут натворить с такими мощностями тоже знают )