А почему вы думаете, что искусственный интеллект будет обладать именно человеческими качествами? Или вы считаете наш, заскриптованный и забагованный интеллект совершенным? А ведь мы даже не представляем до конца, на какой материальной базе он работает. Причём это не значит, что интеллект будет бесчеловечным - он будет не-человечным, и критерии хороший/плохой будут применимы к нему в той же мере, в какой они применимы, скажем, к разным видам энергетики. Искусственный интеллект - это прежде всего средство.
Что касается теперь именно совершенного искусственного интеллекта, то я бы провёл такую аналогию. Что есть совершенное транспортное средство? Совершенное транспортное средство мгновенно и без любых затрат доставляет вас в желаемое место. Но такое вряд ли будет когда-либо создано, поэтому мы пользуемся автомобилями, поездами, самолётами итд.. Что есть совершенное средство связи? Можно сказать, что смартфоны приближаются к этому идеалу, но даже когда окончательно решатся проблемы с объёмом батареи и памяти а также доступом к сети и к мозгу абонента, встанут этические проблемы. Ведь мы хотим передать или узнать информацию от кого-то, а что, если другой человек не хочет ей делиться? А если хочется узнать всё равно? Значит, нужны средства связи для разных целей.
То же самое и с искусственным интеллектом. Совершенного искусственного интеллекта не будет никогда - будет набор функций для определённых целей. И если эта цель - сымитировать человеческую деятельность, то iChan 5 наверное будет справляться с этой задачей похуже чем iChan 6S, но о чём-то больше вряд ли имеет смысл говорить.
Скорее всего это будет всё таки безчеловечность, отсутствие грани между хорошо и плохо. Совершенный искусственный интеллект, в первую очередь будет создан не для получения гармонии в своём внутреннем мире. А для создания идеального мира, а идеальность без жертв увы нереальна.