Daria Demekhina
ноябрь 2016.
1195

Может ли искусственный интеллект украсть деньги из банка?

Ответить
Ответить
Комментировать
0
Подписаться
0
4 ответа
Поделиться
АВТОР ВОПРОСА ОДОБРИЛ ЭТОТ ОТВЕТ

Искусственный интеллект -- это все-таки не человек и не его его аналог, а просто набор алгоритмов, которые позволяют выполнять те задачи, которые заранее не программируются. То, что человек может сам придумать и сделать, ИИ делает в какой-то отдельной не большой области. Взять и украсть деньги нейросеть не может, потому что у нее нет самосознания, и он под это изначально не заточен. Хотя, очевидно, что эти алгоритмы могут быть использованы для взлома банков, то есть люди могут использовать их как инструмент. На текущий момент такие технологии не известны, а вот возможность потерять деньги из-за ошибок принятия решения ИИ или из-за взлома злоумышленником ИИ вполне материальна.

Нейронные сети обучаются на конкретных примерах. Мы живем в кризисное время, часть примеров со временем устаревает и становится нерелевантной, такой опыт может привести к отрицательным последствиям. Если мы обучали нейросеть принимать кредитные решения одним образом, потом случился кризис, то мы должны ее переобучать на новых примерах.

Возможен такой вариант, когда злоумышленники, зная, что в банки какие-то конкретные механизмы алгоритма искусственного интеллекта, могут использовать их как способ взлома. Например, мы говорим про принятии решении по кредитам: мы обучали нейросеть на такие параметры как пол, возраст, вес и рост. Соответственно, злоумышленники, зная это, могут попробовать атаковать следующим образом: подавая заявки например на нестандартный высокий рост или нестандартный вес, надеясь на то, что у алгоритма, поскольку он на таких примерах не обучался, будет какой-то сбой и он примет не то решение. 

8
Прокомментировать

Может, как и человек. Только какова его мотивация?

Будет ли ИИ, осознавающий свою природу, стремится к богатству?

Если да, то ИИ может какое крутое приложение на Андроид и iOS синтезировать и стругать деньги с рекламы. Это например.

Технически ИИ может взломать любую систему. Ведь же есть понятие Технологической Сингулярности.

То есть мы создаём ИИ, говорим ему каким образом он может наращивать свои мощностя, блоки данных, ОЗУ, процессоры, и далее все... Он растёт в вычислительной мощности в геомеирической прогрессии, пока не улепетывает настолько вперёд, что мы даже рассчитать не можем в какой шкале и насколько мощным он стал.

И если дать ИИ какую банковскую карточку ломануть, или целый банк, или все банки мира - он справится.

Только зачем ему это? Как мы его замотивируем? Ведь ИИ предполагает, что у него будет свободная воля, иначе это будет программа, а не полноценный ИИ.

1
> Технически ИИ может взломать любую систему

Тут следует уточнить, что у любой задачи есть своя вычислительная сложность. ИИ - это не волшебство. ИИ - это адаптирующийся алгоритм. Но если известно, что данная задача (например, взлом шифрования) никак не может иметь вычислительную сложность ниже такой-то величины, то чуда не случится. ИИ точно так же будет пыхтеть над этой задачей, как и какой-нибудь "бездумный" алгоритм, либо отменит эту задачу, потому что сочтёт её неперспективной.

За те минимум 100 лет, которые потребуются для взлома банковских протоколов, лучше действительно нарастить свой интеллект, создать свой Гугл и получить гораздо больше преимуществ.
0
Ответить
Прокомментировать

Если исходить из того, что человеческая психика может быть объяснена механически и наш мозг — просто сложный компьютер (так считает, например, такой известный философ как Дэниел Деннет, и я с ним согласен), то можно утверждать, что в перспективе ИИ способен на всё, на что способен человек, и даже на большее. А так как люди способны красть деньги из банка, то мой ответ положительный.

0

Человеческий мозг - далеко не "просто сложный компьютер", сравните, хотя бы, функцию памяти.

+1
Ответить

Мозг — это сложная нейронная сеть, в которой каждый нейрон может быть активирован или нет, подобно нулям и единицам в компьютере. То, что он по функционированию отличается от привычных нам компьютеров — это да. Но я не считаю, что есть принципиальная разница. Хотя об этом можно долго спорить. Это довольно популярная проблема в аналитической философии.

+1
Ответить

Согласен с Максимом. А что там с функцией памяти?

0
Ответить
Ещё 4 комментария

Сравните "человеческую" память и запись данных на любой физический носитель (сервер, жесткий диск и т.д.), разница принципиальная.

0
Ответить

Да, разница несомненно есть, но это не противоречит утверждению, что мозг – это компьютер. Просто это другой компьютер.

Возможно, недопонимание возникло из-за того, что можно по разному понимать понятие "компьютер". Я понимаю его в широком смысле, как информационную систему. А вот определение информационной системы из "Википедии": система, предназначенная для хранения, поиска и обработки информации. Именно этим мозг и занимается.

+1
Ответить

Тольк окомпьютер и мозг абсолютно по-разному работают с информацией.  Сравнивать компьютер и мозг мы будем до тех пор, пока человек не изучит работу полностью работу мозга. Я оставлю этот спор.

0
Ответить

Раньше информация хранилась на перфокартах, потом - на магнитных дискетках, потом на оптических дисках, теперь на флешках и в интернете. Сколько разных технологий, сколько разных методик чтения/записи, но суть от этого не изменилась. Так же и с мозгом. Он работает по-другому и хранит информацию иначе. Но это не принципиально.

Согласен. Тоже оставлю спор.

+1
Ответить
Прокомментировать
Читать ещё 1 ответ
Ответить