Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Может ли искусственный интеллект украсть деньги из банка?

ТехнологииБизнес и менеджмент+4
Daria Demekhina
  · 1,7 K
Вице-президент, директор по информационным технологиям, Банк «Открытие»  · 17 нояб 2016

Искусственный интеллект -- это все-таки не человек и не его его аналог, а просто набор алгоритмов, которые позволяют выполнять те задачи, которые заранее не программируются. То, что человек может сам придумать и сделать, ИИ делает в какой-то отдельной не большой области. Взять и украсть деньги нейросеть не может, потому что у нее нет самосознания, и он под это изначально не заточен. Хотя, очевидно, что эти алгоритмы могут быть использованы для взлома банков, то есть люди могут использовать их как инструмент. На текущий момент такие технологии не известны, а вот возможность потерять деньги из-за ошибок принятия решения ИИ или из-за взлома злоумышленником ИИ вполне материальна.

Нейронные сети обучаются на конкретных примерах. Мы живем в кризисное время, часть примеров со временем устаревает и становится нерелевантной, такой опыт может привести к отрицательным последствиям. Если мы обучали нейросеть принимать кредитные решения одним образом, потом случился кризис, то мы должны ее переобучать на новых примерах.

Возможен такой вариант, когда злоумышленники, зная, что в банки какие-то конкретные механизмы алгоритма искусственного интеллекта, могут использовать их как способ взлома. Например, мы говорим про принятии решении по кредитам: мы обучали нейросеть на такие параметры как пол, возраст, вес и рост. Соответственно, злоумышленники, зная это, могут попробовать атаковать следующим образом: подавая заявки например на нестандартный высокий рост или нестандартный вес, надеясь на то, что у алгоритма, поскольку он на таких примерах не обучался, будет какой-то сбой и он примет не то решение.

Музыкант с задатками актера, режиссера, постановщика.  · 14 нояб 2016
Может, как и человек. Только какова его мотивация? Будет ли ИИ, осознавающий свою природу, стремится к богатству? Если да, то ИИ может какое крутое приложение на Андроид и iOS синтезировать и стругать деньги с рекламы. Это например. Технически ИИ может взломать любую систему. Ведь же есть понятие Технологической Сингулярности. То есть мы создаём ИИ, говорим ему... Читать далее
> Технически ИИ может взломать любую систему Тут следует уточнить, что у любой задачи есть своя вычислительная... Читать дальше
Изучаю медицину и нутрициологию. Люблю танцы и музыку  · 17 нояб 2016

Если исходить из того, что человеческая психика может быть объяснена механически и наш мозг — просто сложный компьютер (так считает, например, такой известный философ как Дэниел Деннет, и я с ним согласен), то можно утверждать, что в перспективе ИИ способен на всё, на что способен человек, и даже на большее. А так как люди способны красть деньги из банка, то мой ответ положительный.

Человеческий мозг - далеко не "просто сложный компьютер", сравните, хотя бы, функцию памяти.

Первый
Студент, Программист, Либертарианец  · 18 нояб 2016

Почти все взломы - социальная инженерия. ИИ достанет ключи доступа от системных администраторов. Вопрос больше медецинский(психология), чем технический.