Сейчас есть два более-менее рабочих пакета нейронных сетей: CNTK и TensorFlow. На самом деле, пакетов, конечно, больше, но это наиболее разработанные и с какой-никакой документацией и примерами.
Для работы в качестве пользователя понадобится знать основы Python. Готовые модели можно использовать из языков платформы .NET (CNTK) и Java (TensorFlow). Модели для CNTK можно составлять при помощи их собственного скрипта BrainScript.
Важно понимать, что нейронные сети - одна из многих технологий, у неё ограниченный круг задач.
Если вы хотите разрабатывать алгоритмы - не только нейронные сети, но и всё то, что запихивают нынче в весьма размытое понятие "искусственный интеллект" - нужно хорошее знание C++, Java и C# в произвольной комбинации. Неплохо разбираться с параллельными вычислениями, например CUDA.
Ну и, ясный пень, знание статистики и численных методов приветствуются.