Очень интересно сформулирован вопрос. Чтобы быть успешным трейдером, в математике достаточно знать базовые операции. Словом, достаточно школьного курса математики/алгебры. Ключевое - в каждой сделке ваш потенциальный заработок (прибыль) должен быть в несколько раз выше потенциальной потери в случае неудачи (риска).
Неужели нужно так мало математики?
Да. Не верите - прочтите книгу "Путь черепах". Яркий пример того, что любого человека можно обучить трейдингу.
Почему же так мало успешных трейдеров?
А вот здесь мы придем к самому важному. И самое важное - это не математика. Это психология и дисциплина. Нужно строго соблюдать определенный список правил, и будет вам счастье.
Приведу аналогию. Сколько людей пытаются сбросить вес (похудеть)? Очень многие.
В чем проблема? Почему это получается лишь у немногих? Неужели нет алгоритмов, как сбросить вес? Да нет, весь интернет пестрит руководствами, как сбросить вес: заниматься спортом, не есть ночью сладкое и т.д.
Почему же сбросить вес получается лишь у небольшой доли желающих? Потому что лишь немногие способны следовать четким правилам. А любой срыв ведет к большому откату назад. Так и в трейдинге: только железная дисциплина. А любая ошибка (и не математическая, а психологическая) приведет к потерям.
Update: увидел ответ Кирилла, цитирую
"перечислю, что, по моему мнению, должен знать трейдер, желающий улучшать свои навыки: Теория вероятности и ее применение в финансовой статистике, законы распределения случайных величин, регрессионный анализ, динамические ряды, нормальное распределение, корреляция (как основа: средние, медианный значения и т.д.) Это основа, на которую успешный трейдер должен наращивать мясо."
Конечно, могу написать длинную простыню-опровержение, но намного проще привести цитату самого успешного и известного инвестора с состоянием 60 миллиардов долларов - Уоррена Баффетта:
"Если бы для инвестиций требовалось знание дифференциального исчисления, то я бы пошел опять разносить газеты. Мне никогда не требовалось знаний алгебры"
Насколько, я могу себе это представить, то теорию игр. Ту самую, которую доказывал Джонни Нэш. Недаром он получил нобелевку именно за экономику. Но при этом, если мы говорим только о математике, то за скобки надо вынести все остальное. А вот это-то влияет на данные, которые и подставлять в формулу. Впрочем, да, я сужу все больше не по фондовой бирже, а по биржам ставок
Теория игр - думаю это для трейдера даже крутовато.