Потенциальная энергия волчка в верхней точке по мере опускания превращается в кинетическую энергию вращения, которая максимальна при полностью размотавшейся нити, далее идёт обратное превращение и волчок поднимается вверх. Потери на трение нити и сопротивление воздуха компенсируются движением руки.
Это тоже самое что бросить мяч об землю, только вместо сжимания мяча при ударе в волчке энергия запасается в виде вращения, а опора в которую изменяется направление это нить.
На эту крутящуюся хрень действуют две силы - гравитация тянет вниз, инерция вращения пытается продолжать вращаться. На самом деле это не совсем сила, а, скорее, закон сохранения момента импульса, но не суть. Так вот, инерция перевешивает и вертушка, наматываясь, возвращается вверх.