Если вы пишите статью про мифологию Древней Греции ( упоминаете Терпсихору, Мельпомену, etc. ) то с заглавной,
Если девушке в любви признаетесь и говорите, что писали стихи только потому, что она, ваша муза, вдохновила вас на это - тогда со строчной.
Слово муза в значении "источник поэтического вдохновения" пишется со строчной буквы. Однако оно может писаться с прописной буквы в контекстах, где ему приписывается особый высокий смысл. Именно поэтому Вы встречаете это слово в разном написании.