Потому что так гласит бытовая отечественная пословица. Истоков много, но наиболее правдоподобными выглядят две версии:
1) ефрейторов (старших матросов) не любили в советской армии после обнародования информации о наличии подобного воинского звания у Гитлера;
2) ефрейтор — единственное звание, о присвоении которого в виде поощрения прямо указано в любой редакции отечественных войсковых дисциплинарных Уставов. На практике зачастую выходило, что это звание присваивалось солдату, который не смог бы справиться с ответственностью на вышестоящей должности, предусматривавшей сержантское звание (например, командир отделения), но его нужно было поощрить за особые отличия в налаживании взаимоотношений с командованием. Как правило, из советской и ранней российской (до перехода на полуторный и годичный срок службы по призыву) армии ефрейторами увольнялись в запас те, кто «прогибался» под командование — таких недокарьеристов традиционно не любят нигде.
Стоит отметить, что само происхождение этого звания в прусской армии практически легализует вторую теорию — звание gefreiter носили те, кто был освобождён от несения службы в большинстве нарядов, а это, как известно, вызывает зависть занятых на ненавистных работах )
Все вышесказанное верно, хотел вот что добавить к этим ответам, это как звучит поговорка среди самих военнослужащих:
"Ефрейтор это недо*банный сержант, но пере*банный солдат."
Он как бы и не сержантский состав, но и не солдатский. Это как застрять между двух стульев))