Разная история возникновения. Крепостничество развилось как некая форма аренды собственности. Т.е. по сути изначально крестьяне платили воину, обладавшего конём за защиту от набегов кочевников. Потом эта система устоялась и закрепилась законодательно. Рабство же относилось преимущественно к взятым в плен инородцам, и возникло как результат усовершенствования орудий труда и увеличения объёмов выработки продукции, так что владелец земли мог произвести так много, что не мог в одиночку собрать весь урожай. Примечательно, например, что в древнеегипетском одно и тоже слово обозначало "враг" и "мёртвый", а иероглиф впоследствии трансформировался в слово "раб".
Кстати, в Российской Империи длительное время крепостничество и рабство сосуществовали. Рабство применялось к захваченным народам (преимущественно Сибири) и было отменено в 1825 году.