Почему Российская империя и СССР не ассимилировали Украину и Белоруссию?

Банально немного не успели. Успехи в ассимиляции колоссальные.

Белорусский язык практически убит и доживает на наших глазах, возможно, свои последние годы. Пространство украинской культуры тоже основательно потрепано. Еще несколько поколений всеобщего обязательного образования и работы на русском языке - и украинский постигла бы та же катастрофа. Сейчас, к счастью, все не так безнадежно.

К слову, языковая ассимиляция совсем не обязательно прекращается с получением независимости. Доля говорящих по-ирландски за годы свободы продолжала стремительно падать. Фламандский в Брюсселе продолжает умирать и, вероятно, умрет в ближайшие годы, несмотря на то, что получил официальный статус и перестал угнетаться.

Если успела появиться мощная языковая среда, она продолжает ассимиляцию сама по себе, даже в отрыве от центра.

Правда, язык - это важно, но важнее самосознание. Англоязычные ирландцы не становятся англичанами и не меньше, чем раньше, чувствуют свою отдельность. Как с этим делом в Беларуси - судить не берусь. В Украине все выглядит довольно оптимистично - люди вне зависимости от основного разговорного языка все больше чувствуют себя единой, особой нацией.

Кстати, ассимиляция в РИ и СССР - совсем не одно и то же. В СССР шла ассимиляция всех народов в новую общность - советский народ. От старых русских у этого народа - только язык. И с этой точки зрения сама Россия была почти полностью ассимилирована. У россиян в основном остались советские представления о своей истории, наследии, ценностях, культуре, месте в мире, друзьях и врагах. Возрождения России в добольшевистском виде, несмотря на ожидания, не произошло. Беларусь тоже производит впечатление не столько русифицированной, сколько ассимилированной в советский народ нации.