Вообще можно, да. Мой муж - гражданин Латвии, женились мы в Москве. А в Латвии потом, чтобы считалось, что брак действителен, он куда-то носил переведенное свидетельство, писал заявление и т.д. То есть просто так женатым он там не считался, и мог спокойно жениться второй раз по месту жительства уже :)