В современности - это карликовые государства Монако и Ватикан. Судебная власть в их странах есть, но заключённых отправляют во французские и итальянские тюрьмы соответственно.
В прошлом пенитенциарные учреждения также применялись, но гораздо более используемой была смертная казнь. . В роли тюрем в древности выступали подземелья. В Средние века - ратуши, башни-темницы (Бастилия), т.н. "Подобные дома" и "Смирительные дома" и т.д. Зачастую, в тюрьмах осуждённые ожидали своей казни (как Сократ, например)
Фактически, страны, которая бы не применяла пенитенциарные учреждения, нет и никогда не было. Тюрьма - неотъемлемая часть человечества, которая сопровождает его на протяжении всей её истории. Может быть, за исключением первобытных времён, где все и так быстро помирали.