Хороший вопрос!
Ответ на него кроется, скорее всего, в войнах, которые Османская Империя вела на Балканах в XIV-XV веках.
Османская Империя двигалась с востока на запад (или, если точнее, с юго-востока на северо-запад) и в XIV веке захватила Сербию, а затем, в том же веке, начала захват Боснии, которая была до этого независимым королевством, не имеющим выхода к морю.
Босния сопротивлялась довольно долго, только в 1463 году туркам удалось установить окончательный контроль над территорией королевства и казнить последнего короля Боснии.
Всё это не могло не тревожить соседнее Королевство Хорватию, границы которой тогда существенно отличались от современных - не было как раз этого "отростка", который сегодня отрезает Боснию от моря. Большая же часть этого отростка - который вообще-то является исторической провинцией Далмацией - тогда занимали территории под контролем Венеции, а также независимая Дубровницкая Республика.
Османская Империя попыталась и их захватить, в 1493 году началась столетняя война, которую называют хорвато-османской. Хорваты понесли огромные потери, как человеческие, так и территориальные, но и для Османской Империи конец войны стал началом стагнации и последующего заката - до этого империя расширялась очень агрессивно и быстро, а Хорватия оказалась как раз тем куском, который турки проглотить не смогли.
Кроме хорватов, сопротивление Османской империи оказали также и венецианцы, и далматинцы из Дубровника - собственно те, кто контролировал береговую линию. В какой-то момент их территории стали совсем тонюсенькой полоской на берегу Адриатики, но к морю они турков пускать ох как не хотели (и не пустили в итоге).
После XVI века происходило много чего ещё, но, мне кажется, решающим фактором, сформировавшим границы между современной Хорватией и Боснией, было как раз то, что я описал выше. Далмация затем, в ходе разных конфликтов XVII-XIX веков ещё неоднократно переходила из государства в государство, но в итоге укрепилась в составе Австро-Венгрии, и, имея такие тесные исторические связи с Хорватией, осталась в её составе после раздела Австро-Венгрии.