Правил в современном русском языке нет, чередования эти являются историческими и связаны с периодами изменения фонетической системы языка (а именно с I, II и III палатализацией - смягчением согласных). Так, согласные к, г, х изначально были твердыми, в связи с этим перед гласными переднего ряда превращались, соответственно, в ч, ж, ш. Поэтому, как в вашем примере, произошло изменение качества звука. Тогда как в более поздних (в основном заимствованных словах) мы наблюдаем эти согласные в мягком варианте (герой, кино).
Данный конкретный ваш пример относится к 14 веку и связан со II палатализацией согласных.
Михаил, можете порекомендовать какой-то материал на эту тему? Если можно, бесплатный и доступный в интернете