С биологической точки зрения не могу точно ответить. Возможно это связано с напряжением глазных мышц.
Но сточки зрения антропологии это возможно связано с микровыражиниями (которые описывал Пол Экман "Психология эмоций"), по мнению антропологов многие выражения и эмоции у людей из разных времен и этносов идентичны. Это непреднамеренная реакция несогласия и презрения к собеседнику, но при этом принимая его позицию с неохотой. Как подросток, которому читают нотации. Чтобы хоть как-то снять напряжение, человек как бы уходит взглядом от собеседника, но не от смущения, а от презрения к нему.
Закатывание глаз означает (изначально значило) "о Боже" - обращение к Богу - мол, посмотри на этого, и что мне с ним делать, если грубо поступить с ним грех?
Т.е., это чисто культурная фишка, которой научаются как обезьянки. Распространено у христианских народностей. Демонстрация ложной вежливости и терпения, великодушного снисхождения.