Насколько я знаю, есть несколько версий, почему это происходит, ни одна из которых полностью не описывает многообразие ситуаций. Но все же, вот основные: с увеличением массы растения фотосинтез перестает обеспечивать растение необходимыми для нормальной жизни веществами, растению не хватает энергии (версия по большей части опровергнута); с увеличением высоты дерева становится труднее снабжать верхушки деревьев водой, ведь увеличивается не только высота, но и объем воды, верхним участкам дерева воды не хватает (хотя, не вполне понятным остается почему для разных деревьев критическая высота столь различна: как пример тополь и береза - живут в примерно одинаковых условиях, толщина ствола долгое время примерно соответствует, но тополь вытягивается намного быстрее и выше); также есть версия, что это приспособление к условиям среды - деревья медленно растут в ширину и при достижении определенной высоты просто становятся неустойчивыми (верхушки легко ломаются, при большой парусности растения может сломаться даже ствол).