Считается, что первую программу написала Ада Лавлейс для механической вычислительной машины Бэббиджа, созданной в 1823 году. Впоследствии, в 70-ых годах прошлого века, в её честь был назван язык программирования высокого уровня.
Если же говорить о новейшей истории, то в первых компьютерах языки высокого уровня не использовались. Программисты писали машинный код понятный только определенному процессору, напрямую оперируя ячейками памяти.
Программы постепенно усложнялись, и появилась необходимость в ассемблерах. Но все равно это было низкоуровневое программирование, требовавшее серьезной инженерной подготовки и довольно сложное в отладке.
Первый высокоуровневый язык был разработан немецким ученым Конрадом Цузе в 1948 году. Однако реализации для него создано не было.
Первые язык (FORTRAN) и компилятор, реально использовавшиеся в разработке, появились только в 1957 году. Это было ответом на необходимость в человекопонятном языке и возросшую мощность компьютеров.