Всем этим выражениям очень много лет, а о происхождении мало чего известно. И виноват тут не только Пушкин, но, например Глинка (в Смоленске), а Дюк в Одессе. Всем этим персонам воздвигли памятники прямо в центре городов (в Москве, Одессе и Смоленске). Памятник – это ориентир. Сам Пушкин ни в чем не виноват, а виноват памятник, который оказался в самом центре Москвы (На Тверском бульваре в 1880 году, арх. Опекушин). Есть версия (Е. Рабинович) о том, что эти выражения имеют много общего с выражением «с дядей» . Это выражение часто употребляли намного раньше для обозначения «некого незнакомого человека», на которого не стоит надеяться – некий мифический персонаж. Люди часто боялись употреблять имя живого человека, поэтому и разного рода нечистую силу называли абстрактным словом «дядя», так как представителей нечистой силы вслух называть было нельзя. Выбрали обобщение «дядя».
Со временем воплощением неживого стал «памятник», на который люди любили указывать, прогуливаясь по центральным улицам Москвы, Смоленска или Одессы. «Опоздал? Мы же договаривались! А кто виноват? Пушкин?»
Но, опять же, добавлю, что вопрос дискуссионный.