Если под модерном вы понимаете модернизм, то лучший ответ на этот вопрос дали Максим Шапир и Вадим Руднев. Модернизм ориентирован на семантику, т.е. на создание нового художественного языка. Авангард же - на прагматику, т.е. на создание новых способов взаимоотношения с внетекстовой реальностью. Так, Руднев считает авангардным текстом роман Чернышевского "Что делать", поскольку первые читатели должны были воспринимать его как политическую прокламацию, а не как очередной беллетристический текст.
За пределами филологии эта теория приводит нас к весьма интересным умозаключениям. Авангардным жестом окажется воссоздание любого разрушенного памятника - Петергофа, центра Варшавы, Фрауэнкирхе в Дрездене. Какое-то время их физически не существовало, но вот они возникают снова. Что это как не новый способ отношений с реальностью?