Если мы не будем говорить о всяких там нейтронных звездах, черных дырах и т.п., где атомы сплющиваются, ионизируются и вообще происходит черт знает что, то максимальная плотность будет у такого вещества, у которого атомы имеют максимальную массу при минимальном радиусе и упакованы плотнейшим образом.
Кто это может быть? Нам нужно, чтобы все атомы были тяжелые, значит скорее всего простое вещество с большим атомным весом или соединение, в котором все элементы обладают большим атомным весом. Затем минимальный радиус при максимальном весе, значит нужно обратить свой взор к элементам сразу после лантаноидов (или актиноидов, но там по-моему уже нет достаточно стабильных), поскольку у них будет минимальный радиус при максимальном весе (см. лантаноидное сжатие).
Далее плотнейшая упаковка. Плотнейшие упаковки очень характерны для металлов, да и после лантаноидов идут сначала металлы. Значит какой-то металл после лантаноидов, но до начала заполнения новой электронной оболочки, которое сразу резко увеличит радиус атома. В общем видно, что это осмий, иридий, платина. У платины с верхней s оболочки один электрон проваливается, поэтому радиус возрастает сильнее, чем обычно. Остаются осмий и иридий. Смотрим их плотности - ну, где-то в районе 22.5 г/см3 у обоих. Видимо это и есть предельная плотность химического вещества при н.у.