В 1946—1953 годах — заместитель председателя Совета Министров СССР.
С марта 1953 года по май 1960 года — председатель Президиума Верховного Совета СССР. В 1957 году вошёл в «антипартийную группу», пытавшуюся сместить Н. С. Хрущёва с поста лидера партии и государства. После разгрома группы в отличие от её лидеров не был исключён из партии, а лишь подвергнут критике на XXII съезде КПСС, выступил с покаянными заявлениями и был снят с руководящих должностей. Однако при Брежневе в 1966 году вновь стал членом ЦК КПСС, оставался им до конца жизни.
Умер на 89-м году жизни 2 декабря 1969 года. Похоронен на Красной площади в Москве у Кремлёвской стены. Как пишет канд. ист. наук Л. Максименков, его похоронам придали беспрецедентный государственный уровень — впервые за двадцать лет после похорон Жданова была вырыта могила за Мавзолеем В. И. Ленина (если не считать перезахоронение Сталина). Группа от 10 человек. Необходима предварительная запись.