В 1953 году — председатель Специального судебного присутствия, судившего Л. П. Берию с рядом его ближайших сотрудников и приговорившего их к смертной казни. С мая 1955 года — 1-й заместитель министра обороны СССР и Главнокомандующий Сухопутными войсками. В 1956—1960 годах — 1-й заместитель министра обороны СССР, c 1955 года — одновременно Главнокомандующий Объединёнными вооружёнными силами стран Варшавского договора. В этом качестве с 1 ноября 1956 года руководил подавлением Венгерского восстания, его временная ставка находилась в венгерском городе Сольнок. С июня 1960 по август 1961 года и с апреля 1962 года — в Группе генеральных инспекторов МО СССР. В августе 1961 — апреле 1962 года, в период Берлинского кризиса — главнокомандующий Группой советских войск в Германии. Умер 21 мая 1973 года от рака. Похоронен после кремации на Красной площади в Кремлёвской стене.Группа от 10 человек. Необходима предварительная запись.