1953年，苏联领导人斯大林去世后，赫鲁晓夫接任党魁。朱可夫在这次权力交接中发挥了关键作用，他出手逮捕了赫鲁晓夫的对手贝利亚。初期，赫鲁晓夫对朱可夫表示感恩，将其任命为国防部长，并让他进入政治局。
然而，在1957年的一次苏共中央全会上，赫鲁晓夫利用朱可夫访问南斯拉夫的空隙，对其指控阴谋夺权，从而免去了他的一切职务。朱可夫被迫黯然退出政治舞台。
关于朱可フ下台的原因，有说法称是因为他功高盖主，不识时务，被猜忌；但事实上，两人在军队改革问题上的不和是主要原因。朱可フ坚持军队独立，不允许赫鲁晓弗插手改革，而赫鲁晓弗则以改革者自居，这种不可调和的矛盾最终导致了两人之间的冲突。
晚年的朱可フ认识了一位比自己小三十岁的女性加林娜，并与之结婚，他们有了一女。在此期间，他花费大量时间撰写回忆录《回忆与思考》，但最终未能出版。一气之下，他中风并瘫痪在地。病魔折磨着他九年，最痛苦的是几乎所有朋友都背弃了他，只有巴格拉米扬和华西列夫斯基两位元帅冒险保持友谊。
1973年底，加林娜因乳腺癌去世之后不到八个月，朱可H病情恶化。他先心脏梗阻复发，然后心脏停跳，但经过药物治疗后恢复跳动，但脑血管供血没有恢复，被迫依赖人工呼吸机度过生命最后五天。在这种情况下，一代名将、苏联“军神”乔治·康ستان丁诺维奇·朱科V于1974年7月18日安详辞世，当时正好享壽78岁。但他的葬礼竟然无一人参加，即使是在生命最后一刻，也未能得到平反直到1995年的世界反法西斯战争胜利50周年纪念才得以彻底恢复名誉。这段悲凉的人生故事，是一次悲剧性的结局，是一场战役中的英雄，却在历史的大潮中迷失方向，最终孤独地走向死亡。这就是那个曾经震撼世界、获得无数荣誉的人生的真实面貌——即使是一位伟大的军事领袖也不例外。
