在斯大林逝世后，朱可夫功勋卓著，被推举为关键人物，他出手制服了赫鲁晓夫的竞争对手贝利亚。赫鲁晓夫上台初期仍旧心存感激，将朱可夫任命为国防部长，并纳入高层决策。然而，1957年，在朱可夫访问南斯拉夫期间，赫鲁晓夫在苏共中央全会上指控朱可フ阴谋篡权，最终免去了他的一切职务。朱可夫黯然退出政治舞台。
1941年6月22日，当纳粹德国突然向苏联发动攻击时，苏军措手不及。在这危机之际，最高统帅部大本营成立，由七位成员组成，其中包括朱可フ作为总参谋长。他提议放弃基辅，全力保卫莫斯科，但遭到斯大林的反驳。当场气氛紧张至极，但最终斯大林决定让步。半小时后，他将朱可フ召进办公室说：“你愿意去哪个部队？”“我可以做任何工作，只要祖国需要。”于是，他被任命为预备队方面军司令员。
战功辉煌，使他成为军神，而在列宁格勒、莫斯科等关键战役中，他担任关键角色，为苏联赢得了胜利。在随后的岁月里，尽管他功高盖主，但也因与赫鲁晓福改革观点不合而被迫下台。
晚年的他深受病痛折磨，更是孤独无援，只有少数忠实的朋友如巴格拉米扬和华西列夫斯基陪伴左右。在妻子加林娜去世后不久，一代名将以悲凉告终，没有人出席其葬礼，即使生命最后一刻，也未能获得平反直到1995年俄罗斯纪念世界反法西斯战争胜利50周年时才彻底恢复其名誉。