1941年12月，古德里安被希特勒解除了职务，原因是他在巴巴罗萨行动中的战略意见与希特勒严重不合。 早在1941年8月，当古德里安的装甲部队已经推进到斯摩棱斯克附近，莫斯科就在几百公里之外时，希特勒突然下令将第2装甲集群南调，去配合南方集团军群完成对乌克兰苏军的合围。 古德里安当时亲赴统帅部，当面向希特勒陈述：夏季窗口期有限，一旦错过，秋雨和严冬将让一切变得极为被动。希特勒听完，没有改变任何决定。 基辅战役在1941年9月26日结束，德军俘虏约66万苏军，战果之大令世界震惊。但古德里安清楚，这场胜利消耗掉了整个夏季。等到"台风行动"重新指向莫斯科时，已经是9月底。 泥泞季来了，然后是零下40度的严冬。坦克发动机打不着火，润滑油冻住，士兵穿着夏季军服在雪地里作战，因为希特勒从未预料到战争会拖入冬天。 1941年12月初，古德里安的先头部队已经抵达距莫斯科约15公里处。但朱可夫在这个时间点调来了西伯利亚部队，这些士兵接受过极寒训练，装备齐全，12月5日大规模反攻随即展开。 古德里安请求后撤至便于防守的阵地，希特勒的命令只有四个字：就地死守。 古德里安没有服从，他以实际行动小幅后撤，保存了部分战力，但也彻底激怒了希特勒。冯·克鲁格等将领趁机向上报告古德里安"不服从命令"，12月26日，免职令正式下达，措辞是"待命"。 这两个字在德国军队里意味着什么，所有人都明白。古德里安失去了指挥权，随后盖世太保开始对古德里安实施监视，通信受限，连与家人的书信往来都变得困难。 同期被解职的还有第4集团军司令冯·克鲁格、南方集团军群司令龙德施泰特，这是德军在东线遭遇首次重大挫折后，希特勒对高层将帅的一次集体清洗，史称"1941年12月将帅危机"。 被冷置的日子并不好过。 古德里安的身体在长期的精神压力下开始出问题，心脏病复发，状况持续恶化。更讽刺的是，希特勒虽然名义上给了古德里安"选择住所"的权利，实际上却指定他必须住在西普鲁士。 转机出现在1942年底。斯大林格勒和北非战场的接连失利让希特勒意识到，德军装甲部队的问题已经到了必须认真处理的地步。 1943年2月，希特勒亲自任命古德里安为装甲兵总监，负责重建德国装甲力量。 这是一次罕见的低头，据记载希特勒甚至表达了某种歉意。古德里安接受了这个职务，但没有表现出太多热情，更多是一种认为该做的事就去做的态度。 复出后，古德里安大力推动"黑豹"坦克的量产，并对"虎式"坦克的战术运用提出改革方案。但1943年7月的库尔斯克会战失利之后，东线德军全面转入防御，再多的装甲改革也难以扭转大势。 1944年7月20日，施陶芬贝格上校在"狼穴"引爆炸弹，刺杀希特勒失败。希特勒对陆军将领的不信任在这一刻达到顶点，大规模清洗随即展开。 就在爆炸后第二天，希特勒任命古德里安接替被牵连免职的蔡茨勒大将，出任陆军总参谋长。 这个时候接手这个职务，古德里安面对的是什么？西线盟军已从诺曼底登陆向东推进，东线苏军的"巴格拉季昂行动"已将中央集团军群打得几近崩溃。 古德里安在统帅部会议上直言战局，甚至在希特勒面前拍桌力争，这种场面在纳粹统帅部里极为罕見。 1945年3月28日，因争论是否从东线抽兵加强西线防御，两人再次激烈冲突，古德里安被以"健康原因"第二次解职。
