1971年9月，軍委副主席葉劍英在這一特殊時期開始主席軍委日常工作。10月3日，中共中央決定成立軍委辦公會議，由葉劍英主持。此後，葉劍英力挽狂瀾，使得軍隊迅速穩定。

然而，1976年周總理逝世後，國內的形勢突變，這時，重病的毛主席將三軍指揮權交到了陳錫聯手中。

很快，中共中央發出了一號文件：

“經毛主席提議，中央政治局一致通過，由華國鋒同志任國務院代總理；在葉劍英同志生病期間，由陳錫聯同志負責主持中央軍委工作。”

中央一號文件下達後，葉劍英大多數時候會參加一些中央會議，至于軍隊的事情，基本上不再介入。

與此同時，軍中關于“陳錫聯奪權”的傳言也開始甚囂塵上，葉劍英元帥和陳錫聯的關系也陷入了微妙的尴尬之中。

一次，葉劍英元帥提出想要搬去廣州居住，陳錫聯聽說後，立即給葉帥打去了電話，由于太過著急，電話接通後，他便說道：“葉帥，你不能去廣州。”

沒頭沒腦的一句話讓葉劍英有些生氣，他在電話那頭質問道：“你是擔心我回到廣州搗鬼嗎？”

陳錫聯十分錯愕，在原地拿著電話愣怔了好一會兒。看到夫人進來，他才委屈地說道：“我不想讓葉帥離開北京，是因爲想在政治局裏多留下一票。”

由于種種原因，兩人之間的誤會一直沒有解除。

1976年毛主席逝世後，爲了黨和人民，葉帥作出了粉碎陰謀集團的重要決定。爲此，他秘密詢問了許多老同志的意見，並得到了他們的支持。

由于對陳錫聯還有誤會，葉帥並沒有親自找他談話，只是在與李先念談話時，寫下了陳錫聯的名字，又打了一個問號。

李先念看後隨即明白葉帥的意思，他親自爲陳錫聯作保，葉帥這才放下心來。

後來，在華國鋒做部署安排時，陳錫聯也多次出現在會議上，並在粉碎陰謀集團的過程中作出了重要貢獻。

與此同時，在此期間，陳錫聯就已經向華國鋒提出請葉帥繼續主持中央軍委的工作。之後，陳錫聯也因爲被質疑“奪權”，不免讓一些老同志對他有看法。但葉劍英元帥卻在重掌軍權後，絲毫沒有爲難過他。

鄧小平複出後，還多次爲陳錫聯解圍，“陳錫聯不是造反的人。”

1980年1月，爲響應中央號召，陳錫聯主動辭去一切領導職務，退居二線。

1999年6月10日，陳錫聯在北京病逝，終年85歲。中央軍委對他的一生作出了高度評價：

“在長期革命戰爭中，他以共産黨人特有的大智大勇，敢打善打硬仗、惡仗，常能出奇制勝，在關鍵時刻發揮了關鍵作用。”