1949年10月1日，中華人民共和國宣告成立，徐向前任新中國首任解放軍總參謀長。
徐向前：一向很低調的元帥
徐向前，山西五台人。“文化大革命”初，徐向前受命擔任軍隊文革小組組長，在極端困難的情況下，他為穩定軍隊作出了貢獻。1967年初，徐向前作為“二月逆流”的成員靠了邊。家被抄，中央文件也被停發。1969年1月，徐向前到二七機車車輛廠“蹲點”，10月被戰備疏散到開封。
1990年3月以來，徐向前心絞痛頻發，有時一日數次。緊急治療後，仍沒有完全消除。
6月5日，又患了感冒、低燒，換了幾種抗生素，都無效。6月27日，徐向前住進301醫院。因為高燒，他好幾天沒有入睡，報了病危。6月30日，高燒39．8℃。因為以前徐向前得過三次肋膜炎，肺功能不大好，平時特別注意防止肺部感染，沒發過這樣高的燒，都以為這一關過不去了。醫生用冰毯加上抗結核藥物治療，使他的體溫趨於正常，慢慢地可以聊天，也可以下地了。醫生説，9月可以出院。8月5日，夫人黃傑和兒女全來了，徐向前説，我説不了多少話，我要説的是，死後一不搞遺體告別，二不開追悼會，三把骨灰撒在大別山、大巴山、太行山、河西走廊，這就是我留給你們的遺言。
抗結核藥物嚴重損害了徐向前的肝臟，造成亞急性肝壞死，多臟器衰竭。雖經醫院全力搶救，終無力回天。1990年9月21日4時21分，徐向前的心臟停止跳動。當天，中共中央、全國人大常委會、國務院、中央軍委發佈訃告，高度評價了徐向前的一生。唁電從全國四面八方飛來，七個大軍區黨委分別致電中央軍委。海豐、大別山、大巴山、河西走廊、太行山等老區人民也紛紛發來唁電。10月24日，《人民日報》頭版頭條刊登新華社《億萬軍民沉痛悼念徐帥》和《徐帥病重期間諄諄寄語全黨》的新聞稿。10月18日，天安門、新華門、外交部下半旗誌哀。在301醫院小禮堂，解放軍儀仗隊的禮兵持槍肅立。徐向前的遺體安臥在鮮花翠柏中，覆蓋著中國共産黨黨旗，橫幅上寫著“沉痛悼念徐向前元帥”。黨和國家領導人向徐向前作最後的告別，並向守靈的親屬表示慰問。八名禮兵抬著靈柩緩緩送上靈車。當晚，中央電視臺播放了徐向前生平的電視片《光輝的業績》。
遵照徐向前的遺囑，中央軍委指示，11月1日至10日，中央辦公廳、中央軍委辦公廳、總參管理局的工作人員陪同徐向前的親屬乘專機飛往徐向前生前戰鬥過的地方，撒放骨灰。
徐向前的骨灰盒和遺像安放在他的故鄉五台縣烈士陵園。
