总参谋部是在央央军委领导下负责组织武装力量建设和实施作战指挥的最高军事领导机关。聂荣臻时年50岁。他后来曾回忆说："1949年2月，我与叶剑英同志被任命为中央军委(对外称中国人民革命军事委员会)副总参谋长。当时军委总参谋长是由周恩来同志兼任的。1949年9月剑英同志到广东任职后，军委又任命我继任北平市市长兼军事管制委员会主任。这样，我就身兼六职了：副总参谋长、华北局第三书记、华北军区司令员、北平市市长、北平市军管会主任、平津卫戍区司令员。""解放初期，我军的领导机关，是从战争年代延续下来的。总参谋部实际上还是毛泽东同志由陕北带来的那个小而精干的班子，人数很少，总共只有20来人，主要是作战部，由李涛同志负责。"
在这里，聂荣臻元帅所说的"20来人"，是指作战部中的作战科而言。
总参谋部一经成立，原"一局"立即升格为作战部。从这时起，总参谋部编制内出现了"部"的单位，其下是处级单位，分工日趋细密。
建国以后的解放军总参谋部，在聂荣臻的主持下开始走向正规化建设。
据聂荣臻回忆，在平津战役结束后，林彪曾向毛泽东提议由聂荣臻率领四野的部队打到江南去。聂荣臻马上说，打这种光荣仗、便宜的胜利仗我是不去打的。现在决战之后，大仗已经不会再有了，我看下江南还是应该由你林总带兵去。你觉得兵不够用，向我点兵要将我都给。由于是在毛泽东面前讨论问题，聂荣臻不知道毛泽东的意见，他还表示，如果主席决定我和林总一起下江南作战，我去，但是我当副手，还是由林总率军。
毛泽东决定，林彪打到南方去，聂荣臻留在北平。
