第54集团军最早的前身是长征前夕成立的红九军团，抗日战争中编为八路军120师359旅718团，后编为警备第一旅，驻守陕甘宁解放区的关中分区。抗战胜利后进军东北，编为热辽纵队，后改为东北民主联军第8纵队，黄永胜(1955年授上将衔，曾任红一军团一师三团团长，东北野战军第8，6纵队司令，第四野战军13兵团司令。建国后任广东军区副司令，志愿军19兵团司令，广州军区司令，总参谋长兼军委办事组组长)任司令，邱会作(建国后任副总参谋长兼总后勤部部长)任政委。组建不久在辽西以劣势兵力三战三捷，赢得秋季攻势的胜利。而后参加辽沈，平津战役。南下衡宝时，该军第135师在师长丁盛(后任第54军军长，新疆生产建设兵团司令，广州军区，南京军区司令)指挥下以勇猛顽强的动作孤军插入敌重兵身后，为战役全胜做出重大贡献。1952年在广东，以第45军军部，第134，135师和原第44军130师(前身为抗日战争中的冀中军区主力部队)编为第54军，参加抗美援朝。1958年随志愿军最后一批部队回国，立即奔赴西北，西南少数民族地区平叛作战。1959年又参加了西藏平叛作战。1962年对印度自卫还击作战中，第130师在军部指挥下取得“瓦弄大捷”，给印军主力第四军以歼灭性打击。