第21集团军的军部在陕西省宝鸡，原代号84810部队。隶属兰州军区，是1985年由第21军改编的，下辖61，63师，和原19军55师（前身是陈赓太岳4纵12旅，又称陕南12旅)共计3个步兵师，并编入坦克第12师、炮兵旅（原炮兵第15师）和高炮旅。原属21军的步兵第62师撤销，其第184团被改编为兰州军区特种大队。该集团军组建后于1986-1987年参加老山地区防御作战，步兵第61师第182团第9连战后被中央军委授予“攻坚英雄连”荣誉称号。1991年，在本职岗位上坚持不懈学雷锋的步兵第61师军械修理所志愿兵李润虎（现任21集团军装备部副部长）入选中国首届“十大杰出青年”。90年代中期以后，步兵第61师被确定为应急机动部队之一，原属第21集团军的步兵第63师于1996年改为武警机动师。1998年后，步兵第55师改为摩步旅，坦克第12师改编为装甲师。现任军长房峰辉，政委孔瑛。
现任中央军委委员，总后勤部部长王克曾于80年代中期任21军军长。现任兰州军区政委刘冬冬曾任该集团军政治部主任，政委。
    该集团军所属荣誉单位有：
    红军师--步兵第61师(原大别山红28军)；
    红军团--步兵第61师第181团、第182团(原新四军七，八团)；
    攻坚英雄连--步兵第61师第182团第9连； 
    第21集团军的前身，是抗战爆发后组建的新四军第2师和第4师的主力部队。其中新四军二师的前身第四支队是由坚持大别山红旗不倒的红28军改编的，是当时新四军各支队中兵力最多的，也是唯一位于江北的支队。而新四军第4师则是著名的彭雪枫部。抗日战争胜利后，这两个师的主力于1945年10月编为山东野战军第2纵队，下辖第4、第5（1946年6月改属淮南军区）和第9旅。罗炳辉先后任司令员，赵启民任政委。1947年9月与华中野战军第9纵队一部组成华东野战军第2纵队，司令员兼政委韦国清，原第4、第9旅分别改为第4、第6师，原第9纵队部队编为第5师。解放战争中，第2纵队转战于华东战场，在孟良崮、济南及淮海等战役中主要担任阻击和“打援”任务。1949年2月，第2纵队改编为解放军第21军，军长滕海清，政委康志强，属第3野战军第7兵团，各师分别改称第61、第62和第63师。而后参加渡江战役，属中集团。5月又参加上海战役。上海解放后，该军在22军配合下，解放了舟山群岛，从而解除了上海被封锁的局面。
    第21军在抗美援朝后期于1953年3月入朝轮战，参加了金城反击战，朝鲜停战后长期留守朝鲜，直至1958年7月回国，隶属北京军区，驻山西大同。1965年10月第63师187团8连因在战备训练中表现突出，被国防部授予“英雄八连”荣誉称号。“文革”开始后，第21军于1967年调入关中，改属兰州军区。