1938年1月，鄂豫边区桐柏山游击队改编为新四军第四支队第八团。在挺进皖中、皖东敌后，积极开展抗日游击战争，建立抗日民主根据地的斗争中，部队从1300人（包括竹沟留守处送来的300多人）扩大到3000多人，并于1939年7月扩建为新四军第五支队。1941年，皖南事变后，五支队改编为新四军第二师第五旅，辖第十三、十四、十五团。十三团由五支队第八团改编，十四团由五支队十团改编，十五团由津浦路东独立第1、第2团编成。全旅共计5300人。旅长成均，政治委员赵启民，参谋长张元寿，政治部主任侯政，后为祝世风。十三团团长林英坚，政委祝世风，后为童浩生；十四团团长宋康，后为宋文，政委胡炜；十五团团长饶守坤，政委朱云谦。

“对西防御，向东发展”是党中央，华中局给新四军二师的任务和战略方针。1941年2月，五旅组成后，旅部奉命率十四、十五团配合兄弟部队担负向东发展的任务。五旅十三团仍留在路西地区，配合四旅、六旅，担负对西防御的艰巨任务。

旅部率领十四、十五团以主要兵力指向淮（阴）、宝(应）之敌。历经对淮阴高堰、白马湖、宝应湖等地日伪军积土顽据点的打击和发动群众，巩固了淮宝地区。部队移师淮（阴）泗（阳）地区。

1941年五月，新四军军部命令五旅协同在皖东的三师九旅和淮泗的一个团，在地方武装的配合下坚决围歼韩德勤手下的洪泽湖水警大队。在兄弟部队严密封锁湖岸，迎头痛击敌人突围企图后，五旅十五团编成数个船队，齐头并进，一鼓作气，冲入湖中，将水警大队团团围住。敌人陷入绝境后，在我军政治攻势下，敌大队长陈培华被迫率部投降。我将所缴获的战船枪械装备成一支巡湖大队，同时成立了洪泽湖抗日民主政府。辽阔富饶的洪泽湖又回到了人民的怀抱，成为我军一个巩固的水上根据地。

1941年春夏间，国民党汤恩伯集团九个师大举进犯我豫皖苏地区。四师部队迎头痛击敌人重兵集团后，部队撤到津浦路东地区。军部命令四师部队到淮宝地区休整。调五旅和三师九旅及地方武装阻遏汤集团东犯，确保皖东北地区，视情相机发展。

7月初，五旅旅部率十四团、十五团渡过洪泽湖，准备向西进军。根据战场实际情况，五旅决心首先把战场向西推进到津浦路东侧，与我留在路西的兄弟部队和地方党组织取得联系，同心协力，东西配合，共同阻遏敌人的攻势向东深入。

7月中旬，五旅两个团分路西进，连续拔除和肃清了原来我军控制的泗县以北地区的土顽据点和武装，，完成了第一步作战任务。接着，孤立泗县、灵璧两县城守敌，控制了广大农村地区。

8月24日，五旅十四团、十五团一个营和三师九旅25团发起攻占张楼的战斗。张楼分为前后张楼，驻有伪化顽军张海生部700人，工事坚固，粮弹充足，是日军的重要基地，拔除张楼据点，对巩固皖东北意义重大。战前决定，九旅25团攻打后张楼，五旅十四团攻打前张楼及外围据点，十五团一营负责阻击援敌。

24日晚战斗发起后，由袭击转入强攻，经过激烈战斗，张海生率部退守核心工事，死守待援，战斗处于僵持状态。上午十时，日军自泗城县先后约500多人乘汽车向张楼驰援。十五团一营在瓦坊一线阻击未成，战况骤趋紧张。五旅旅部调十四团三营赶去阻敌，该营七连在何宅子村依托有利地形与数百名日军展开激战，全连伤亡七十多人，指导员芦平同志壮烈牺牲，连长彭家祥同志手指被日军指挥刀砍掉一节，血流不止，但仍率全连仅剩的十七人顽强奋战坚守阵地，直至黄昏战斗结束，共歼敌200多人，保证主攻部队侧翼安全，完成了阻击任务，受到旅首长的通令嘉奖。

10月，陈毅代军长亲临我旅视察，检阅了部队军政训练情况，向全旅指战员发表了亲切感人的长篇讲话，给了全旅同志极大的鼓舞和深刻的教育。

10月中旬，陈毅代军长亲自指挥二师、三师、四师各一部发起程道口战役，将该处顽军一网打尽。五旅在战斗中担负防御路西敌军东犯的任务。战役结束后，五旅部队向西扩展攻势，肃清了浍南地区土顽，直捣五河县城，恢复和巩固了皖东北根据地的泗南、泗北地区。

五旅在皖东北作战近半年，在四师首长领导指挥下，在九旅和地方武装配合下，基本完成了上级赋予的各项任务。年底，旅部奉命率领十四、十五团返回淮宝地区休整。在此期间，五旅十三团在路西配合四旅、六旅作战。十三团在大桥战斗中担任阻击任务，配合兄弟部队取得一次全歼桂顽两个营重大胜利。大桥战斗后，桂顽急于报复，11月底，纠集三个主力团及地方保安部队，分路直扑我中心区之藕塘镇。我十三团扼守东线主阵地黑郎庙，11月28日，顽军向黑郎庙阵地发起进攻，三营当即予以痛击，接连打退顽军多次进攻。战至下午三时许，三营阵地四面被围，战斗异常激烈，十三团团长林英坚率领团预备队坚决反击，在战斗中不幸牺牲。三营毙伤敌军300多人后，于天黑撤出阵地。黑郎庙战斗后，十三团奉命调津浦路东整训。于1942年1月抵淮宝归建。

1942年春，根据军、师指示，部队开始精简整编，五旅缩编为两个团，旅的领导干部除调詹化雨同志任副旅长以外没有变化。十三团团长饶守坤、政委童浩生；十四团团长宋文，政委胡炜。十五团撤编，其一、三营分编给十三、十四团，二营编给六旅十七团。十三、十四团个增编一个迫击炮连，每营增编一个重机枪排。

全旅共3734人。经过精简整编，部队精简了机关，充实了连队。同时，协助地方武装精简整编，纯洁内部，增强了独立作战能力

部队整编后，旅部率十三团、独五团驻淮宝地区，十四团驻淮泗地区。4月，日伪军为打通运河线，在陈双庵、三棵树设立据点，十四团对其进行了连续攻击。经历时一个多月的三次战斗，歼灭伪军200名，毙日军西本义夫中队长以下70名，俘日军一名。粉碎了敌人的企图。

10月，日军十七师团7000人，伪军2000人，向我淮海、淮泗、淮宝“扫荡”。中旬，敌伪2000人合击我旅部和十三团， 十三团转到外线，在侧后向敌人发动攻击，打得敌人狼狈逃回淮安。27日，敌人1000多人，在飞机和骑兵的配合下，以闪电方式突袭我淮泗中心区吴集。我十四团和当地党政机关转到外线。敌人连续合击扑空，改为“梳篦”式合围进剿。淮泗军民坚壁清野，游击困扰敌人，打击内线之敌。十四团一营一度突袭淮阴城关敌军骑兵营地，杀伤敌军一部，缴获战马30匹。在我军不断打击下，“扫荡”之地退回老巢。

1943年2月，旅机关和直属队同路东军分区机关合并，改为五旅兼淮南津浦路东军分区。旅长兼分区司令员成均，政委兼路东地委书记赵启民，副书记李世农，副旅长兼分区副司令员罗占云，参谋长张元寿，政治部主任张树才，副主任郎清荣。下辖十三、十四两个主力团。路东原八个县机关合并为四个办事处，两个独立团和八个县总队整编为四个支队，6月又增编了一个支队。县委书记兼任支队政委，实行党政军一元化领导。

部队配合地方政府开展生产救灾工作，减少由于敌人“扫荡”和旱灾造成的春荒对群众生产生活的影响。部队利用战斗间隙，积极开展大生产运动，下湖捞鱼，。开荒种菜，砍芦苇盖营房，建立被服厂、卷烟厂、修械厂，克服物资困难，减轻人民负担。

3月，成均旅长率师三团和留在淮宝地区的十四团参加了淮北山子头战役。在四师首长的统一指挥下，于3月17日夜发起反击韩顽的战役。经过一天一夜激战，全歼韩德勤部。五旅围歼韩顽独六旅，经过攻坚，全歼顽军1000多人。毙伤旅长李仲寰以下近百人。

6月，为了粉碎日寇抢粮企图，，我十三团和东南支队相互配合，拔除了仪征谢家集伪军据点，全歼守敌200多人。17日，我十三团和旅特务营在六合桂子山迎头痛击抢粮的日伪军，经过整日激战，毙伤日伪军300人，其余敌人逃回六合。我军也有较大伤亡，副团长陈宗胜，副主任李秉初同志英勇牺牲。经过这两次战斗，是高邮湖西新成立的甘泉县得到了进一步巩固和发展。战后旅兼军分区召开了英模大会，奖励英雄模范，开展杀敌立功运动。

为加强津浦路西、皖江（七师）地区对顽防御，军部调五旅到路西兼路西军分区。路东军分区的任务改由四旅担负。1943年9月间，成均、赵启民、张元寿率十三、十四团进入路西地区。六旅撤销，六旅十七团改为五旅十五团。成均旅长兼路西军分区司令员，赵启民政委兼路西地委书记，黄岩任副政委兼地委副书记，副旅长兼副司令员张翼翔，副司令员陈庆先，参谋长张元寿，政治部主任邓少东，副主任萧学林。

五旅进入路西后，面临日伪军和顽军两面夹击，边缘区被伪化蚕食，根据地日趋缩小，财经很困难，社会动荡不安。为打开困难局面，我采取了“南防北攻”的作战方针。即对顽军防御，对日伪进攻。对南面的顽军，路西部队和地方武装进一步巩固和完善了野战集团堡垒防线，使南面的防线相对稳定下来，之后，组织部队向日伪军展开进攻。

五旅“北攻”的第一仗，是在定远城西东兴集歼灭土顽徐郁堂部的战斗。徐部是日军精心豢养的一支拥有300人枪的匪徒武装，经常向我张桥镇，下马铺进行蚕食进攻。几年来，我地方武装无力制服他。我十四团和定远总队，将徐部包围在东兴集等三处老巢内。定远城日伪军600多人火急出援，被我击溃，退回城内。徐郁堂部被我军尽歼。随后，我巢北支队、淮西独立团在淮南铁路两侧纷纷出击，巩固了原有游击区，并开辟了新区。

正当我军在北线展开反蚕食斗争并不断获得胜利之际，南线顽军以为有虚可乘，调集511团和游击第十大队隐蔽进入我根据地，于10月30日向我中心区南面之主阵地五尖山发动突袭，企图一举敲开我南大门，直捣我路西地委和军分区机关所在地藕塘镇。守卫五尖山的我十五团一营，对进袭之敌猛烈回击，双方在陡峭狭小的主阵地上反复冲杀，顽军攻击不能奏效。至下午四时，顽军以一部迂回到我主阵地侧后最高山峰，企图从侧后俯攻我主阵地。我十五团政委殷绍礼机智果敢，当机立断，率领第三营奋力抢先，先敌一步带领部队攀上主峰，将顽军迎头击溃，使顽军付出重大伤亡，败阵退出根据地。

五尖山战斗后，桂顽图我根据地之心不死，于11月23日又以四个营的兵力（2000多人）向我定远县占鸡岗阵地进攻。我军先以村落战消耗敌人，然后主力出击，顽军遭受较大伤亡后败退，这是五旅进行的第一次占鸡岗战斗。

五旅于1944年进行整风学习运动，由于全党全军两年多来整风运动已经取得了很多经验，在二师政委和淮南区党委书记谭震林的亲自指导下，部队在取得连续胜利，环境相对比较安定条件下进行整风，学习搞得较有声势又稳健扎实。整风运动以学习文件和自我教育为主，特别强调理论联系实际和阶级教育、党性教育。对少数单位和个人出现逼供信的错误都及时得到纠正。通过整风教育和学习，有力的提高了全旅官兵的思想觉悟和部队的战斗力，为部队今后各项建设打下了坚实的思想基础和组织、理论基础。

部队整风学习结束后立即转入民主大练兵。五旅在群众性大练兵中树立了两个典型，一个是“爱兵模范”十四团四连班长陶兴发，一个是“神枪手”十八团七连排长李广友。通过广泛开展学习陶兴发和李广友的活动，带动了全旅的军事训练。

10月，我旅对北线日伪军发起进攻。21日，我十四团夜袭凤阳殷家涧日军据点，歼敌一部。天明后一部伪军来援，被我击退。下午，住蚌埠日军鲁山大队和伪军一部在飞机掩护下大举来援，被我打援部队包围，来敌被我猛烈火力杀伤后，二营六连冲入敌群，展开白刃格斗，毙日军副大队长以下70多人，伪军一百多人。援敌溃逃。殷家涧守敌也于黄昏后逃走，我军收复殷家涧。

11月10日，日伪军近万人，分七路合击我藕塘镇。我党政军首脑机关及时转移。日军扑空后，立即调整部署，向我路西南缘的防御堡垒线进攻，企图将我所有工事摧毁，为桂顽向我进攻扫清道路。15日，桂顽512团与日军配合，在定远县曹家集向我十五团实行夹击。我军及时发觉，机动转移。16日，桂顽和日军故伎重演，在合肥青龙厂以北向我十四团和巢北支队采取南北对进实行夹击。恰时值大雾，我主力机敏跳出合击圈外，留下几支小分队分头阻击日军和顽军。我边打边退，日顽双方逐步靠近，在大雾中交上了火，展开一场激战，直到日军俘获一批顽军，查明情况，双方才知道“发生误会、上了新四军的当”，只好败兴收兵。

在日军摧毁我堡垒线同时，桂顽调集了两个团的精锐兵力，分成两路，跟随日军，伺机向我进犯。日军于16日开始撤退后，17日下午，桂顽171师152团团长蒙培琼率领四个主力营长驱直入延寿集以南之郭集、蒋集一带。18日，敌人在郭集徘徊一天，窥测日军撤退实情和我军虚实。19日，敌人展开攻势，首要目标是我占鸡岗主阵地。我军经英勇奋战，毙伤俘敌桂顽团长蒙培琼以下四个营2000人，缴获全部武器，取得了占鸡岗大捷。占鸡岗战斗的胜利，对改变路西斗争形势，鼓舞广大军民胜利信心具有重大意义。陈毅同志说：“一次歼灭桂军四个营在我军战史上还是第一次。”高度评价了占鸡岗战斗的战绩。

12月，五旅奉命准备南渡到江南开辟新区。军部命令五旅免兼路西军分区的任务，所属十八团和几个县区武装划归路西军分区编制序列。旅团干部作了一些调整，旅长成均，政委赵启民，副旅长钟国楚，参谋长张元寿，政治部主任邓少东，副主任萧学林；十三团团长宋文，政委萧学林（兼）；十四团团长兼政委朱茂旭（后谢锐，夏云飞分任团长、政委）；十五团团长李世怀、政委殷绍礼。全旅共5900人。1945年2月，因情况变化，解除了渡江南进的任务。

1945年3月，桂顽进犯我第七师部队，为了支援兄弟部队作战，五旅发起攻势作战，攻克顽军据点十多处，歼顽军511团一个营及土顽300多人。在攻坚作战中我旅首次使用了二师兵工厂生产的平射炮，这种火炮虽然射程进，但是直瞄抵近发射，几乎每发必中，甚为奏效。

4月，军部决定发起黄疃庙战斗，五旅担任攻取顽军据点王子城的任务，以攻城打援的战法，调动顽军主力增援，为兄弟部队在野战中歼灭顽军主力创造条件。王子城为桂顽511团一个营和土顽共800多人驻守的一个重要据点，深沟高垒，阵地坚固。五旅十五团两个营担任主攻，攻进城内将顽军主力全歼。王子城一打响，顽军第一批援兵513团前来增援，我十三、十四团将其击溃，俘团长以下800多人，我十四团团长兼政委朱茂旭在此次战役中英勇牺牲。黄疃庙战役后，全旅部队回到中心区休整。

1945年8月15日，五旅奉命向蚌埠以南淮南路敌人据点进攻，战至23日，解放了凤阳刘府、定远炉桥等处日军据点十余处，毙伤日军300余人，俘虏日军20人。接着五旅向蚌埠展开进攻，蚌埠日军拒不受降，负隅顽抗。正当五旅猛攻市西南制高点老虎山时，桂顽三个师绕道淮河北岸，进入蚌埠市，实行“受降”，五旅奉命停止对蚌埠攻击，挥师津浦路东。9月18日到达六合县集结。

根据形势变化，中央军委调新四军部队到山东，二师四旅、五旅奉命由罗炳辉师长率领北上山东。10月3日，五旅由天长石梁出发，9日到达宿迁县休整。19日继续北上，在途中，十四团在窑湾全歼伪军800多人。五旅于25日到达山东滕县东廊一带集结。陈毅军长即亲临五旅视察，召开连以上干部会议并发表了鼓舞人心的讲话。

11月3日，五旅参加界河战斗，打击了蒋军北犯企图。这次战斗是陈毅军长和罗炳辉师长亲自指挥的山东八路军和北上新四军共同打的第一个胜仗。11月25日，陈毅军长集中山东野战军和地方武装23个团发起临枣破击战，到23日，五旅连克石格营等多处据点，歼灭日军两百多人，伪军四百余人。

1946年1月5日，徐州蒋军分三路向我解放区大举进犯，五旅在运河北阻击冯治安部两个师，敌人连日进攻，均被我击退。11日，敌人全线溃退，五旅追至运河边，十四团在韩庄东刘旺歼顽军一个营，十五团在郝家湖歼顽军一个营大部。

五旅在抗日战争时期共作战440次，歼敌二万二千九百余人，缴获各种炮76门，轻重机枪279挺，长短枪9170余支。