新四军在皖南事变后的主力部队之一。1941年2月由八路军第4纵队编成，师长兼政治委员彭雪枫，参谋长张震，政治部主任萧望东。辖第10、第11、第12旅和萧县独立旅，共1．5万余人。同年春，遭受国民党顽固派军队共9个师14万余人进攻，第4师被迫进行自卫反击。由于众寡悬殊，第4师在经过英勇的战斗后，于5月30日退出豫皖苏边抗日根据地，转移到津浦路东的皖东北地区。6月，撤销第12旅，并将各旅的骑兵集中编为师骑兵团。7月，邓子恢任政治委员。9月，第10旅调归第3师建制，第3师第9旅调归第4师建制。1942年7月，吴芝圃任政治部主任。11月，粉碎了日伪军6000余人的大"扫荡"，歼日伪军700余人，拔除了青阳、马公店等据点。同月，第4师师部兼淮北军区机关。1943年3月，第4师主力在第2、第3师一部配合下，在江苏泅阳县山子头地区的自卫反击战中，俘国民党江苏省主席兼鲁苏战区副总司令韩德勤以下千余人，挫败了国民党顽固派军队的进攻。1944年春，对日伪军开展攻势作战，连克据点肋余处，歼灭日伪军1800余人。7月，又歼灭日伪军800余人。8月，主力向津浦路西敌挺进，在第3师第7旅的配合下，歼敌1．3万余人，拔除据点36处，恢复了豫皖苏边抗日根据地。9月，彭雪枫牺牲，张爱萍任师长，韦国清任副师长。1945年春，发动攻势作战，攻克据点20余处，日伪军4900余人。7月，取得睢宁战役胜利，歼伪军2200余人。同月，重建了第12旅。8月中旬，相继攻克永城、泅县、五河、萧县、灵壁等县城及徐州之曹村、大许家、曹八集等车站，歼伪军40肋余人，并争取了伪第18师4000余入反正。随后，部队进行了新的编组，第9旅北上鲁南，编入津浦前线野战军第2纵队，第11、第12旅编人华中野战军第9纵队。新四军第4师在抗日战争中，共歼敌6万余人，部队发展到3。2万余人，组建地方武装2．3万余人，坚持了淮北抗日根据地的斗争。