1940年冬，国民党发动了第二次反共高潮。10月15日，国民党以参谋总长何应钦、副参谋总长白崇禧的名义，致电朱德总司令、彭德怀副总司令和叶挺军长，限新四军一个月移至黄河以北，以实现其将我军“驱逐”到黄河以北，配合日军聚而歼之的毒计。华中局势日趋紧张。
此时，八路军第四纵队已开赴淮上开辟抗日战场，永城以北地区主力较少，国民党九十二军王仲廉及其他人员，利用萧县、永城的地方关系，策动豫皖苏边区保安司令耿蕴斋，第六旅十七团团长刘子仁、十八团团长吴信容等部于12月12日叛变。
此事首先是国民党反动派蓄意破坏抗战的影响，也为耿、吴、刘等人抗日动机不纯所决定，但也与我方对地方武装改造政策及干部使用上的某些失误及警惕性不够有关。由于耿、吴、刘的叛变，永城以北地区我方政权大部变色，豫皖苏地区形势迅速恶化。
1941年初，“皖南事变”发生。1月20日，中央军委发布命令重建新四军军部，将活动于陇海路以南的八路军、新四军统一整编为七个师，第四纵队改编为新四军第四师。
蒋介石在“皖南事变”后调集30万反共大军向我华中各地区发动进攻，主要矛头指向第四师及豫皖苏边区，妄图首先“肃清”津浦路西的新四军，然后进攻苏北、山东。
国民党汤恩伯部九十二军及骑二军、骑八师等部，加之国民党收编之保安团队，以七倍于我之兵力，向涡河以北进犯；耿、吴、刘叛军及其它地方土顽也乘机骚扰；再加上日伪军暗地配合的“扫荡”和突袭，使四师处于敌、伪、顽夹击的严重形势之下。
党中央、毛主席估计到华中反顽斗争的长期性，指出：必须在这次斗争中，逐渐削弱反共军的进攻。为此，既要紧张地对付反共军大举进攻的严重局面，又要耐心地长期计划；不要过于急躁，不要企图在短期内就能取得全部胜利。
华中局和新四军军部根据上述指示和面临的实际情况，于1月份对反顽斗争作了全面部署。其中赋予第四师的任务是：坚持豫皖苏地区阵地，抵抗反共军的进攻，不让其向津浦路东和陇海路北深入。并着重指出了政治上的斗争策略和军事上战略战术的运用，如万一不能坚持时，可到皖东北地区。
四师及豫皖苏边区抗日军民，根据上述指示，确定了以“军事政治游击宣传战”为反顽斗争的方针，展开了艰苦的三个月反顽斗争。
在日寇发动“豫南战役”时，反共军不去对日作战却在日寇的进攻结束后，分三路向我四师实施猛烈的进攻，并策动日伪军对我军进行“扫荡”。四师一方面要对付日伪军的“扫荡”，一方面要抗击反共军的进攻。
战场上经常出现这样的情况：日伪军对我“扫荡”时，顽军或配合或逃跑；顽军向我进攻时，日伪或策应或观望。而我军在对日伪作战时，必须加强对顽军的警戒；在对顽军作战时，又必须防范日伪军的进攻。
尽管如此，四师周密布置，奋勇作战，给敌、伪、顽以大量杀伤。4月中旬，国民党九十二军一四二师四二五团，在团长陈锐霆（中共秘密党员）率领下，举行反内战战场起义。4月20日，四师在怀远大小郭家歼反共军一个支队。其它部队，在反顽斗争中，也先后取得了不同程度的胜利。
但由于敌强我弱、敌众我寡，豫皖苏根据地还不巩固，又值春荒时节，军需民食均很困难，再加上指挥上与根据地建设上的一些失误，未能阻止顽军的进攻。在三个月的反顽斗争中，部队先后几次遭受重大损失。
3月初，在蒙城以南的半壁店、罗集战斗中，十旅二十九团损失较大。4月上旬，在永城西南的万楼战斗中，十二旅三十四团一个营全部壮烈牺牲。4月下旬，在宿县以南大小营集战斗中，十一旅三十二团与师直属队遭受严重损失。
这时，反共军、叛军、地方土顽对四师的进攻更加猖狂，反共军与日伪相配合对豫皖苏根据地的袭击和“扫荡”也更加频繁。作战失利，人心不稳，部队疲劳，给养奇缺，根据地中心区被敌侵占，四师处境十分困难。
1941年4月25日，华中局和新四军军部鉴于第四师处境危急，并为照顾抗战大局，指示四师留一部分主力及地方武装坚持豫皖苏边区的游击战争，主力转入皖东北地区，巩固扩大皖东北根据地。
由于形势继续恶化，对根据地全部武装坚持已不可能，四师根据上级命令和当时情况，收撤部队，并对睢杞太及萧县个别地区的武装作了部署，在几个县组建了地下党，留下抗日的火种，便告别豫皖苏边区父老兄弟姐妹，于6月份先后转移至津浦路东之皖东北地区。
1941年7月中旬，遵照华中局指示，在新四军政治部主任邓子恢参加下，四师于淮宝地区仁和集召开军政委员会扩大会议。彭雪枫作了专题报告，总结检查了反顽斗争中失利的经验教训。这次会议对于巩固和扩大皖东北抗日民主根据地有十分重要的意义。
仁和集会议后，邓子恢任四师政委、淮北区（由皖东北改称）党委书记，加强了党的领导。在淮北区党委的领导下，成立了淮北区行政公署，加强了工、农、青、妇等群众组织。部队精简机关，合并主力，充实连队，成立了“宿东游击队”和“骑兵团”，将十一旅三十三团、十二旅三十六团补充第十旅，十一旅、十二旅主力地方化，以便发展坚持皖东北根据地与壮大武装斗争力量。
后四师奉军部命令，第十旅和坚持皖东北的三师九旅对调了建制，以十二旅直成立了淮北军区机关，整顿了地方武装，同时大力开展建军和作战训练等项工作。这时淮北地区的武装力量共有13000余人。
四师大力开展抗日游击战争，打击敌伪，进剿睢宁、泗阳、宿迁等县的土顽，开辟“泗五灵凤”和“泗灵睢”、宿东、萧铜等新区，争取某些伪军和建立两面政权。建设淮北抗日民主根据地的工作同时展开，实行减租减息，发展生产，改善人民生活。
汤恩伯集团在侵占我豫皖苏根据地后，又欲东犯我淮北及苏北根据地。顽江苏省主席韩德勤亦调集兵力接应汤恩伯东进，并侵占我淮海区泗阳县西北之陈道口。新四军在陈毅代军长的指挥下，于1941年10月21日，攻克陈道口，俘顽军800余人，残敌突围逃走，挫败了顽军东进的计划。
1943年春，蒋介石命令王仲廉部越津浦路东进，韩德勤部过运河而来，企图东西对进，夹击四师于洪泽湖以西地区而歼灭之。3月17日夜，四师对侵占山子头地区的韩德勤部发起自卫还击，将韩顽全部歼灭，俘韩德勤以下官兵千余人。
王仲廉部已越津浦路，闻讯仓皇窜回津浦路西。四师粉碎了蒋介石的夹击计划，也铲除了其留在我华中根据地内的韩德勤这个反共堡垒。
随着淮北游击战争的广泛开展，日伪据点不断被我拔除，日本侵略者惶恐不安。1942年11月中旬，日伪军6000余人，分数路向我淮北根据地中心区发动进攻。
淮北党政军民，在区党委和第四师的统一指挥下，进行了历时33天的反“扫荡”作战，沈阳hr交流群大小战斗30多次，给敌军以重大杀伤，胜利地结束了这次反“扫荡”战役。而后四师乘胜进攻，扩大战果，收复失地，开辟新区，并相继粉碎了日寇的“蚕食”和“伪化”活动。
三年多对日作战和反顽斗争的胜利，淮北抗日根据地得到空前巩固和发展。
1944年4月，日寇以5万人发动“中原战役”。驻守在平汉线两侧的国民党汤恩伯部30余万人，迅速土崩瓦解，一月之内丢城30余座，失地千余里，损兵数十万，使河南千百万人民惨遭蹂踏和屠杀。
党中央、毛主席为了策应国民党作战，给日军以打击，开展河南抗战局面，拯救沦陷区的人民，从战略上将我华中、华北、陕北三大区连接起来，制定向河南敌后发展，控制中原的战略方针。
7月下旬，令“新四军第四师西进豫皖苏边区，首先恢复萧县、永城、夏邑、宿县根据地，然后打通与睢杞太地区的联系，相机控制新黄河以东地区”。华中局和军部据此作了具体兵力部署，命令四师以淮北路东为基地，主力西进豫皖苏地区。
8月15日，彭雪枫率领四师主力西进。首战小朱庄，全歼顽支队长王传绶部三个团。在彭笑千、张舒民、许西连等同志策动下，吴信元部（吴信容死后其部由其弟吴信元率领）起义编为新四军四师独立旅。接着先后击溃耿继勋、刘子仁两个纵队和由顽军所策动的日寇骑兵的袭击，展开了恢复萧、宿、永、夏等县政权的工作。
9月10日，四师在夏邑县以东八里庄，全歼顽伪匪三位一体的李光明支队。战斗即将结束时，彭雪枫师长为流弹所伤，壮烈牺牲。中央军委遂令张爱萍为四师师长，韦国清为副师长，增派三师第七旅西援，成立路西野战军指挥部，继续西进，扩大战果。
参谋长张震根据敌情，以彭雪枫名义致电冀鲁豫军区，请派部队南下支援。杨得志当即派王秉璋率军区两个团与骑兵过陇海路南下，配合四师作战。
10月上旬，王仲廉命令国民党暂编第一军军长王毓文率三个师（骑八师、暂十四师、三十师）和四个纵队（魏振铎、刘子仁、蒋心亮、刘瑞歧部）及地方其他顽武装2万余人，对四师实行南北夹击，企图乘我立足未稳聚而歼之。
10月中旬，四师在永城以北保安山地区一举歼灭土顽杨坤山部千余人，刘子仁、刘瑞歧闻讯逃窜。四师立即进入山城集地区，在保安山、芒砀山一带构筑工事，以逸待劳。
顽军王毓文部自恃兵力数倍于我，向我军阵地猛攻，经三昼夜激战，双方打成对峙。20日晚，四师七旅二十团以一个营夜袭，打到了王毓文的指挥部，敌军惊恐失措，全线混乱，纷纷溃逃。四师立即跟踪追击，沿途歼敌数千，直追到涡河北岸，残敌逃往涡河以南。
四师迅速转兵龙山集，再歼顽暂三十师第十八团，恢复了涡北县政权，又歼灭了盘踞在年圩子的顽第三十二挺进纵队韩金山部两千余人，恢复了宿蒙县和宿怀县政权。
至此，四师西进部队在津浦路东、陇海路北、睢杞太以及其它地区的有关兄弟部队的配合和支援下，恢复了豫皖苏根据地，解放了250万受难的人民，重新燃烧起抗日烽火。
在4个多月的作战中，四师攻克敌伪据点30余处，粉碎敌伪两次大进攻和多次小的进攻，共歼灭顽军、日军、伪军13000余人，先后争取起义、投诚共七起，计3700余人。
11月，日寇打通粤汉铁路，进至贵州独山，重庆震动，国民党战场发生严重危急。党中央指示四师，顽军暂不再会向我大举进攻，应抓紧这一有利时机，巩固涡河北岸地区。
随后，四师指挥机关和九旅主力及第三师七旅先后返回津浦路东，冀鲁豫军区部队返回陇海路以北，张震率十一旅，独立旅（吴信元部改编）、骑兵团留在津浦路西，进行恢复和建设根据地的工作。
1944年11月下旬，华中局决定在津浦路西成立淮北第二地委、第二专署、第二军分区。吴芝圃任地委书记，彭笑千、纵翰民分任正副专员，张震任师参谋长兼十一旅旅长、分区司令员，赖毅任分区政治委员，统一指挥路西部队。
根据各级政权的恢复顺利进行。通过减租减息，增加工资，发动和组织群众，改善群众生活，提高了群众的政治觉捂和抗日斗争的积极性，各级工、农、青、妇等救国团体相继建立。
党的组织得到恢复和整顿，发展3000余名党员，建立了淮北第二专员公署和8个县政权、53个区政权和315个乡政权。组建了8个县总队和3个独立团，组织民兵万余人。广泛地开展了统一战线工作，进一步分化和瓦解了地方顽固势力。
1945年1月，淮北第二地委布置各县开展“双减”运动，同恶霸地主展开了声势浩大的清算斗争。2月，拔除怀远县火神庙据点，全歼伪军丁在礼部。4月，以永城中学、演集中学、萧县中学为基础，成立“建设中学”，彭笑千、王卓然分别任正副校长。
5月，二分区发动宿南战役，向孙町、芦沟、袁店、任集等伪据点展开进攻，经一个多月的作战，先后拔除伪据点19处，歼敌5000余人。经半年奋力战斗，路西抗日民主根据地进一步巩固和扩大。
1945年8月9日，毛主席发表《对日寇的最后一战》的声明。淮北根据地军民，响应毛主席号召，开始了大反攻。8月25日，永城县伪军拒绝向我投降，二分区部队向永城县城发起进攻，经三昼夜激战，全歼守城伪军窦殿臣、杜春台部800余人。
9月1日，扫清浍河以南、涡河以北所有敌伪据点。9月20日，攻克孙町集，歼伪军第十五师7000余人，迫使双沟伪军全部投降。9月21日，盘踞在永西酂城之伪军十八师，由师长杜新民（地下党员）率部起义。
10月15日，十一旅三十一团攻克萧县，全歼守敌700余人。与此同时，四师主力在津浦路东反攻，战果尤为显著，先后收复宿迁、泗县、泗阳、灵璧等县城，攻克曹村、夹沟、四堡等9个车站和时村集、永安集、灰古集，歼敌5000余人，淮北大片土地获得解放。
1945年9月2日，日本签署投降书柬埔寨投票群是做什么的，至此，中华民族伟大战争取得最后胜利。