1927年11月起，为反抗国民党反动政权，短短一年多时间里，在中国共产党领导下，湖北黄陂、麻城，安徽六安、霍山，河南商城陆续爆发农民武装起义，并分别建立了中国工农革命军第十一军第三十一、三十二、三十三师，开辟了鄂豫边、豫东南、皖西三块革命根据地。1930年初，中共中央在上海召开会议，决定鄂豫边、豫东南、皖西三块根据地合并成立鄂豫皖特区，成立湖北省委领导下的鄂豫皖特委。至此，鄂豫皖革命根据地正式形成。1931年初，在根据地领导同志多次强烈请求以及革命形势发展需求下，为了加强对苏区的领导和政策指导，设在上海的党中央决定，党中央领导机关一分为三，当时的总书记向忠发和周恩来等人带领中央机关搬迁到江西瑞金，另外分别派遣几位政治局委员到鄂豫皖和洪湖苏区成立中央分局，就地领导与指导苏区的军事和政治斗争。
1931年4月下旬，中央政治局委员张国焘、共青团中央委员陈昌浩到达鄂豫皖苏区首府新集（今新县）。根据中央指示，原中共鄂豫皖特委撤销，成立鄂豫皖中央分局，指定张国焘、陈昌浩、沈泽民、曾中生、王平章、蔡申熙、舒传贤、旷继勋为中央分局委员，张国焘任中央分局书记。分局直接隶属中央政治局，代表中央领导鄂豫皖苏区的党组织，是鄂豫皖地区党组织的最高领导机构。
同时，成立了由张国焘、曾中生、旷继勋、徐向前、郑行瑞、沈泽民、陈昌浩等七人组成的鄂豫皖中央分局革命军事委员会，张国焘任主席，曾中生、旷继勋为副主席。革命军事委员会是鄂豫皖根据地最高军事领导机构，直接领导和指挥红军及地方武装。
为了集中力量，统一指挥，抗击蒋军的大举进攻，中共鄂豫皖中央分局和军委决定，将鄂豫皖苏区的几支红军部队整编成红四方面军。徐向前为第四方面军总指挥，陈昌浩为总政委，刘士奇为政治部主任。第四方面军下辖第四军、第二十五军，第四军军长徐向前（兼）、政委陈昌浩（兼），第二十五军军长旷继勋、政委王平章。
合并后的红四方面军共有两个军六个师，总兵力达到三万余人，成为当时仅次于中央红军的军事力量。从此，在中国共产党领导的武装部队序列中，又增添了一支钢铁劲旅。
大别山位于长江北岸，地跨湖北、安徽、河南三省，北扼京汉铁路，南抚武汉重镇，东逼国民政府首府南京，地理位置极为重要。自己的胸腹之地有一支数万人的共产党武装，蒋介石如鲠在喉，日夜不得安宁，决心除之而后快。一开始，并没有将这支由起义农民组成的武装放在眼里，指令驻扎在大别山周围湖北、安徽、河南的非嫡系军队“清剿”，这些地方军阀装备和训练水平较差，战斗力薄弱，前两次“围剿”均被粉碎。红四方面军成立后，正值敌人发起第三次“围剿”，在徐向前和陈昌浩的指挥下，红四方面军连续发起了黄安战役、商潢战役、苏家埠战役。每次战役歼敌数万，部队长途奔袭、围点打援、迂回包抄等战役指导思想日渐成熟，展现了大兵团作战的能力。几战下来，红四方面军主力部队发展到六个师五万余人。各县独立团、地方赤卫队、游击队总数接近十多万人。鄂豫皖根据地东起淠河，西迄京汉线，北达潢川、固始，南至黄梅、广济，拥有黄安、商城、英山、罗田、霍邱五座县城，总面积约四万平方公里，人口达三百五十万。
眼看红四方面军力量越来越壮大，肘腋之患发展成为心腹之患，蒋介石决心集中更大的力量，毕其功于一役，彻底“剿灭”大别山的红军。
1932年5月22日，蒋介石正式宣布成立鄂豫皖三省“剿匪”总司令部，自己任总司令，坐镇武汉亲自指挥。敌人中、右两路共二十六个军外加六个旅约三十万人，另配有四个航空队，蒋介石兼任中路军司令官，刘峙为副司令官。三十万敌军对鄂豫皖苏区形成包围形势，蒋军吸取前三次“围剿”失败的教训，组成重兵集团寻找红军主力决战，在战术上稳扎稳打，并进长追，逐步压缩红军的活动空间，企图“聚歼”红军于长江北岸。
5月的大别山，战云弥漫。虽然已是深春，但漫山遍野乌云滚滚，翠绿的春色笼罩在浓密的战火硝烟里，时而紧密时而稀疏的枪炮声在远远近近的山林间震响。空中，数架涂着国民党党徽的敌机疯狂地呼啸着向地面俯冲，机枪和炸弹轰鸣着使死神降临四方。地面上，数十万蒋军从四面八方杀进鄂豫皖苏区，残酷的第四次“围剿”开始了。
大敌当前，采用何种对策抵御敌人的进攻，事关根据地的生存和红军的发展。当时的中共中央被“左”倾立三路线主导，他们不顾敌我力量的对比悬殊，中国与苏联国情的天壤之别，盲目地以苏联革命为模式，要求红军不间断地向敌人盘踞的中心城市进攻，与敌人展开决战，希望通过夺取城市引起全国总暴动，在短期内取得革命胜利。当时的党中央为反对敌人“围剿”给各苏区的训令要求：
鄂豫皖红四方面军除以二十五军巩固皖西北新发展苏区外，主力应向西行动，扩大与巩固鄂东苏区，以一个师以上的兵力过京汉路，配合红三军行动，消灭徐源泉、萧之楚等主力，造成京汉路两旁孝感、武胜关间比较巩固的新苏区，必要时可以重新进攻黄陂，威吓武汉，调动敌人进攻湘鄂西的力量，求得战争的解决，以造成包围武汉的形势。
鄂豫皖中央分局的个别领导对敌情的严重性也缺乏清醒的认识，盲目乐观，甚至认为“从武装力量对比来说，我们已占了优势” 。
错误的形势估计和错误的战略方针，其结局是可以想象的。尽管红四方面军将士不怕牺牲，浴血苦战，在局部战场上取得胜利，给当面之敌很大杀伤，但红军自身也遭受极大的损失。敌军仍然按照其部署，逐步推进，红军的战略空间日渐缩小，逐步失去了战场主动权，处于被动的地位。
面对危局，身为红四方面军最高指挥的徐向前和陈昌浩认为，我军长期作战，至为疲劳，在敌强我弱的形势下，决不能盲目硬拼，眼下敌人步步进逼，形势已经万分危急。第三次反“围剿”一结束，他们就向中央分局提出：“回师根据地，休整部队，准备迎击敌人第四次‘围剿’。”
但鄂豫皖中央分局的领导依然沉浸在前几次胜利的喜悦中，他们不顾敌我力量对比，不考虑我军长时间作战，部队极度疲劳，急需休整的严峻现实，要求红四方面军“不停顿地进攻”，在没有重火器配备的情况下，集中红军主力攻击麻城。
徐向前是直接带兵的人，知道每一场战斗的胜利都是在红军付出了极大的代价后才得来的，在敌强我弱面前，以疲弱之师去攻击敌人有备之城，这是不符合军事规律的，对红军和苏区都不利。他在会上慷慨陈词：
自从去年秋天洗马畈战斗以来，我军连续作战，疲劳已极，当务之急是养精蓄锐，休整训练。应当停止外线进攻作战，把主力摆到鄂豫边界，一脚踏在根据地，一脚踏在白区，边休整部队，边掩护地方开辟工作，为粉碎敌人的“围剿”作准备。这样，老区既能巩固，新区又能发展，同时，部队主要就粮于新区，还可减轻老区人民的负担，乃一举数得之策。
徐向前和陈昌浩的激烈争辩和慷慨陈词都没有效果。1932年7月上旬，围攻麻城作战开始。麻城城池坚固，高大，城墙外有深深的壕沟，易守难攻。面对红军的攻击，敌人收缩外围据点，固守坚城。这一次敌人兵力多，部队之间间隔不大，互相之间也能较好地协调，红军无法实施围城打援。而屯兵坚城之下，无攻坚的重武器，既不能迅速攻克，又必须分兵阻击援敌，消耗疲惫了自己，敌人得以从容部署。敌人采取的是围魏救赵之策，红军围攻麻城作战之初，敌徐庭瑶一个纵队便攻陷霍邱，陈继承、卫立煌两纵队分别从东、北两线全力向根据地的核心黄安、七里坪猛扑。为救黄安和七里坪，红军被迫撤麻城之围，回过头来仓促应战。
在敌强我弱的态势下，根据地面积大幅丢失，红军的战略空间日益压缩，战局日趋被动。8月13日，黄安失陷。敌人主力紧紧追寻我军决战，合围态势逐渐形成，战场形势不断恶化。
坐镇南昌行营的蒋介石正按照其部署，一点一点缩紧对根据地的包围圈，他认为，他几十万军队组成的包围圈如同一口热气腾腾的大锅，只要这么打下去，根据地里这点儿红军就是这口锅里被渐渐煮熟的鸭子，有翅难飞。
虽然战局颇有进展，蒋介石对自己部队呆板的战术仍不甚满意，8月4日，蒋介石致电前方将领：
剿赤战术不能与正式作战同视，剿赤行动惟有秘密与迅速方能完成，此时赤匪化整为零之狡计已显明，我军应分区划线，依次进剿，压迫其至最后巢内，以一网打尽之计，如此则宣化店、河口镇及七里坪、黄安县与其以西各区，应大胆快进，出赤匪不意而扫除之，先就此线占领后，乃可一面运粮整顿，只数小部队搜索此线以西地区之残匪，逐次清乡，一面再以主力与伯英部兜剿新集与泼皮河之赤匪，如此第一期清剿计划，方能完成也……
8月19日，蒋介石再致电刘峙，指导其“剿匪”军事行动的要领。
9月13日，张国焘、陈昌浩、徐向前三人联名致电中央，请求中央调动各苏区力量予以配合鄂豫皖的反“围剿”斗争：
敌分路合进，每路均三师人，互相策应，我军已与敌转战一月。在黄安、七里坪两次激战，敌第二、第十、第八十九师受重挫，退回黄安补充。敌第三、八十、八十三三师又取道新集西北，协同五十八师及张钫部进攻。激战三日，敌第八、十两师又受重挫。因敌人分路合进，我军尚未能消灭敌之一路，现正移师皖西，首先消灭进攻金家寨之敌，七里坪、新集已自动放弃。我军最大困难即补充人员不易，医院中现有近万的战斗员，四分之三系烂脚病，生疮烂脚者仍在增加，缺医生缺药，又有反革命破坏医生。对红军补充及解决医院问题，请中区×××我们。我军处在激烈战斗中，当中央来电坚决斗争下去，请中区及中央紧急动员各区红军及工农群众急起策应我军，望经常告我们以敌军消息。
那个时候，全国红军尚处于被敌人分割包围的状态，中央苏区也在敌人的“围剿”之中，指望中央的支援难以实现。鄂豫皖的形势在进一步恶化。9月中旬，皖西战斗失利，敌卫立煌纵队攻克金家寨，红军主力逐步退回英山，敌军穷追不舍，很快，英山也陷敌手，我军处境艰危。
9月24日，张国焘、徐向前、陈昌浩再报中央：
敌以重兵分路合进，我军已安然退出汤家汇、金家寨，现集结于燕子河、西界岭一带，英山敌正向西界岭开始进，我军正准备消灭之。我军现侦探工作异常困难，请经常告我敌情，并请迅速用各种方法扰敌后方，令各苏区红军配合我军行动。梁冠英部现驻霍山、流波一带，请对其多做工作。
一连几封电报向中央求援，足见形势已经万分危急。
9月27日，鄂豫皖中央分局在燕子河召开会议，讨论下一步的行动方案。张国焘、沈泽民、陈昌浩、徐向前、蔡申熙、方英、王平章等人出席会议。面对如此危急的局面，中央分局竟然再次决定要红军主动出击，给予敌人“狠狠打击”。命二十五军徐海东率所部四师在皖西和潜山、太湖等地袭扰敌人，红四方面军主力先取英山，然后再向麻城等地转移。徐向前和陈昌浩对这个违背常理的决定极为不满，在会上极力争辩，但中央分局、军委正式发布命令，作为军人，他们也只有服从。
10月8日，红四方面军主力在黄安以西河口地区与国民党中央军的精锐、胡宗南的第一师迎头相遇，双方随即开始血战。这次出击，以红四方面军失败告终，致全军主力被压缩到只有方圆几十平方公里的狭小地域，鄂豫皖苏区和红四方面军到了生死存亡的严峻关头。
10月10日，鄂豫皖中央分局再次在黄柴畈召开紧急会议研究形势。作为战场统帅，徐向前和陈昌浩对敌我态势和部队的现实状况最清楚。敌人力量数十倍于我，武器装备远远优于我，而我军长时间艰苦征战，没有能得到补充和休整，后勤物资和弹药给养极度缺乏，部队疲惫已极，在力量对比悬殊的不利情况下，硬拼只能使宝贵的革命力量消耗殆尽。为此，他们极力主张，主力到外线作战，避免与敌人硬拼。徐向前在会上说：
根据地中心区域已经被敌人占领，我大部队不易活动，又已丧失了歼敌一路的机会；要分散游击，地方游击队还行，大部队就有许多困难，敌人兵力总比我大，有几十万人，而我根据地仅剩那么一小块地方，只要枪一响，不用两三个钟头敌人就会从四面八方合击而来，更何况你分散敌人也会分散呢！
陈昌浩指出，硬拼只能对敌人有利，在敌强我弱的情况下，避开敌人主力，部队到外线作战，是符合当前实际的，根据地丢了，可以再创建，部队损失了，要再恢复就难了，留得青山在，不怕没柴烧。
在严重的敌情面前，除极少数人外，包括时任鄂豫皖中央分局书记、军委主席的张国焘也认识到形势的严峻，敌人的力量已大大超过我们，我军经过多次战斗未能完成击溃敌人的任务，根据地的大部分已被敌人占领，红军主力没有回旋余地，无法粉碎敌人的“围剿”，已完全处于被动的地位，只有跳出敌人包围圈外才能保存力量。他同意徐向前、陈昌浩的意见，当前形势下，红军主力应跳到鄂豫皖根据地外，“去平汉路以西，与红三军会合”，待机歼敌后再返回根据地。
张国焘代表中央分局作出决定：由徐海东率红军一部和各地方独立团留在根据地坚持斗争，任命徐海东为苏区军区指挥部总指挥，全权领导区域内所有的地方武装。沈泽民领导鄂豫皖省委和各县各区的党政机构，就地指导和参与游击战争。四方面军主力十、十一、十二、七十三、少共国际师由他和陈昌浩、徐向前带领离开鄂豫皖苏区，到平汉路以西活动，争取与红三军会合，待歼敌后再伺机打回来。
对这次撤离鄂豫皖根据地，党史、军事专家们有很多分析评论，有的意见较为中肯，但也有极个别的认为，红四方面军的撤离是逃跑，是没有执行“正确路线的结果”。由于过去长期极左思潮的影响以及多种历史原因，对红四方面军撤出的真正原因，知情人无法辩解，历史真实情况也无法向世人说清。十一届三中全会以后，实事求是精神逐步回归，有些历史问题开始得到党内军内研究人员的关注。上世纪80年代初期，徐向前在与中央党史研究室副主任廖盖隆等人谈话时，以权威的当事人的身份说话，揭示了当时的历史真相：
过去，也有的文章说红四方面军撤出鄂豫皖是逃跑……我回想当时召开了黄柴畈会议，有二十多人参加，我也参加了。会议临时决定离开老根据地，到平汉路以西，兜个圈子，打败敌人再回去。原来是这样计划的。结果过了平汉路以西，敌人追得很厉害，仗打得很多。我们在枣阳的新集和土桥铺一带打得很凶，损失也很大。在敌强我弱的形势下，我们也没有什么退却不退却的问题。我们是被迫撤离的。第二天早上我们冲破敌人的阻击，向西走。关于这个问题，在延安的时候，陈云同志，还有康生找我谈过。他们问，你们到四川是不是有计划去的？我就把战斗的经过说了一下。我说不是有计划的，是被迫的，开始是准备兜个圈子，等打下敌人再回去，后来回不去了。回不去就往西退。起初准备在豫西建立根据地，不行；又准备进入陕南一带建立根据地，也不行。那时杨虎城已守住漫川关，胡宗南已经追来，进入陕南，我们去汉中的路被堵住了。我们在敌人追击下，越过秦岭转到西安附近。在西安附近，遇到敌人重兵堵截围追。经过激战后，我们再越秦岭，到了汉中。接着我们就到了四川，那时四川军阀混战，反动统治力量薄弱，到了四川我们就站住脚了。
李先念在回答撤出鄂豫皖是否正确时也曾说：
有人说，退出鄂豫皖不对，我看不退也不行，是被逼着出来的。自古有语，卧榻之下，岂容他人鼾睡？蒋介石怎么能让我们那么多人在他跟前革命？第四次“围剿”，他亲自到武汉坐镇，是专门对付鄂豫皖的。当时蒋介石已经统一了江苏、浙江、安徽，我们打了岳维峻，他又统一了河南，统一了湖北。所以说，留在鄂豫皖周转是不行的。如果说粉碎了第四次“围剿”，还可能有第五次“围剿”，第六次“围剿”。再说，那时政策也有问题，这个问题，我与徐帅交换意见，鄂豫皖退出来是对的，那个地方长期占不住。
徐向前、李先念的话讲清楚了一个基本的问题，那就是强和弱的辩证关系。在强敌的围追堵截下，你要是硬拼，只会遭到更大的损失。打得了就打，打不了就走，走的目的首先是为了生存，生存下来后，再来与你打。这就是在革命初期敌强我弱情况下，我军应该遵循的基本原则。只可惜，这个基本的道理多少年后，人们才肯承认它。
郑洞国，国民党高级将领，曾参加过对根据地的“围剿”，对红四方面军退出鄂豫皖根据地，他也有自己的看法：
从国民党军队大举发动对苏区的第四次“围剿”战争，到红四方面军主力退出鄂豫皖苏区，前后历时三月余。其间红军虽在一些局部战役中迭获胜利，但始终未能摆脱被动局面，最后不得不撤离这块老革命根据地，原因是多方面的。从国民党方面看，为进行这次“剿共”战争做了精心准备。蒋介石先生先后调集了四十余万军队，其中许多是中央嫡系部队，如用于“围剿”鄂豫皖苏区的第一、第二、第三、第四、第九、第十、第八十、第八十三、第八十八、第八十九师等部，都是国民党军队的精锐主力师。与红军相比，国民党军队无论在兵力和火力上，均占绝对优势，这与前三次“围剿”有很大不同（以前主要是使用杂牌部队和地方武装）。同时，国民党军队在战术上做了较大调整，再加上蒋先生亲自指挥，号令统一，各部行动比较协调，作战也较以前更为积极，使部队不易像以往那样为红军各个击破。从共产党方面看，当时在鄂豫皖苏区的中共领导人张国焘搞“肃反”扩大化，根据地内部不很稳定，红军实力亦受到削弱。在军事上，红军也未能充分发挥其独特的“大胆实施外线进攻，集中兵力，各个击破敌人”的灵活战术，致使自己在兵力、装备占绝对优势的国民党军队四面围追堵截下穷于应付，无法掌握战役的主动权。现在回顾起来，在国民党军队对鄂豫皖苏区发动第四次“围剿”之初，红四方面军南下围攻麻城确属下策。红军主力在麻城及附近地区前后逗留月余，忙于“围点打援”，国民党军队乃乘虚由东、西、北三面深入苏区中心区域。待红军察觉到情况严重，匆忙调主力北上迎敌时，国民党军队合围已成，红军很难再有合适的战机和充足的时间来打垮或消灭某一路敌人，亦难寻找缝隙从容突围。而且，红四方面军主力北上之后，又企图用打硬仗的方式，首先消灭或打垮国民党军队一部主力，一举粉碎国民党军队的“围剿”，这固然为情势所迫，但其设想也是不现实的。依红军当时的兵力、火力和敌情条件（各个主要作战区域的国民党军队相距甚近，可以随时相互策应），似无把握一下子吃掉国民党军队几个精锐主力师。因而红军虽一再变更打击目标，并在七里坪等地取得局部胜利，却因力量有限，未能取得所期战果，自己反而受到严重消耗。这些都是红军此次反“围剿”战争失利的原因。