1931年4月初,在中央苏区中革军委参谋部工作,参与了苏区中央局关于第二次反“围剿”战备的讨论与决策。5月,红一方面军总参谋长朱云卿病故后,叶剑英任红一方面军总参谋长,参与指挥了第二次反“围剿”战斗。5月28日,随方面军总部到达广昌,参加了总前委第三次会议,研究部署攻打建宁。29日,和毛泽东等率方面军总部到达建宁里心。31日,红军攻克建宁县城,取得第二次“围剿”胜利。红军攻克建宁后,红一方面军总部进驻建宁城北溪口天主堂,毛泽东和总前委在楼上,朱德、叶剑英和总司令部、参谋处在楼下。他们在这里指挥红军向三明境域内建宁、泰宁、宁化、清流、归化、将乐、沙县、永安等地扩红筹款、做好群众工作,筹集第三次反“围剿”作战经费,做好第三次反“围剿”准备。7月初,叶剑英参加红一方面军总部在建宁召开的军事会议,会议做出回师赣南打破第三次“围剿”的战略决策。6月初至7月上旬末,红军在闽赣边界和闽西北开辟了建(宁)黎(川)泰(宁)和宁(化)清(流)归(化)2块革命根据地,基本筹足了115万元的第三次反“围剿”作战经费。7月10日前后,红一方面军所属各部从闽西北各自所在地出发,回师赣南参加第三次反“围剿”,叶剑英随总部离开建宁。
1931年9月,红军第三次反“围剿”取得胜利。11月,任中央革命军事委员会总参谋部部长(总参谋长)兼红一方面军总参谋长。1932年10月中旬,在江西广昌参与研究制定并组织实施红一方面军建(宁)黎(川)泰(宁)战役。18日,红一军团击溃守敌周志群部第二团,占领建宁城。随后,叶剑英、朱德、周恩来、王稼祥等领导人和中革军委、红军总部、总参谋部、总政治部进驻建宁。11月,叶剑英由建宁赴瑞金任红军学校校长等职。
1933年3月,敌5二师卢兴邦部趁红军主力在苏区东北进行第四次反“围剿”之机,进占归化、清流两县县城及大部区域。为加强中央苏区东南区的防御,中革军委调集赣南红3师及红军学校学员,由叶剑英率领从瑞金到达宁化禾口,同时将福建军区独立第十师也调到宁化,在禾口组成东南作战军,由叶剑英任总指挥,率部进入清流、连城等地作战。叶剑英指挥东南作战军和宁清归地方武装共4000多名战士分三路攻打清流守敌卢兴邦部,重创守城敌军,挫败敌妄图进一步进犯宁化等苏区的野心。
1933年夏,叶剑英再度任红一方面军参谋长。同年9月,第五次反“围剿”开始。11月,闽赣省机关、闽赣军区由黎川移驻建宁县城,叶剑英兼任闽赣军区司令员兼军区政治委员和红七军团政治委员,12月兼任新成立的建宁警备区司令员。军区司令部和叶剑英住建宁城南街弄丁家屋,警备区司令部则在原华美小学楼上。这时,第五次反“围剿”的战斗正在闽赣省紧张地进行着。叶剑英一面指挥部署闽赣红军和地方武装上前线配合主力红军作战,肃清苏区内部及周边的各类反动地主武装和刀团匪,保障各兵站、医院和交通线的安全。一面动员组织闽赣苏区人民参加红军、筹集军粮、慰劳红军,组织担架队、运输队上前线运送物资和伤兵员,开展各种形式的支前运动。1934年1月27日,叶剑英转达了少共中央给红四5团的嘉奖电,表彰他们在守备建宁中的成绩和顽强英勇的精神
1934年3月,中央决定调叶剑英任福建军区司令员。临行前,叶剑英于3月2日致电朱德、周恩来、王稼祥报告了彭湃、黎南、东方、泰宁、建宁等地的工作开展情况和战备情况。随后,叶剑英任福建军区司令员,从建宁转瑞金赴