1927年春，他调往副军长兼武汉卫戍司令的叶挺任师长的第24师72团任团长。5月，率部参加击退叛军夏斗寅部的战斗，再次负伤。汪精卫武汉国民政府叛变后，曾以独立师师长的职位作诱饵，妄图策动许继慎叛党，被他断然拒绝。大革命失败后，他在安徽、上海等地从事党的秘密工作。

1930年春，党中央派他前往鄂豫皖苏区，任中国工农红军第1军军长，领导整编鄂东北、豫东南、皖西3块根据地红军，实现了鄂豫皖红军的统一领导和指挥。在许继慎等指挥下，红1军从6月到8月，先后攻克皖西和京汉铁路南段许多城镇，毙伤俘敌军7000多人。红1军由组建时的2300多人很快发展到5000多人，有力地推动了鄂豫皖根据地的巩固和扩大。9月，他率部先后攻克光山、罗山等城镇。11月，他率部歼灭国民党军第26师第2混成旅大部。尔后，率部东进皖西，攻克金家寨、麻埠、独山、叶家集等地，歼敌3000余人，打乱国民党军对鄂豫皖苏区第一次“围剿”的部署。

1931年1月，红1军和红15军合编为中国工农红军第4军。许继慎先后任红4军第11师、12师师长，率部采取迂回包围、穿插分割等战术，取得孝感双桥镇大捷，获鄂豫皖红军首次全歼国民党军1个师的胜利，粉碎了国民党军对鄂豫皖苏区的第一次“围剿”。随后，他兼任鄂豫皖革命军事委员会皖西分会主席。期间，坚决反对张国焘提出的远离苏区、冒险进攻的错误军事行动方针。同年11月牺牲于河南省光山县白雀园，年仅30岁。