1944 年1月底，回民支队奉命奔赴陕甘宁边区，部队离开心爱的司令员默默地出发。马本斋坐在油灯下，艰难地写着他写了多年的《战斗札记》。
鞍马劳顿，操劳过度，他病情加重，处于昏迷状态。冀鲁豫军区派一个连的兵力护送他去医院，途中，他醒来了，看到用一个连送他一个人，心里很不安，坚持只让留下一个班，叫其余战士赶快归队。
这年2月，在一个寒冷的黎明时分，马本斋手握钢笔，半坐在床上，腿上摊着那本《战斗札记》，悄悄告别了他深爱着的部队。铁骨铮铮、赤胆忠心的马本斋，享年四十二岁。
马本斋带领回民支队进行大小战斗八百七十多次，歼灭日伪军三万六千多人。回民支队是全国影响较大的一支回民抗日队伍，也是八路军冀中军区和冀鲁豫军区的主力部队之一。
中共中央为马本斋举行了追悼会，毛泽东题写了“马本斋同志不朽”的挽词。当地人民怀着对这位民族英雄的崇敬心情，献出十亩良田，在莘县张鲁为马本斋建了陵园。
