1930年春，志丹从宁夏回来，带着他父亲给的1支短枪，还有陈定邦给的13支长枪，准备在甘肃民团队伍中搞点势力，在保安及金汤镇成立了1个营，卢仲祥任一连连长。当时志丹有个军事计划，准备建立自己的武装。
腊月间，我们住在保安县瓦子川下面的刘老庄。农历十二月二十八日，王子宜送信来，说是延安高双成派队伍来打我们。我们决定立即转移，二十九日到瓦子川。除夕，志丹叫我买了点肉，大家过了个年。原来在太白收枪时，志丹就派赵二娃出去活动，搞武装。这时赵二娃、贾生财、唐青山等已搞起了三几百人的武装，和志丹会合后，总共有四五百人。除夕会餐后，队伍连夜出发，急行军到了古城川。当时下大雪，队伍被陈珪璋部的蒋云台旅包围，由于敌强我弱，被敌打败。收集残军，剩下百余人，钻了梢山。大雪天，人无粮、马无草，处境很困难。
当时斗争形势是复杂的。陈部副旅长蒋云台曾参加渭华暴动，暴动失败后成了叛徒，要捉志丹。刘宝堂得悉，事先通知志丹，志丹与另两个同志连夜冒大雨脱险。到了吴堡贾生财处，蒋云台派百多名骑兵来追，由于志丹有很高的警惕性，巧妙地摆脱了敌人的追兵。
1931年秋，晋西游击队来到南梁，和志丹领导的队伍会合，刘志丹把赵二娃、贾生财和杨培盛的三股队伍集合起来，编为2支队，志丹任支队长。1931年冬在柴桥进行改编，成立西北反帝同盟军。1932年春，队伍改称工农红军陕甘游击队。
刘志丹党的观念是很强的，和群众的关系很好，并重视统一战线工作。志丹有远大的理想和科学预见，对于开展革命运动有非常周密的计划。志丹很重视根据地的建立，南梁根据地建立，是根据几年的根据地建立与失败的经验与教训总结出来的。志丹的革命意志非常坚强，在极端艰难的情况下，坚持搞起革命武装。直到1936年4月，刘志丹在晋西中阳县三交镇与敌军作战时，不幸中弹壮烈牺牲。