红五军及西路军总医院、兵工厂、妇女先锋团等单位进驻山丹后，在城内各街市组建了县和街市苏维埃政府，组织动员群众积极支援红军。
　　11月29日，红五军第三十七团到大佛寺、西十里堡一带组织防守阵地。第十三师政委兼三十七团政委谢良率一部驻扎在中间堡子；团长率领一部驻在左边的堡子；参谋长率领一部驻扎在右边的堡子。
　　敌人对三十七团阵地发动六次猛烈进攻，均被打退，但政委谢良腿被打伤。
　　12月3日，马朴骑兵旅、韩起功步兵旅、骑五师炮兵团一个山炮营，猛攻山丹城。军长董振堂决定第四十三团、第四十五团和随营学校的学员守卫山丹城，第三十七团和第三十九团在城里待命出击。
　　守城部队依托城墙垛口，打退了敌人一次次的进攻，敌人死伤累累。第三天下午，军部命令第三十七和三十九团从东门出击。敌人猝不及防，四散奔逃。第十三师师长兼三十七团团长李连祥指挥红军一直追击到长城暗门滩，占领了一道沙梁。
　　这时，敌骑兵突然反扑，第十三师师长兼三十七团团长李连祥被敌人骑兵砍中头部，光荣牺牲，三十七团和三十九团处于危险境地。
　　在东门城楼上指挥作战的董振堂发现危情，立即命令第四十五团两个营火速增援，掩护三十七团和三十九团撤退。四十五团的战士们迅速赶到暗门滩，与敌激战，红军乘机撤到城门前。
　　这次战斗，虽给敌以重大杀伤，但由于没有考虑到敌骑作战速度，被敌逆袭，付出惨重代价。
　　12月25日夜，西路军总部决定撤出永昌、山丹，分左右两路纵队西进：红五军为右路纵队，从山丹出发，经东乐、太平堡、乌江堡一线，向临泽、高台进军；西路军总部率红九军、红三十军为左路纵队，从永昌出发，经新城子、大马营、永固城、民乐城一线，向龙首堡、西洞堡、倪家营子进军。
　　红五军在军长董振堂率领下，在山丹城内的西路军供给部、卫生部及所属辎重队、被服厂、兵工厂、总医院、妇女团第二营等单位一起向西行动。
　　12月28日上午，红五军第三十九团进抵张掖县东部的二十里堡，与一〇〇师三〇〇旅韩起功部、民团发生激烈战斗。韩启功下令部队撤回甘州城自保。12月29日，红五军前锋部队从张掖城北过十里行宫、谢家湾，越过黑河冰桥，抵达沙井子。
　　12月30日中午，红军主力攻占临泽县城，后卫部队进至张掖城西北之平远堡、乌江堡，一部正渡黑河。韩起功派部队追击黑河沿岸红军后卫部队。已至黑河西岸的红四十三团一部，迅速从南面迂回掩杀过来。敌骑受到两面夹攻，被迫东退。红军后勤部队迅速踏冰过河。
　　1937年1月2日，西路军供给部、卫生部、辎重队、兵工厂、总医院进驻临泽县城。
　　12月30日夜，军长董振堂、政治部主任杨克明率三十九团、四十五团和骑兵团、特务团共2800余人，以四十五团为左路，三十九团为右路，其余居中，星夜向高台急进。
　　高台县城坐落于河西走廊中部，南靠祁连山，北依合黎山，为西路军西进必经之地。县城在黑河南岸，城墙高约三丈，东西城门各有城楼。城内东街有天主教堂，北城有大佛寺，西关有财神楼，东门外有一墩台。
　　红五军行至高台东郊，与敌军增援的一个骑兵连相遇。红五军骑兵团团长吕仁礼率300多骑兵手执大刀与敌激战一个多小时，歼敌一部，余敌溃逃。红军缴获一批战马、弹药、武器。
　　元旦清晨，红军攻入高台县城，敌党政人员全部投降，民团1400人全部被俘。
　　高台距临泽50余里，两处的兵力极其薄弱。高台、临泽距倪家营子又都在100里左右，这样的兵力布置，在马家军优势兵力的围攻下，就极其危险了。
　　1月3日，红五军在高台县城开仓放粮，救济贫苦百姓。广大指战员为群众挑水、劈柴、扫地；医务人员积极为群众治病。红五军很快得到了群众的信任和支持，100多名高台青年参加红军，组建新兵营；300多名不愿回家的民团团丁，经审查改编为抗日义勇苏维埃军。
　　1月4日，在红五军政治部组织下，群众在县城成立了贫民委员会。他们发动群众斗争土豪劣绅芦柴、董子清，没收他们的财产，救济贫苦群众。
　　5日，高台县苏维埃政府成立，许青年任主席，白希斋为副主席。东街苏维埃政府主席张正福，委员夏登云；西街苏维埃政府主席陈锡福，委员赵辅、李兹。
　　苏维埃政府积极组织工商界捐款捐物，收买棉布，发动群众为红军赶制棉衣、毡鞋，协助红军打造刀、矛。几天之内，红军指战员全部换上了冬装，红军装备也有所改善。
　　6日，苏维埃政府再次开仓放粮，救济群众，镇压了贪污分子王天佑。
　　这时，马家军用部分兵力切断了高台与临泽的联系，同时派出骑兵第五师、第100师步骑兵两个旅及民团一部，攻打牵制沙河、倪家营子等地的红军主力，集中马彪、马朴、韩起禄等骑兵旅和炮兵团、特务团、手枪团，陈嘉禾民团、马德胜民团、马兆瑞民团等两万余人，全力围攻高台红军。
　　由于红五军唯一的一部电台被黄超留在临泽，危急时刻，董振堂只得派敌工科科长李肃等人分批化妆出城，向总部汇报情况，但都杳无音信。在此情况下，五军只得做坚守城池的准备。他们令三十九团守县城西北角、西门、南关；四十五团防守县城东北角、东门；骑兵团、特务团各守北城一段。
　　1月15日，敌军在炮火掩护下向财神楼发动连续进攻。激战四天，红军歼敌600多人，但自己只剩五人，碉堡受到严重破坏。后敌军点燃财神楼，五名红军战士全部壮烈牺牲。西城门外全部沦于敌手。
　　与此同时，东门外墩台也被敌攻占，敌人直逼城下。
　　红军失去东西城门外的制高点，人员伤亡很大，情况异常危急。军长董振堂召开军事会议，准备突围。他命令骑兵团长吕仁礼率兵在北城墙上掏了一个大洞，仅留外面一层薄皮，必要时一捅就破。
　　这时，驻守临泽的红五军政委黄超派人送来一封信，信的大致内容是：高台是红军西进必经之地和重要据点，总部命令不能放弃，必须死守。董振堂传达了黄超来信，要求全军与高台城共存亡。
　　这时，红五军三十九团坚守东城及南城东半部，四十五团扼守西城和南城西半段，骑兵团和特务团守北城。由于弹药不多，红军用一切可用的工具，如椽子、扁担、木棍、砖石等与敌人战斗。红五军又与敌军拼死战斗了两天一夜。
　　20日凌晨，敌军全力攻城。把守县城西南角的新收编民团部分人员临阵叛变，敌人从该处登城，残酷的巷战开始了。
　　红五军政治部主任杨克明率领军直机关几名官兵坚守一座院子。由于敌炮弹击中院子里的房子引起大火，杨克明头部被烧伤，仍坚持战斗，直至最后牺牲。
　　这时，西门、南门均被敌人占领。剩下的人员不得不边打边撤。由于东门原来已堵死，出不去，董振堂带着二三十人上了东门城楼。董振堂指挥部队沿着城墙往东北方向冲，因敌人阻击，董振堂又带领大家沿着城头往城东南角冲去。刚冲出400米左右，董振堂被击中左胸，从城墙上摔到了城墙外墙脚下。等大家赶到城墙脚，董振堂灰蓝色的衣服已染满了鲜血。
　　过了一会儿，董振堂苏醒过来，用很微弱的声音对大家说：“我不行了，别顾我了，不走就冲不出去了，要血战到底！……” 断断续续地说完后，他头一歪，停止了呼吸。
　　红五军余部与敌巷战十余小时，惨遭失败。军长董振堂、政治部主任杨克明、师长叶崇本、师参谋长刘培基及2000余名指战员壮烈牺牲。
　　高台战斗危急时刻，西路军总部派红88师一部和骑兵师前往支援。救援部队在明水滩遭敌马禄部、马步銮部及鲁沙尔民团的截击，伤亡惨重。师长董俊彦、政委秦道贤等英勇牺牲。突围而出的增援部队在红三十军的接应下，撤回倪家营子。
　　高台被围之后，距离最近的是驻扎在临泽城南的红五军37、43两个团，不足两千人。据时任红37团团长的饶子健回忆，他们当时只能从远远传来的枪炮声中得那里发生了战斗，却不知具体战况，而红五军政治委员黄超既未派人侦察联络，也没有派兵驰援的意图。直到远在百里开外的倪家营子西路军总部得悉消息并派出红88师一部和驻沙河堡的骑兵师一部出援那天，他才令红37团团长饶子健率红37团二营增援。饶子健行至途中从老乡口中得知，高台已陷。他们自己也被敌人包围在一个土围子中，至21日才得以脱围而出。
　　高台失败的消息传来，西路军将士都极为震惊和悲痛。红30军军长程世才总结了三点教训：“（一）在战术指导上不应该为一城的得失而死战。（二）高台守军无电台联络，打了两天我们还不知道，未能早想办法援助之。（三）被争取过来的几百民团，未经过改造，放心用人家，结果与敌人造成内应外合而失事了。”
　　马家军攻陷高台后，残杀红军伤病员和群众2400余人。其中在城东北角和城南沙滩活埋红军数百人，部分红军指战员被押往张掖、武威、青海后杀害。
　　尽管如此，不少群众仍然冒着生命危险，极力掩护红军伤病员及流落红军脱险。红军营长李中荣被一位贫苦的瞎女人营救。李中荣出城时，遭马家军盘查，这位妇女毫不犹豫地说：“这是我丈夫，他是哑巴。”敌人看到一个是哑巴，一个是瞎子，就让他们出了城，李中荣由此返回了红军部队。红军战士夏德伟在城郊负伤，爬行数天后，被贫苦农民杨廷桢发现并被救回家中。敌人听到风声，数次审讯拷打杨廷桢，他都守口如瓶。直至这名红军战士伤愈，才将其送回部队。西路军干部团政治主任徐一新流落在新坝山区，被农民屈大成、王尚敏、周占熊等群众掩护留住半年多。直到12月初，屈大成陪同徐一新一同回到延安。红五军四十五团政委张力雄受伤后，被高台县居民柴维仁领回家，藏在夹墙内。最终柴维仁用粪车将张力雄送出城外，回到部队。