从1947年3月开始，国民党军队在全面进攻接连受挫的情况下，转而对解放区施行重点进攻，在晋冀鲁豫、晋察冀、东北等战场上转取守势，集中兵力企图首先消灭陕北、山东两解放区的人民军队，再将主力转用于其他战场。在陕北，包括“马家军”在内的国民党军队共约25万余人，在胡宗南率领下，向中共中央和人民解放军总部所在地延安发动了突然袭击。彭德怀率领下的西北野战军与“马家军”鏖战的序幕就此拉开。
当时，围攻延安的国民党军队中有胡宗南的20个旅17万多人，马步芳、马鸿逵、马鸿宾的12个旅近7万人，邓宝珊的2个旅1.2万多人。这些军队属于不同的派系，之间互有矛盾，虽然其进攻延安的目标是一致的，但心态却各有不同：胡宗南是蒋介石在西北重点培养的一颗棋子，是蒋的心腹爱将，其部是国民党中央嫡系军队，在人员补给、物资供应方面都享有很多特权，对进攻延安当然最积极；马步芳、马鸿逵反共、攻击延安是积极的，然其“马家军”虽凶悍善战，盘踞一方数十年，但终究不是蒋介石的嫡系，且当时又受制于胡宗南，与胡心有芥蒂；马鸿宾与嗜杀成性的马步芳、马鸿逵有所不同，且实力又逊于青宁“二马”，对进攻延安不甚积极；而邓宝珊则与中共关系甚密，且因其长期受蒋介石排挤，对进攻延安更是敷衍了事。因此，真正威胁延安的，只有胡宗南和青宁“二马”。
从我军角度来说，当时我军在西北地区的野战部队兵力满打满算只有7个旅，16178人，算上地方部队和后勤部队也不过两万余人，再加上武器装备差、弹药奇缺、后勤补给困难等因素，敌我力量极其悬殊。
鉴于胡宗南部收缩集中，不易寻找战机的新情况，彭德怀也将西北战场上对敌作战的主要矛头指向了恶贯满盈的青宁“二马”，他向中共中央提交了西出陇东鞭抽“二马”的作战计划。
出击陇东，彭德怀颇费了一番心思。此时的青马整编八十二师师部统辖下属第一○○旅分驻西峰、宁县；整骑八旅分驻庆阳、合水、西华池地区；骑兵二旅在悦乐、阜城。宁马整编八十一师的六十旅在环县、蒋台，三十五旅则在羊圈山，整十八师分驻三边。针对“马家军”的分布情况，彭德怀制定了先打骑二旅和骑八旅，再打一○○旅的计划。
计划获批准后，西北野战军便在彭德怀率领下，兵分三路，自安塞西进。西野一纵为右路；新四旅为中路；二纵及教导旅为左路。其中左路部队任务最为艰巨，因为他们肩负的任务是围歼青马在合水的部队，并消灭可能增援的青马之一○○旅。对于此，彭德怀甚至想得更远，在1947年5月28日向中共中央汇报部队动态的电报中，彭德怀、习仲勋曾联名报称：“（合水）得手后定会引起二马调动，再集中兵力作战。”
在彭德怀指挥下，西野部队迅速突破陕甘两省边界，到达陇东的怀安、悦乐、合水一线。右路和中路两部进展较为顺利，很快就拿下了蒋台、悦乐，消灭了宁马整编第八十一师六十旅二七九团（欠一个营）和青马骑兵第二旅三团的5个连队，俘获马鸿逵的女婿上校团长马奠邦，以及少将副旅长陈应全，但左路二纵及教导旅却碰到了硬钉子，仗打得极为惨烈。
当时，西野左路军以王震指挥的第二纵队为主力，5月28日接近合水。二纵遂决定以三五九旅攻击合水，独四旅与教导旅打援。然而，教导旅前卫团刚到达合水以东10多公里的罗儿塬蒿草铺，便与青马整编骑兵第八旅警戒部队遭遇，双方立即展开了异常惨烈的战斗，我军损失较大。
29日凌晨4时，在旅长郭鹏部署下，三五九旅第七一七团开始向合水西北展开进攻，七一八团和独四旅第十二团向合水东进攻，七一九团作为攻城部队的预备队。29日中午，三五九旅七一八团和独四旅十二团先后占领了合水东部和南部诸高地，下午，七一八团杀入合水东关，守军退入城垣负隅顽抗。但七一七团却打得很不顺利，甚至预备队七一九团投入战斗后亦无法改变战局。当时我军按以往的作战方法，凭刺刀手榴弹逼近敌人的外壕前沿，但狡猾的“马家军”却早有埋伏，待我军攻击部队端着刺刀冲至近前时，预伏在暗道里的敌人突然出其不意地杀出来，我军指战员立足未稳，而“马家军”却个个精熟刀法，就这样，七一七团和七一九团不久便因伤亡过大撤出了战场。
由于对合水的城池布防掌握不够，西野的突击没能取得预期效果，而我军围攻合水的意图却暴露无遗，双方在合水周围形成了对峙局面。这时，驻守庆阳的“马家军”整编骑兵第八旅一个团，仗着骑兵的机动速度和精良的装备，高举战刀，气势汹汹，直奔合水而来，企图解合水之围。
负责警戒的教导旅仓促应战，损失不小，王震急令独四旅出其不意地从马莲河一线悄悄插到这股敌人身后，断其退路，以给其造成心理上的压力。果然，这支“马家军”骑兵部队闻听后路被断，便不约而同地拨转马头，夺路而逃。这时，我军战士一看敌军要逃，便不顾一切地猛扑上去，死死地抱住马头或揪住马尾巴，高喊“缴枪不杀！解放军优待俘虏！”但这些马上屠夫毫不犹豫地手起刀落。我军又伤亡一部。
在我军指战员的奋力拼杀下，敌军总算撤退了，部队开始打扫战场，总结经验教训，以迎接下次战斗。但是，西北野战军将士们忽略了一点，那就是对“马家军”迫切的仇怨报复心理和敢于铤而走险的野性估计不足。第二天一大早，庆阳驻敌便倾巢出动，“马家军”整编骑兵第八旅以2000多人，分南北两路，再次前来解合水之围。疲惫不堪的教导旅和独四旅由于疏于戒备，事先该扼守的隘口没有扼守，阵地也没有构筑，很快，这两支部队便被敌军逼到了险境……
敌军骑兵同我军指战员混战在一起，步枪手榴弹已难发挥作用，战场上听不到爆炸声，只见刀光闪烁，鲜血四溅。我军战士手握着手榴弹毫无畏惧地扑闪在敌人马群中间，只见敌军一骑兵冲了过来，我军战士倒下了，手榴弹也开了花，敌坐骑受了伤，另一个战士冲了上来，朝敌人胸前刺了下去，而敌人另一骑兵又冲来了，这个战士又倒了下去……战斗异常惨烈。
攻城的三五九旅形势也不容乐观。敌整骑八旅第一团偷偷潜至合水北山葫芦把附近，突然出现在合水近郊。“马家军”的出现令二纵上下大吃一惊，正在指挥部队围攻合水的三五九旅旅长郭鹏急忙从七一七团和七一九团各抽调一个连前去阻击。但由于事出仓促，两个连又腹背受敌，阵地遂被突破，人员被凶猛剽悍的“马家军”骑兵冲散。郭鹏急忙调七一七团的预备队第三营迎头堵截。三营接到命令后，还未运动到指定阵地，便与“马家军”骑兵遭遇。青马骑兵冲入三营急行军队列中，马踏刀砍。一阵激战后，三营以重大伤亡的代价挡住了青马骑兵向旅部的冲击。
就在三营与“马家军”骑兵血战之际，合水城内的守军见到援军到来，轻重火力齐鸣，同时打开合水北门杀出，企图与救援的青马第一批骑兵约300余骑会合。郭鹏眼看青马骑兵就要打通与合水守军的联系，心中十分焦急，他冲出隐蔽部，要下山亲自组织部队反击，突然，飞来一颗子弹，正中手臂，他一下栽倒在地……
此时，青马骑兵已与合水城内敌军会合，王震又收到消息：青马驻宁县的一○○旅已兵分两路，正向合水步步逼近。形势严峻，王震当机立断，决定率领部队撤出战斗。随后，我军转移到了合水西北一带不毛之地，摆脱了“马家军”骑兵的袭扰。
合水之役，终以我军失利、伤亡2500余人而告终。战役失利是彭德怀始料未及的，在全军上下引起了极大的震动。这是西野部队与“马家军”骑兵的首次大规模正面交锋，虽然合水战役的结果是我军失利，但这次战役也给了“马家军”以重大杀伤，战士们积累了打“马家军”骑兵的经验，为以后彻底歼灭“马家军”创造了条件。
与“马家军”交战的另一次失利，是在彭德怀发起的西府、陇东战役中。1948年4月6日，鉴于洛川久攻不克，国民党军增援洛川行动谨慎，原准备攻取洛川后收复延安并歼灭国民党军援军一部的计划难以实现，彭德怀遂改变作战计划，决心以第三纵队继续围困洛川，第一、第二、第四、第六纵队向西府地区挺进，调动、分散敌军，寻机歼其第五兵团一部，并相机夺取胡宗南集团的补给基地宝鸡。
西府是西安以西、泾河和渭河之间地区，古称西府，首府凤翔，包括现在的宝鸡市和咸阳等市县，地处陕西关中、汉中和四川的咽喉要冲，历来为兵家必争之地。
4月16日，西北野战军分三路西进：二纵、四纵为左路兵团，主力迅速向武功、扶风、岐山、宝鸡发展进攻，并彻底破坏兴平附近铁路；一纵为中路兵团，向麟游、凤翔发展进攻，协同二纵相机夺取宝鸡；六纵为右路兵团，由亭口、邠县渡泾河，尔后依情况相机而动。
战役开始后，西北野战军所向披靡，17至25日即攻克常宁、灵台、凤翔、郿县（今眉县）等12座城镇，切断了西北交通大动脉西兰公路，逼近宝鸡。此时，胡宗南令整编第十七师、整编第九十师第六十一旅分别放弃延安、洛川，回防西安；调第五兵团会同西北行辕副主任马步芳部整编第八十二师，共11个旅的兵力，自二原、镇原地区分路驰援宝鸡。26日，西北野战军一、二纵攻占宝鸡，歼敌整编第七十六师师部及两个团共2000余人，缴获大批军用物资，切断了胡宗南的后方军事补给，对胡宗南的大后方造成了极大的威胁。
西北野战军初期作战进展顺利，连战皆捷，但由于孤军深入，作战计划欠妥，在胡宗南部和“马家军”的两路夹击下，后期作战遭遇失利。
23至27日，青海“马家军”整编第八十二师4个步骑团在飞机配合下，突破西北野战军第六纵队教导旅在长武、亭口的阵地，抵达崔木镇；胡宗南部第五兵团部队也突破我军第四纵队在杏林、扶风一带的阵地，抵达凤翔附近。在这次战斗中，“马家军”再一次显露出了它凶残的本性。在“马家军”及胡宗南集团的凶猛进攻下，西北野战军渐渐陷于被动挨打的态势。为摆脱被夹击的不利形势，彭德怀下令毁掉大量缴获的军用物资，带领部队于28日撤出宝鸡，向陇东转移。
5月5日，西野先头部队六纵教导旅在镇原东南屯子镇被“马家军”整编第八十二师3个步骑团包围。彭德怀为拖住并歼灭该敌，令教导旅固守。当时，屯子镇不过方圆数里，突然集中了如此大规模的部队，粮食供应顿时陷入绝境，教导旅战士只能靠喝马血、吃马肉来维持体力，与“马家军”进行战斗。
“马家军”的炮弹密集地打在开阔的屯子镇上，我军被困指战员缺乏隐蔽，伤亡很大。鉴于战场形势严峻，彭德怀下令教导旅全力突围。经过精心组织，我军趁着夜色分成数队，分别由纵队和旅团干部率领突围。为配合教导旅的突围，教导旅被分割在外围的一个团冲进镇子接应纵队和旅机关，新四旅和艰难摆脱“马家军”追击的独一旅也迅速对包围屯子镇的“马家军”实施了反包围。“马家军”见被西北野战军包围，担心被消灭，便在残忍地屠杀了我军伤员后，迅速撤出了屯子镇。至此，教导旅才得以在“马家军”的重重围困下脱身，彭德怀也松了一口气。
7日，胡宗南、马步芳两部南追北堵，企图围歼西北野战军主力部队于屯子镇、西峰镇、泾川之间地区。彭德怀又一次陷入了胡、马的包围。所幸西北野战军第二纵队前来救援，彭德怀当机立断，将二纵队分成3部，分别阻击来自胡、马敌军三方面的进攻。二纵队血战两天两夜，在付出重大伤亡代价后，最终打退了敌军的进攻，主力部队得以从胡、马军队的严密围攻中突围。8至11日，西北野战军又分别在萧金镇以东三不同、宁县以东良平镇、栒邑（今旬邑）县城以北职田镇等地冲破国民党军的合围，于12日摆脱追堵，转至解放区马栏、转角等地，彻底摆脱了敌军的威胁。
果不其然。为争权夺利，“二马”几近绞尽脑汁。
就在马鸿逵在兰州大肆活动的时候，马步芳却悄悄地走上层路线，施展“黄金外交”。青海盛产黄金，马步芳依靠手中掌握的黄金，很轻易打通了李宗仁、阎锡山等人的门路，李、阎等认为：马步芳是匹“野马”，马鸿逵是匹“滑马”，在此“戡乱”的紧要关头，只能用“野马”，遂委任马步芳为西北军政长官。
5月上旬，马鸿逵约马步芳到西宁与兰州之间的享堂会面，经过讨价还价，双方达成由马步芳出任西北军政长官、马鸿逵任副长官兼甘肃省主席，并共同出兵的协议。随后不久，马鸿逵便致电国民党中央，表示拥护马步芳任西北军政长官，并派其所属十一军和一二八军组成宁夏兵团，与马步芳部八十二军（由整编八十二师扩充而成）、一二九军、骑八旅、骑十四旅组成的青海兵团相联合，组成由马步芳的长子马继援任总指挥、卢忠良任副总指挥的“宁青联合兵团”，合力进攻活动于陕西的彭德怀领导的第一野战军。
5月18日，国民党行政院明令马步芳代理西北军政长官（不久实任）。马步芳率领自己的一套班底从西宁赶到兰州上任，原长官公署的要员几乎全被撤换，只留下属桂系的副长官兼参谋长刘任等人。马步芳还故意留下原甘肃省主席郭寄峤，以抵制马鸿逵，意图等时机成熟再逼他让位。与此同时，他还发动各地大肆献马献旗，派代表来兰州祝贺，为自己大造声势，完全把马鸿逵撂在一边。
马鸿逵在兰州左等右盼，也不见马步芳保举自己当甘肃省主席，一怒之下电令宁夏兵团后撤。此时，宁夏兵团近10万人由马继援指挥，正在进攻陕西，但由于二马交恶不和，彼此无法协同行动。马继援在进军时，故意把宁夏兵团摆到正面第一线，而宁夏兵团则只听命于马鸿逵，对马步芳父子的命令根本不理。这样，宁青联合兵团进攻陕西很快遭到失败，两部争相往后撤退。青海兵团撤退在先，想截住宁夏兵团退路。但宁夏兵团一夜猛冲，冲过了马继援的警戒线。
马鸿逵当不成甘肃省主席，心里很气愤，又无从发泄，还是最得宠的四姨太刘慕侠给他出了主意，趁马步芳暂回西宁之机，到广州面见代总统李宗仁。马鸿逵到了广州，见到李宗仁，但李宗仁并不支持他。他又想飞往台湾见蒋介石，但李宗仁又不予批准，马鸿逵唯有再电令宁夏兵团继续后撤。
此时，解放军第一野战军30万大军经过扶眉战役和陇东追击战后，正在彭德怀率领下，向着西北大步挺进。马步芳闻知解放军进军西北的消息后，便急令其八十二军骑兵第十四旅、一二九军骑兵第八旅集结于固关、关山岭、马鹿镇一线，企图阻止解放军西进。
固关位于陇县西北60公里的陕甘交界处，是通往甘肃的第一道大门。这里，四面高山耸立，沟壑纵横，唯一的一条公路夹在狭长的山谷之中，易守难攻。马步芳以为，凭借这道关隘，就可以把西野拒之于甘肃门外。但西野第一兵团王震部没有辜负彭德怀的期望，经过一番恶战，西野拿下了固关，被马步芳吹嘘为“精锐铁骑”的“马家军”第十四旅被悉数歼灭。
攻下固关后，解放军士气大振，而“二马”却仍矛盾重重，宁夏兵团置青海兵团于不顾，不断后撤，彭德怀遂乘势挥师相继攻取长武、泾川、平凉等军事重镇。针对这种局势，李宗仁、阎锡山经商议认为，西北只有“二马”还有点力量，不笼络住马鸿逵，马步芳的势力会更孤立，于是决定让马鸿逵当甘肃省政府主席。马鸿逵得知这消息十分高兴，即去电给次子、宁夏兵团司令长官马敦静，第八十一军军长马敦靖（马鸿宾之子），以及一二八军军长、宁青兵团副指挥官卢忠良等，要其死守住宁夏的门户固原和瓦亭，为自己争回面子。然而，就在8月1日马鸿逵正式被任命为甘肃省主席的当天，宁夏兵团及各部阵地相继被解放军摧毁，卢忠良下令全军后撤，向宁夏溃逃。一野部队在彭德怀率领下，疾速向西挺进，兵锋直指兰州。
李宗仁、阎锡山为消除“二马”之间的对立情绪，挽救西北危局，电召马步芳到广州，与马鸿逵见面，又请出马家前辈马全钦（马占鳌孙、马安良之子）从中说和调解。“二马”因解放军大兵压境，处境相同，因而表面上又言归于好，甚至还抱着古兰经发誓，要同生死，共患难，并商定次日一起乘飞机回兰州。然而，到了晚上，马鸿逵即后悔，担心跟马步芳去了兰州，会被当作人质扣押，所以，第二天他不顾马全钦的劝阻，
