下载掌阅APP，畅读海量书库
立即打开
杨虎城1927年10月下旬率部到达太和，4个月后他把军务交给冯钦哉、孙蔚如代理，自己离开部队，化名呼尘，前往日本休养治疗。
杨此时离开部队出走，与当时的政治形势和他的处境有关。四一二政变后，蒋介石实行白色恐怖政策，血腥屠杀共产党人和革命者。6月，冯玉祥参加郑州会议、徐州会议后，与蒋合流，也开始反共、“清党”。冯撤换了国民军联军总政治部主任刘伯坚（共产党员）的职务，把苏联顾问押送回国，并下令逮捕共产党人乃至一般进步人士。西北局面顿时变色，中国大地被血雨腥风所笼罩。
杨虎城到太和后，仍坚持与共产党人合作。蒋介石背叛革命后，魏野畴、南汉宸、蒋听松等一批共产党人来到杨虎城军中，杨与他们研讨中国革命形势，给他们安排工作。杨任命蒋听松为军部秘书长，魏野畴为军部政治处处长，寇子严为第一师冯钦哉部参谋长，曹力如为第二师孙蔚如部政治处处长。此时，杨创办了一所军事政治干部学校，任命南汉宸为校长。此时聚集在杨虎城军中的共产党员多达200来人。他们组建了以魏野畴、南汉宸、蒋听松、刘子华为领导人的中共皖北特委，在中共河南省委领导下，以杨的部队为中心开展活动。杨虎城曾要求加入中国共产党，未被上级批准。当时，被“左”倾错误领导所统治的中共中央不顾主客观条件，指示各地盲动地发动起义。中共皖北特委确定以杨部队中的革命力量为核心，在皖北发动起义，在大别山地区建立革命根据地。特委几名领导人多次与杨商量此事，促杨率部参加起义。杨不赞成此举。他认为皖北地处平原，太和处于蒋、冯两大军事集团包围之中，敌我力量悬殊；而部队基层骨干少，一时抓不起来，上层大多数思想保守，不可能跟着走，少数人贸然起事，最后必然招致失败。杨主张不急于暴动，应先发展组织，积蓄力量。可是，杨的意见未被采纳。他获知皖北起义计划已得到上级批准，势在必行时，觉得他既不参加起义，再继续留在军中，处境会更为尴尬。恰在此时，南京政府派韩振声来皖北，一是挑拨杨与冯的关系，促使杨叛冯附蒋；二是以劳军为名，侦察情况。韩过去就知道南汉宸、寇子严的政治身份，现在他极力鼓动杨将南汉宸等逮捕解往南京，向蒋邀功，并说他保证，杨如能这样做，杨军队的编制、经费问题，都可以解决。杨断然拒绝，他对韩说：我与南汉宸是老朋友，尽管政治见解不同，但首先要顾及朋友间的道义，不能那样做！
1928年2月，杨虎城偕夫人谢葆贞、秘书米暂沉等离开太和，前往南京。到南京后，他到处游山玩水，还去了上海、杭州，并到普陀住了月余。在南京期间，经随员刘子潜（黄埔军校毕业生）介绍，避开随身秘书米暂沉（当时是共产党员）秘密地会见了蒋介石。这是杨第一次同蒋见面。蒋询问杨对冯玉祥的看法，杨如实地谈了自己对冯的不满，如强迫陕军出关、包揽陕西军队大权、杀害陕军将领等。蒋夸奖杨对冯了解深刻，谈得好，并问杨是愿意继续受冯指挥，还是另有打算，归顺中央。杨说：谁革命，我就跟谁！蒋表示现在是共同北伐时期，他不便改编冯的部队，嘱杨可找个合适的人暂时带领部队，杨可出国到日本访问，考察军事，伺机再电召杨归国，继续带领部队。蒋还允诺南京可解决杨部的军费供给问题。
杨虎城离开太和后，第十军内有人叛变告密，交出了共产党员名单。当时主持十军工作的参谋长孙蔚如，根据杨虎城走前的叮嘱，对所有共产党员无一伤害，而是把他们召集在一起，分发给路费，送到皖豫交界处放走。对南汉宸、曹力如也采用了同一办法。这就为日后与共产党人再次合作留下了余地。
1928年4月初，中共皖北特委领导的刘集（位于太和、阜阳之间）起义爆发。参加起义的有当地农民和杨部第十军的一部分以及四十九军高桂滋部教导团一部分，在刘集建立了苏维埃政权。在优势敌人的进攻包围下，起义很快失败。魏野畴带领20余人突围，后被逮捕并杀害。
1928年春，掌握了南京中央政权的蒋介石发动第二期北伐，以期用武力统一中国。此时，驻在皖北的杨虎城部与冯玉祥的关系若即若离，藕断丝连。冯把杨部划归方振武指挥。杨当时是既不愿参加所谓的第二期北伐，更不愿接受方振武指挥。那时陕军将领樊钟秀、李虎臣、高桂滋等酝酿反冯，联络杨虎城参加。杨不愿参与其事，也不便断然拒绝，苦于应付。
就是在这样的形势下，杨虎城的健康状况急剧恶化。他接受别人的建议，决定东渡日本接受治疗，并考察日本的军事、政治情况，待机再起。
1928年4月下旬，杨虎城偕夫人谢葆贞、秘书米暂沉由上海乘“长崎丸”轮船到日本神户，然后转赴东京，由几名在日本的陕西留学生负责接待。先住在东京近郊的大冈山，后移居东中野。
杨在日本逗留了7个月。经过休养和治疗，他的身体很快得以恢复。他全面考察了日本社会情况和各派政治势力，留心国内政局的变化，还时常到离他住所不远的代代木练兵场观察日本军队的训练情况。杨虎城来日本，主要目的并非是考察日本的政治和军事，而是想以日本为中转站，前往苏联寻找自己将来的出路。经过几个月的多方寻找，他终于找到了赴苏的引路人——连瑞琦。这位陕西出生的青年人，1920年接受杨虎城的资助前往德国留学。在欧期间，与旅欧的一些中国反蒋人士有所接触。他就是因为策动反蒋活动失败而逃到日本东京躲避的。杨找到连后，到其在东京的住所，向他倾诉自己扔掉部队来东京就是想请连带他去苏联，找共产国际，寻求今后的出路。连不同意杨的这种选择，并向杨指出：离开中国，离开自己的部队，就等于是离开了自己赖以生存的土壤和根基。他以邓演达为例，说邓离开了国内的第四军，只身到欧洲，毫无作为，成了离山的老虎，很孤单。要革命就要抓住武装，并在合适的地方建立根据地。经连劝说，杨接受了连的意见，放弃了去苏联的想法。之后两人多次探讨中国革命问题。一次在日本箱根火车站候车室长谈，两人商定一起回国，杨带部队返回西北，连到南京打入国民党政府内部。杨回国后，要脱离冯玉祥；到西北尽快建立根据地，接近苏联；团结和接纳国民党左派人士；利用反对派的内部矛盾，壮大自己；劝说部队中的共产党员，改正“左”倾错误；坚决不和共产党武装冲突。
1928年秋，蒋介石与冯玉祥之间的矛盾日趋尖锐。名义上隶属于冯玉祥第二集团军的第十军杨虎城部，成为蒋冯双方拉拢争取的对象。冯玉祥把驻皖北太和的第十军以及留驻陕西的一部分队伍调到山东单县，合编为国民革命军第二集团军暂编第二十一师，归冯部山东省主席孙良诚指挥。冯玉祥亲自致电杨虎城，催他回国整理部队。与此同时，蒋介石通过驻日使馆也致电杨虎城，除慰问病情外，也催他早日回国。杨所辖部队也派曹润华、王宝珊、姚丹峰到东京向他报告情况，请他回国。在上述三方敦促下，杨遂于1928年11月16日回到上海。
杨虎城去南京拜会冯玉祥。冯对杨十分客气，赞扬了杨在西安守城中的功劳；对杨部在豫东受挫，冯说责任不在前方指挥人；并说已令杨部开往山东，准备参加剿灭土匪的战斗。
杨在南京虽没直接见到蒋介石，但应邀会见了何应钦。何请杨吃饭，对杨十分恭维，临别时送给杨一本密电码，嘱杨以后多加联系。
杨虎城到泰安会见孙良诚后，便到临沂军中，正式就任国民革命军第二集团军第二十一师师长之职。部队经过一段整训，即参加剿匪。对出没于胶东一带的几股土匪，如刘桂堂、顾震、张黑脸等部，都给予致命打击，胶东地区暂时出现了安定局面。
1929年4月，蒋、冯关系濒于破裂。为应付突发事件，冯开始收缩防线，集结兵力。他命令杨虎城的暂编第二十一师随孙良诚转移河南。前年豫东之战，杨多次请冯援助，冯未派一兵一卒相助，杨与许多干部均记恨在心。杨又考虑，冯部撤离山东，蒋派陈调元主持山东，自己不与蒋接上关系，以后不好相处。于是杨拒绝冯命，拒不开拔。何应钦立即致电杨虎城，大意是胶东匪氛未靖，地方治安可虑，该部应即驻防原地，维持秩序，所有部队经费番号中央当负责解决，诸希来京面谈。
于是，杨虎城由海路前往南京，先后受到何应钦、蒋介石召见，部队改编为国民革命军新编第十四师，下辖三个师，三名师长是孙蔚如、冯钦哉和马青苑，全师共1.4万人，南京每月给军饷10万元。由此，杨虎城离开了冯玉祥，依附于蒋介石。
1929年9月蒋、冯战争爆发前，杨虎城奉蒋介石命由胶东移防河南安阳，兼任南阳守备司令。蒋介石为了让杨虎城替自己卖命，从武汉运来1万包大米、1万袋面粉、100万发枪炮弹和大量军需物资，可供杨部半年使用。冯部刘汝明军从商洛出荆紫关东进，杨派孙蔚如、马青苑率部迎击，在西峡口激战一昼夜，刘部不支，向西逃跑。12月初，唐生智联合阎锡山、冯玉祥反蒋，军队改称“护党救国军”。当月下旬，唐生智所部集结于驻马店，进攻确山。杨虎城率部进攻唐军，于1930年元旦攻克驻马店，促使唐部溃败。1930年3月，杨虎城的新编第十四师奉命改编为陆军第十七师，接着又改为陆军第七军，杨任第七军军长兼第十七师师长。
在1930年5月爆发的中原大战中，杨虎城也助蒋有功。7月，杨所部被改编为讨逆军第十七路军，杨虎城任总指挥，奉命在平汉路以西地区担任攻防任务。9月，蒋命平汉路以西部队向陇海路西段挺进，追击冯军。杨虎城一直在寻机打回关中，经营西北。现在，他除留少数部队留守南阳外，率全部主力从南阳、叶县出发，经鲁山、宝丰、临汝，17日攻克洛阳附近的龙门。全军兼程西进，重返关中，10月29日进入西安，对冯玉祥经营多年的根据地被杨部摧毁。
还在杨虎城率部西进的途中，南京政府就令其筹建陕西省政府。恰好这年的夏天南汉宸又来到杨的军中，杨把筹组省政府的任务交给他。南京政府1930年12月24日正式任命杨为陕西省政府主席，杨则任命南汉宸为省政府秘书长，代其处理日常事务。