1930年11月29日，在夜色的掩护下，阎锡山匆匆上路了。他身穿中式棉布长袍、黑色马褂，戴着一副老花镜，头上戴着老式风帽，脚穿一双旧式棉鞋，这一身打扮俨然一个土财主、老商人，手里拄着一根手杖，边走路边哼哼叽叽，看上去像是有病的样子，脸上满脸愁容，他这是闹得哪一出呢？ 他在日记里写道：“一个人从高山上掉到万丈深沟里，身体摔得粉碎，此时还有什么？还想什么呢？”，此时此刻他的确想不了什么，只能想着逃命要紧。 1930年11月4日，阎锡山、冯玉祥通电下野，历时七个月的中原大战结束。这场大战双方投入兵力高达110万，伤亡30余万，战线绵延数千里，生灵涂炭，民不聊生。 战败的阎、冯军队被老蒋收编，对于阎锡山，老蒋只有四个字送他：格杀无论，还派出复兴社的特务行刺。 阎锡山为了避祸，一面假意把山西军政大权分交徐永昌、杨爱源、商震，自己返回五台老家，对外宣称自己即将出国考察，正在勘察路线，不日便起程。 而另一面他却让亲信李汝骧联系汪精卫，结果遭拒，后又派秘书王怀奇从河边（阎老家）经大同赴天津，观察沿途情况，是否检查严格。 当得知沿途检查不严的报告后，他向老蒋发出通电，说自己决定于12月1日经石门（石家庄）赴津，然后乘轮船出国，还将行止路线和日期，电告了北平的张学良，让他提前做好准备。 但他并没有按计划出行，而是比计划提前了两天，打扮成一个土财主模样，声称到天津治病。他们一行四人，分两辆车，阎与李汝骧乘一车，张培梅与王怀奇坐另一车。 一路凡能躲过检查站的地方，阎都要求绕道而过，实在躲不过，就硬着头皮受检，有时说伙计送掌柜去外省看病，有时说亲戚送掌柜看病，随机而变。 阎锡山一路只吃自己从家带的一小袋饼，水也喝得少，怕小便多。即便住旅店，他也把自己遮得严严实实，又装出一副生病的样子，左右有人搀扶着上下车，基本没人能看清他的面目。 而且为了安全起见，他还装作与同行另一车的张、王二人并不相识。在沿途他们还看到张学良为了准备阎离晋，专门在丰台站为他调轨，谁知他已经奔出了山西。 到达天津后，他马上联系到南佩兰（原天津市长）、薄以众（阎的妹夫），之后就住在薄家。但他又不敢在天津久住，很快又与日本领事取得联系，之后在日本人的保护下乘日轮到了大连。 为什么阎会选择大连，一方面离山西近，好就近秘密控制；另一方面就是可以勾结日本，凭借日本力量，图谋东山再起。 在大连期间，他的左右亲信都与日本人保持着联系，到1931年8月，阎锡山突然秘密回到了山西河边老家。 没过多久，老蒋便知晓了此事，马上督促他从速离开山西，否则将对他采取严厉措施。但阎锡山此时却并不害怕了。 此时的他与日方已签订有密约，取得了日本人的支持，更为重要的是，他已经得知日本人要在东北发动侵略战争，所以，对张学良也不在乎了。 九·一八事变后，阎锡山宣布支持老蒋的不抵抗政策，并释放了些关押在山西的国民党人员，由此取得了老蒋的谅解。 在全国上下要求抗日救亡的形势下，老蒋摒弃前嫌，委任阎锡山为太原绥署主任。1932年2月29日，阎锡山由河边回到太原，匆匆就职。