1927年8月，蒋介石突然宣布辞去国民革命军总司令职务，离职下野。
此后，国民党各个派别之间，你争我夺，闹得不可开交。蒋介石则抽身局外，隔岸观火。不久，由于局势更加动荡不安，在一片请蒋介石复职声中，蒋介石东山再起。
蒋介石上台后，重新打起继续北伐的旗帜，并自己兼任第一路军总司令，加强对兵权的控制。
1928年2月9日，蒋介石悄悄前往徐州前线，采用汉高祖入壁夺符的办法，进入第一路军总指挥部。蒋来得很突然，指挥部的人一阵忙乱。蒋介石坐在总指挥何应钦的办公室内，提高嗓门问道:“你们的总指挥呢？”
何应钦的手下赶紧回报道:“何总指挥外出打猎未归。”
蒋介石把桌子一拍，怒道:“徐州乃前线要冲之地，何应钦身为总指挥，不坚守岗位，竟外出打猎，这是失职行为！”说罢，他站起来，怒气冲冲地喊道:“立即撤销何应钦第一路军总指挥的职务。”
何应钦手下的人一看，这位蒋总司令来者不善，都不敢开口。蒋介石又吩咐左右道:“向南京发电，要王伯群、李仲公、何成浚、贺耀祖、陈调元速来徐州。”言罢，又道:“致电南京总司令部，撤掉何应钦住宅的警卫部队。”此时，何应钦在外打猎未归，还不知发生了什么事情。
蒋介石从徐州电召何应钦的大舅子交通部长王伯群等人开会，惟独不叫何应钦。这些要人不知出了什么事，急匆匆赶到徐州。蒋介石板着面孔道:“我召你们几位来，是要告诉你们，我决定撤销何应钦第一路军总指挥的职务。”
几个人你看着我，我看着你，闹不清蒋介石的葫芦里卖的是什么药。
蒋介石接着说:“我为什么要撤他的职呢？原因有三个:第一，他忘恩负义，勾结白崇禧逼我下野；第二，别人都通电拥我复职，惟独他迟迟不发拥戴电，实在可恶；第三，外边有人传言，说我指挥不了黄埔系，我就来前方试试看，我究竟能不能掌握黄埔军。”
蒋介石“杀鸡给猴看”，并不是要把何应钦一脚踢开。他在狠打之余，又予轻拉。不久，蒋介石调何应钦任总司令部的参谋长，既削了何的实权，也表示留有余地。并留下话说:“告诉何应钦，没有我蒋中正，绝没有何应钦。今后要小心谨慎，不要受各派系的挑拨离间。”他声称:“待我将部队整理就绪，仍然请你回来统率。”
随后，何应钦深怀惊惧羞愧之心，告假两个月，避居上海。蒋介石亲往上海抚慰，何应钦这才就任参谋长一职。
第二次北伐开始，何任第一路军总指挥。这前前后后的周折，使何应钦对蒋有了新的认识，在蒋面前更是加倍小心，事事察言观色，不敢有半点差错，生怕被反复无常的蒋介石一脚踢开。
从何应钦在军界、官场的经历中，人们可以看到蒋介石的用人之道和老辣的手段。
