1924年1月，國共合作形成，1月24日，孫中山先生宣布，成立軍校籌備委員會，開始籌建黃埔軍校，而此事的負責人，便是蔣介石，任務交代下來，蔣介石便想到了自己的同學王伯齡。
王伯齡，江蘇江都人，17歲考入保定陸軍速成學堂，與蔣介石成為同學，二人關係要好，後來，又一起被保送到日本深造，1911年，辛亥革命爆發後，王伯齡與蔣介石一樣，也回來參加革命，巧的是，二次革命失敗後，這二人又都返回日本，而且二人學的還都是炮兵科。
王伯齡本身也是同盟會老人，當然有資格參與黃埔軍校的籌備，後來，在王伯齡的建議下，蔣介石又電召何應欽，讓何應欽來幫自己。
在黃埔籌劃階段，王伯齡出力不少，但王伯齡一沒看清黃埔軍校的「戰略意義」，二對教學沒多大興趣，整日花天酒地，很多時候，蔣介石都找不到他人，這便給了何應欽機會，漸漸的，蔣介石越來越重視何應欽，王伯齡失去當黃埔軍校二把手的機會。
雖然王伯齡能力不咋地，但蔣介石還是很看著他，真正讓蔣介石把王伯齡打入冷宮的，是王伯齡的兩次臨陣脫逃。
1925年，陳炯明叛變革命，兵分三路開始攻打廣州，黃埔軍校首次參戰，何應欽率領教導第一團，王伯齡率領教導團第二團，這次參戰，對蔣介石是一次考驗。
攻打淡水城時，何應欽的第一團首當其衝，拂曉進攻，正午便拿下淡水城，可謂大獲全勝，全殲守軍一個旅，繳槍千餘支。
而作為預備隊的二團，則在城外與趕來的援軍遭遇，戰鬥一打響，王伯齡便臨陣逃脫，第二團很快便敗下陣來，幸虧何應欽派第二營營長劉峙全營出城反擊，這才擊敗敵軍。
這一戰，何應欽一戰成名，而王伯齡卻被嚇破了膽子，可蔣介石，不僅沒有懲罰他，反而，升他做了第一軍副軍長兼第一師師長，要知道，這可是蔣介石的嫡系部隊，可見，蔣介石對王伯齡，還是很包容的。
但很快，王伯齡又在一次讓蔣介石失望了。
1927年，廣東國民政府北伐，很快便打到武昌，這次，王伯齡急於表現，不聽葉劍英等人意見，執意攻城，結果被孫傳芳來了個兩面包圍，部隊損失慘重，王伯齡在一次臨陣脫逃。
王伯齡這次逃跑，影響極其惡劣，就連蔣介石，也無法捂住這件事，無奈之下，將王伯齡撤職，從這件事，蔣介石也看出，王伯齡不是帶兵打戰的料子，讓王伯齡轉成了文職。
而被撤職的王伯齡，也不生氣，反而在1928年的時候，拜追隨印光大師皈依佛教，要知道，此事的王伯齡，才39歲而已。
1936年，王伯齡宣布辭職，真正出家為僧，這年王伯齡48歲。