1946年1月，國共兩黨代表在重慶簽訂《停戰協定》，雙方同時下達停戰命令，並組成由共產黨、國民黨政府和美國政府代表參加的「停戰軍事三人小組」和「軍事調處執行部」(簡稱軍調部)，執行停戰協議，調處國共衝突。葉劍英任軍調部中共代表團團長，李克農任秘書長，統管代表團的黨務、政治思想、人事、機要、電台等。還有一點鮮為人知，他還是中共中央情報部副部長。
中共代表團工作人員分住在北京飯店和翠明莊，李克農住翠明莊。翠明莊對面樓房裡駐有國民黨特務機關，莊裡的服務員也都是國民黨特務和特務組織指派的人。我方工作人員的行動，都處在國民黨特務的嚴密監控之下。李克農警惕性很高，對代表團人員嚴格要求，提醒大家警惕國民黨特務的破壞活動。
翠明莊裡的服務員對打掃房間、取送換洗衣服、倒字紙簍都格外勤快，他們企圖從中找到有價值的隻言片語。李克農饒有興趣地告訴代表團工作人員，不妨做些試驗，例如用小紙片隨便寫個數字或像是人名的字樣放在襯衣口袋裡，故意讓他們搜去。李克農也時常用筆在紙上寫寫畫畫，然後撕成碎片扔到字紙簍里。他說國民黨的特務對這方面有興趣，反正他們閒著也沒事幹，拿回去慢慢練習拼圖吧。
中共代表團的機要和電台人員，對保密工作尤為注意。他們根據李克農的要求，一切生活自理，決不允許服務員進入電台所在的南樓。但這些服務員製造各種藉口硬往裡闖，今天說檢修門窗，明天說清查家具，後天又說要檢查電話。機要人員就設法對付：工作完畢，立即把密碼、電報妥善保管；工作人員之間不隨意交談涉密事項，一般也不打電話；如果服務員來到辦公室，機要人員立即停止工作，並派專人跟隨，使他們無機可乘。
中共代表團與國民黨特務的鬥爭持續不斷。1946年2月21日，國民黨反動派密謀於次日晚糾集一些地痞、流氓和部分暴徒，以「東北還鄉團」的名義砸毀葉公館和夜襲翠明莊。李克農提前獲悉了敵人的陰謀，立即採取措施，請葉劍英暫時離開，以保安全。在翠明莊，李克農做了動員和部署，要求重點保衛南樓。機要和電台人員有的把門放哨，有的武裝巡邏，有的保衛密碼和機密文電，並做好在非常情況下，可以立即銷毀密件的一切應急措施。
22日晚，李克農邀請外國記者到葉公館看「國民黨特務的把戲」。晚8時許，當一些暴徒闖入葉公館準備搞破壞時，發現外國記者竟已在此恭候多時，知道陰謀敗露，只得狼狽逃走。
在軍調部工作期間，李克農利用有利情況和合法條件，採用「打進去」「拉出來」的辦法，在北平、天津和東北地區建立了情報組織，為偵察蔣介石集團發動內戰的動向，配合解放軍在東北、平津的自衛反擊戰打下了良好基礎。