1946年1月，国共两党代表在重庆签订《停战协定》，双方同时下达停战命令，并组成由共产党、国民党政府和美国政府代表参加的“停战军事三人小组”和“军事调处执行部”(简称军调部)，执行停战协议，调处国共冲突。叶剑英任军调部中共代表团团长，李克农任秘书长，统管代表团的党务、政治思想、人事、机要、电台等。还有一点鲜为人知，他还是中共中央情报部副部长。
中共代表团工作人员分住在北京饭店和翠明庄，李克农住翠明庄。翠明庄对面楼房里驻有国民党特务机关，庄里的服务员也都是国民党特务和特务组织指派的人。我方工作人员的行动，都处在国民党特务的严密监控之下。李克农警惕性很高，对代表团人员严格要求，提醒大家警惕国民党特务的破坏活动。
翠明庄里的服务员对打扫房间、取送换洗衣服、倒字纸篓都格外勤快，他们企图从中找到有价值的只言片语。李克农饶有兴趣地告诉代表团工作人员，不妨做些试验，例如用小纸片随便写个数字或像是人名的字样放在衬衣口袋里，故意让他们搜去。李克农也时常用笔在纸上写写画画，然后撕成碎片扔到字纸篓里。他说国民党的特务对这方面有兴趣，反正他们闲着也没事干，拿回去慢慢练习拼图吧。
中共代表团的机要和电台人员，对保密工作尤为注意。他们根据李克农的要求，一切生活自理，决不允许服务员进入电台所在的南楼。但这些服务员制造各种借口硬往里闯，今天说检修门窗，明天说清查家具，后天又说要检查电话。机要人员就设法对付：工作完毕，立即把密码、电报妥善保管；工作人员之间不随意交谈涉密事项，一般也不打电话；如果服务员来到办公室，机要人员立即停止工作，并派专人跟随，使他们无机可乘。
中共代表团与国民党特务的斗争持续不断。1946年2月21日，国民党反动派密谋于次日晚纠集一些地痞、流氓和部分暴徒，以“东北还乡团”的名义砸毁叶公馆和夜袭翠明庄。李克农提前获悉了敌人的阴谋，立即采取措施，请叶剑英暂时离开，以保安全。在翠明庄，李克农做了动员和部署，要求重点保卫南楼。机要和电台人员有的把门放哨，有的武装巡逻，有的保卫密码和机密文电，并做好在非常情况下，可以立即销毁密件的一切应急措施。
22日晚，李克农邀请外国记者到叶公馆看“国民党特务的把戏”。晚8时许，当一些暴徒闯入叶公馆准备搞破坏时，发现外国记者竟已在此恭候多时，知道阴谋败露，只得狼狈逃走。
在军调部工作期间，李克农利用有利情况和合法条件，采用“打进去”“拉出来”的办法，在北平、天津和东北地区建立了情报组织，为侦察蒋介石集团发动内战的动向，配合解放军在东北、平津的自卫反击战打下了良好基础。