1946年1月，中共同国民党在重庆签订《停战协定》，双方同时下达停战命令，并组成了由中共、国民党和美国政府代表三方面的“军事调处执行部“，也就是今天俗称的“北平军调部”或者叫“军调部”。其任务：监督执行停战协议，调处军事冲突。中共、国民党，美国各派一名委员负责，并由他们分别率各方的代表团开展工作。
中共代表团团长由叶剑英出任，李克农任中共代表团委员、秘书长，以及担任代表团总支书记。对外，李克农常与叶共同出席三方联席会议，主持交涉、交际、新闻发布等活动。在代表团内部，李克农分管党务、政治思想、情报、秘书、机要、通讯、编译，警卫等工作。
中共代表团合影，前排居中叶剑英，最后排右一李克农
“军调部”中共代表团，分两个地方居住，北京饭店住一部分人，翠明庄住一部分人，李克农住在翠明庄。翠明庄这里除固定的工作人员外，还有南来北往借执行部的飞机调动工作的干部。李克农作为秘书长，主管内部的一切事务。作为中共引人注目的代表，在公开场合，他从来着装整齐，浓厚黑发梳理的整整齐齐，带着一副度数很深的眼镜，神态严肃，让人觉得不怒自威。因此，在“军调部”中共代表团内部有了一个外号“管家婆”。
作为博弈上的对手，翠明庄对面的楼房里密布国民党特务机关的各个监视组，翠明庄里面服务人员也基本是国民党特务和特务组织指派有特殊使命的人。
1946年叶剑英（右四）、李克农（右三）等在北海公园
当时中共工作人员活动，都是在国民党特务的严密的监控之下。尤其是庄里的服务人员对打扫房间、取送换洗衣服、倒纸篓都格外勤快，因为以换洗衣服口袋和纸篓里都很可能找到极有价值的只字片纸，或者被人们忘掉的姓名、地址、电话号码，从中他们可以了解到他们得不到的情况。李克农经常饶有兴趣告诉秘书处的人，不妨试试“反间”，例如用废纸头随便写几个数字或人名、地名的字样，放在衬衣口袋里准备他们搜去。让他们拿回去研究。
李克农在军调部工作情景
李克农自己时常用钢笔、铅笔在一些草纸上写写划划，然后特意撕成小碎片，扔到废纸篓或者留一两个小碎片放在要换洗的衣服口袋里，他知道那些监视哨对所有的碎纸文字当宝贝，消耗对手的时间，误导对手的思维，甚至做出假情报。让对手的特工们偷了以后慢慢“解读”吧。
李克农在军调部工作情景
1946年冬，国民党特工为了尽快破译中共代表团的密码电报，除了派出破译密码的专家外，还在翠明庄内地下，秘密架设了一部小型电台（由美国进口），专冂秘抄中共代表团密电。
代表团报务员在进行电台联络时，经常发现附近地区有神秘信号跳出，立即引起机要部门注意，机要部门则第一时间立即向李克农汇报。经过周密侦察，很快发现了该部电台隐藏地点及工作规律。
拿到了证据后，李克农立刻向国民党提出了严正抗议，在证据面前，国民党方只能以属下私自活动为借口，表示一定严办。自此后，神秘电波消失了。
李克农为北平军调部驻青岛小组中共代表姚仲明送行
某天，李克农和耿飚坐在翠明庄李克农房间的沙发谈话，沙发前面是一个小圆桌，不小心把一杯茶碰倒，李克农在收拾茶杯的时候，突然发现桌下的地板有些松动，他们把桌子搬开，掀起地毯。原来地板是活动的，撬开后发现里面装有窃听器。李克农并未声张，但立即布置在翠明庄代表团工作人员的生活和工作的各个房间进行地毯式检查，结果在会议室等几个地点又找到窃听器。都是同样的手段，地板以下打洞，安装窃听器，然后用活动地板盖上，有的再覆上地毯（如会议室），不易察觉。
李克农当即决定把窃听器照原样放好，不露痕迹。然后把国民党代表请来翠明庄驻地，当他们的面把在地板里的窃听器起了出来，让国民党代表再一次尴尬与丢脸。只能将窃听组撤。
李克农与新华社北平分社社长钱俊瑞
李克农在电台、机要，通讯上的管理，相当严格。在曾经在军调部中共代表团机要科的工作人员萧鹤回忆，李克农曾对机要、通讯干部一再强调：“机要和电台是蒋介石反动派妄图破坏的重要目标，他们现在已经集中了国民党和美、英、日等国一百余名破译人员，力图侦查破译我党的密码电报，窃取我党我军最高机密情报。为了国家和人民，我们以全大局，与美蒋和谈，他们则是假谈真打。我广大指战员在前方浴血奋战，人民也还在水生火热之中。因此，我们要胸怀革命大局，时刻想着人民和前方的战士。在党中央和毛主席领导下，恪尽职守，努力完成军调部的工作任务。你们是机要干部，就是要机密、准确、及时完成机要通讯任务，确保我党密码的安全和密码通讯的畅通。我们如果稍有疏忽，出了漏洞，就可能被敌人所利用，对人民犯下大罪呀！”
罗瑞卿（左四）与李克农（左二）、滕代远（左一）等在北平军调部工作期间合影。
另外，李克农告诫军调部内中共工作人员如何在白色环境下保持气节，他指出：“我们代表团的每个机要人员，在国民党特务机关那里都登记造册了，有相片、有职务、甚至有履历表，而且这里的生活条件比在解放区优越得多了。但是，我们共产党员要有富贵不能淫、威武不能屈的崇高革命气节，为革命献身。乐在其中，死得其所。““当然，我们也要具有机智的头脑，善于对敌斗争，特别是提高警惕，要有随时应付突然事变的能力。机要干部更要自觉遵守革命纪律，尽可能避免敌特挑衅而被捕的危险。总之，在白色恐怖下，你们要锻炼自己成为一个真正的红色传令兵，不可辜负党对你们的信任和重托！“
李克农的纪律要求，给所有曾在军调部工作过的人员都留下了深刻的印象。这纪律要求贯穿了这些老前辈们的一辈子：确保党的机密，严守革命纪律，提高警惕，以防突变。
军调部中共工作人员工作一景
为了保密和便于开展工作，机要部门和电台集中在了翠明庄的南楼，李克农要求工作人员，一切生活自理，不允许饭店服务人员进入楼内。严格、认真，执行各项当时保密规定。要求每次工作结束，马上把密码、电报妥善锁进在柜里，工作人员之间不交谈有关工作内容，不随便打电话。在工作中，严禁外人进入办公室，万一有外人来了，房间内所有人立即停止手上工作，并有专人跟随，使国民党特务们无任何可乘之机。
1946年2月21日，国民党特务组织经过精心策划，用行政命令的办法，诱骗煽动了北平不明真相的部分青年学生闹事，举行了所谓的“反苏、反共游行示威”，并同时纠集一些地痞、流氓和部分暴徒，以“东北还乡团”的名义，企图砸毁“叶公馆"（叶剑英住处）和“夜袭"中共代表团驻地翠明庄。
1946，叶剑英（左1）、罗瑞卿（前右1）、李克农（后右2）、马海德（前右2）伊文思（中）
在国民党特务组织做好这一计划的同时，李克农几乎是同时获得了这一情报，立刻安排叶剑英离开了“公馆”。随即在22日晚，李克农组织一些外国记者到“公馆”，晚8时许这些暴徒突然闯人“叶公馆”准备破坏，却突然发现一批外国记者出现在这里，只能慌忙离去。
在翠明庄，李克农向全体人员做了紧急动员，部署了重点保卫南楼，确保党的机密安全的措施。要求机要部门做好一切应急准备，分头守卫电台、密码、机要文电等，并做好了在非常情况下可以立刻销毁密件等一切应急方法。
同是22日晚8时，翠明庄突然停电，楼内一片漆黑，但所有工作人员根据预案各负其责，严阵以待，潜伏观察的特务监视哨发现无机可乘，只能向行动人员发出无奈的信号，最终，国民党特务的行动人员也没敢“夜袭"翠明庄。
第二天，中共代表团向国民党方提出了严重抗议。在谈判桌上，叶剑英声色俱厉地质问郑介民：“你们以‘还乡团’之名，制造事端，进行捣乱，这是明目张胆地破坏协议，我们决不能容忍！”
事后，李克农得到情报，郑介民大骂特务们说：“这样机密的事，怎会共党事先就知道了？你们都是些饭桶！”
关于内部保卫，还有一件轶事，曾有位漂亮端庄的女干部胡小为准备乘军调部的飞机去延安。在北平等飞机时也住在翠明庄。她的关系是由隐蔽战线介绍转交的。住在翠明庄的时候，她曾简单的认为这里住的都是党的人，无拘无束，感到任何人都很亲切，可信。
某天，她突然遇到一个人问她，姓什么叫什么，要到哪里去，什么人介绍她来的。她俱如实回答了。那人再问：“你知道我是什么人？”胡小为答：“不知道。”结果那人突然来一句：“我是国民党的。”说完就走了。这把胡小为吓坏了，闯了这么个大祸，怎么办呢？尤其不该说的是什么人介绍她来的。这可怎么得了！她回到自己房里关上门哭了一整天，饭也不吃了，想不出补救这弥天大祸的办法。隔壁住了一位女干部，听到她的哭声，又见她不出来吃饭，便敲她的门，问发生了什么事。胡小为想，已经闯了祸了，谁知这人又是什么人呢？不能再随便说了，只顾哭。这位女同志发现情况不对，再三对她说这里都是自己的同志，有什么困难，大家都会帮忙的，她的话说得很诚恳，终于说动胡小为把门打开了。胡小为把自己如何闯的祸一五一十说了。那位女同志问胡小为看到的人是什么样子，穿什么衣服，在什么时候，什么地点，胡小为如实地说了。这位女干部马上意识到这人可能就是李克农。她叫胡小为等着，立即去找李克农，说了胡小为的情况。李克农说：“这小姑娘真天真，不知道我是什么人，却什么都说了。太没警惕性了，我吓她一下。”好嘛，这一吓，差点要了胡小为的命。胡小为以后回忆，这个教训她记了一辈子。
翠明庄内部园林
李克农协助叶剑英团长在北平军调部，率领中共代表团直面向敌约400天。虽然以国民党发动全面内战而宣布军调部无果而终，但是他们同国民党政府和美国代表进行了艰巨复杂的斗争，深刻地揭露了国民党反动派破坏和平、挑起内战的阴谋，从全局上有力地配合了中共中央及其领导下的军队同国民党对手的政治、军事斗争。