1949年1月31日，北平和平解放，杨奇清率华北局社会部部分工作人员进驻北平，以华北人民政府公安部名义开展工作。

此时的北平，既有国民党特务机关逃离前有组织有计划转入地下的大量军政人员，以图谋东山再起；又有曾在日伪长期统治下自成体系的许多日伪特务，反对共产党执政；也有傅作义集团中反对和平起义的少部分人员，在从事与新政权为敌的活动；还有辽沈战役结束后，涌入北平的数万国民党的散兵游勇；更有北平原有的众多反动会道门黑帮组织。他们在蒋介石提出的“全国游击办法”的实施中，祸害百姓，蓄意扰乱北平的社会治安。杨奇清为清理国民党和旧社会遗留下来的残渣余孽、深挖敌特潜伏组织、稳定社会秩序、开创新中国城市公安工作做了大量工作。

这年7月，中共中央军事委员会公安部宣告成立，中央任命罗瑞卿任部长，杨奇清任副部长。公安保卫具体业务工作由中央社会部划分出来，由军委公安部主管。杨奇清协助罗瑞卿，根据中共七届二中全会精神和毛泽东《论人民民主专政》有关人民民主专政的重要论述，筹划全国性的公安保卫工作，迎接新中国的诞生。

自第一届政协筹备会议开始，直至中国人民政治协商会议第一次全体会议在北平开幕及开国大典的举行，杨奇清全程参加并负责保卫工作。当时，杨奇清成立了一个“政协临时保卫大队”（简称“便衣警卫队”），并分派给北平市公安局四项保卫第一届政协会议的任务：负责中南海外围、北京饭店、华安饭店、六国饭店、政协代表和首长住地的安全，以及宋庆龄、李济深、沈钧儒住地的警卫；负责中山公园、北海公园、故宫、太庙、国民大戏院、大华剧院、美琪影院等代表和首长活动场地的安全警卫；负责中南海书记处驻地的防空警卫；负责主要首长和代表外出活动路线的警卫等。

中央把选择开国大典阅兵地址的任务交给公安部，由杨奇清负责。杨奇清带领一批干部，找了几处地方，最后将西苑机场和天安门进行了认真的比较：西苑机场有宽阔的跑道，也没有阻碍交通的弊端。而长安街只能并排通过步兵十二路纵队、骑兵三路纵队、装甲车两路纵队，很难显示出气势。但是，西苑机场没有阅兵台，临时搭建又太仓促，就算搭建出来也无法和天安门的壮丽雄伟相比。再者，西苑机场远离市区，数十万参加典礼的群众往返是个不小的负担。由于这些条件的限制，杨奇清和同志们还是选择了地处市中心，四通八达，易于军队、群众集中和疏散的天安门。罗瑞卿同意后呈报中央。于是，天安门城楼被定为阅兵台。

此时，台湾保密局局长毛人凤向潜伏在北平的保密局北平站少将站长徐宗尧等特务组织负责人分别发出指令：不惜一切代价，破坏中共的开国大典。事实上，此前，潜伏的特务分子也一直在北平猖狂地进行着危害人民生命财产安全的破坏活动。开国大典在即，敌情异常严重。杨奇清主持制定了开国大典的保卫方案，又召集有关同志再一次细致审查方案的细节。他开门见山地说：“我想请大家再来钻钻空子，咱们自己将存在的空子都给钻了，敌人再想钻空子也钻不成了嘛！好吧，请大家畅所欲言……”

然而，与会者一致认为这个方案是建立在发动群众、依靠群众的基础上，可以说是精心组织、周密部署。有人进一步认为，这个方案将多方面的力量都充分调动起来了，可以说万无一失，并强调“由于任务明确，心中有底，保证能够圆满完成”。杨奇清听后，摇了摇头：“我是请你们来挑刺的，不是请你们来唱赞歌的。我们的保卫方案必须仔细、再仔细，将所有可能发生的情况都考虑进去，并预先制定切实可行的防范措施。”