1975年，叶剑英派车将杨奇清接到他家，与杨奇清长谈。其间，杨奇清向叶帅表示相信党组织，会把他的问题调查清楚；同时请求中央能够分配给他一个力所能及的工作，自己有决心用有生之年为党再做一点儿工作。叶帅叮嘱杨奇清好好养病，养好身体，才能更好地斗争。

杨清曾对父亲要求工作的决定非常不理解，一有机会，就劝说父亲“在家安心养病，况且上面对你的审查还未结束”。杨奇清只是感慨：“时间不等人啊！”后来，杨清才理解父亲是想加倍工作，把“文革”带来的损失弥补回来。

1975年1月，华国锋兼任公安部部长，找杨奇清谈话，要杨奇清回公安部工作。造反派闻讯又恨又怕，极力反对，拼命阻挠，大造谣言。10月9日，经中共中央批准，任命杨奇清等人为公安部副部长。杨奇清不顾重病未愈，毅然决然返回公安部，受到广大干部的热烈欢迎和支持。

后来，当杨奇清向他人谈起“文革”往事时，爽朗地笑着说：“他们要我交代反对毛主席的反革命罪行。我回答说，我干了几十年的公安保卫工作，工作中的缺点、错误肯定是不少的。但要说我反对毛主席，说我是反革命，那是对我的诬陷和污辱，我没有一丝一毫可以交代的。”杨奇清就是这样光明磊落地批驳了林彪和“四人帮”对他的诬陷。可以说，在近半个世纪的漫长岁月里，杨奇清始终战斗在党的公安保卫战线上，为建设党的公安保卫事业，为保卫党、保卫军队、保卫人民、保卫国家献出了毕生的精力。

粉碎“四人帮”后，杨奇清真正获得了解放。他和其他领导同志一起，积极组织公安战线的拨乱反正工作和揭批林彪、江青反革命集团的斗争，重建和加强群众性的防谍和保密工作。他对“文革”期间和历史上被错误处理的同志十分关注，催促干部部门尽快予以安置处理。

1977年3月，赵苍璧调任公安部党的核心领导小组组长、公安部部长。当时杨奇清的病情已经比较严重，不少老同志劝他离开北京到上海去专心疗养一段，他都以“苍璧同志刚来，情况不熟，我应该帮他熟悉熟悉”为由，予以婉拒，带病坚持工作。有一次，他诙谐而又幽默地对一位去看望他的老战友说：“我快要去见马克思了，相信马克思一定会欢迎我，说我为共产主义崇高理想奋斗终生，是有功劳的！”他还用鲁迅诗句“横眉冷对千夫指，俯首甘为孺子牛”，与这位同志共勉。

“1978年，父亲病重，广东省厅郭叔叔深夜来看他，他还在坚持批文件。郭叔叔见他脸部浮肿，身体很不好，建议他去广东疗养。父亲拒绝了，因为他知道，病魔留给他的时间不多了。”杨奇清子女回忆说。

1978年11月24日，杨奇清由于咳血，内伤太重，带着未竟的遗憾在北京医院去世。12月2日下午，杨奇清追悼会在北京八宝山革命公墓礼堂隆重举行。党和国家领导人华国锋、叶剑英、邓小平、李先念、汪东兴、宋庆龄等送了花圈。邓小平、汪东兴、韦国清、邓颖超、王震、康克清等领导同志参加了追悼会。追悼会由中共中央政治局委员、国务院副总理纪登奎主持，公安部部长赵苍璧致悼词。邓小平充满激情地对杨奇清的夫人肖彬说：“你们是革命的家属！杨奇清同志的一生，是革命的一生、战斗的一生。”