1996年10月開始任鄭州市公安局法製室副主任。在任副主任期間，她一度顯得不太開心。因為她覺得法製室不是一線工作，發揮不了她偵察、破案的專長，有勁使不出，憋得慌。直到1998年11月公安係統競爭上崗，她又憑著自己的韌勁和實力，擔任了鄭州市公安局技偵支隊的支隊長，終於實現了她夢寐以求的願望。
任鄭州市公安局技偵支隊支隊長後，她帶領支隊民警在短短2年的時間裏，跑遍了全國二十多個省、市，多次深入虎穴，化裝偵查，親自抓獲了中原盜竊高檔轎車第一案主犯，破獲了近300餘起搶劫、殺人等重特大案件，先後打掉了7個涉黑團夥，抓獲犯罪嫌疑人370名。被譽為警界女神警。
2001年4月任長霞調任登封市公安局黨委書記、局長。成為河南省公安係統有史以來的第一位女公安局長。上任以後，各種風言風語也隨即接踵而來，“鄭州沒人啦？咋派個娘們兒來？”“這樣一個文弱的女人，能幹什麼？”“她肯定是某位大人物的女兒，有靠山”“瞧吧，好戲在後頭呢”……
任長霞感到了肩頭壓力的沉重，當時而臨的形勢非常艱難：民警隊伍渙散、積案堆積如山、群眾怨聲不斷，行風評議年年倒數第一。她深入基層調查摸底，跑遍了登封17個鄉鎮區派出所，找到了存在問題的症結所在。
“新官上任三把火”，任長霞決定把這把火燒在“從嚴治警”上。她上任的第一天，在就職演說中做了這樣的開場白：“我家裏不缺錢，你們也不用想著給我送錢；我一用化妝品就過敏，所以你們也不用想著送我化妝品。有為才有位，你幹得好，我就會發現你，就會用你。”這一上場便堵住了行賄等不正之風的風口，不但禁止下級對上級的賄賂說情，而且還禁止警員收受群眾的賄賂。君召鄉海諸村的村民郭道就觀察到了這樣的變化：“以前到派出所辦事，不拿兩盒煙，人家連話都不跟你說。現在拿出煙，都推，沒人敢接。”
俗話說：一粒老鼠屎壞一鍋湯，在登封市公安局這樣的大“老鼠”就有三隻。民警賈某，嗜賭成性；民警華某，好色如命；民警錢某，愛財如命，直接充當非法遊戲廳的保護傘，且三人都有一定的背景來頭。任長霞也曾有過猶豫，有過顧慮，但維護公安隊伍的純潔，維護人民群眾的根本利益的想法壓倒了她內心深處的一切雜念，果斷將三人清除出公安隊伍。
接下來她便利用各種機會、各種形式來考查警員的工作效率和工作態度。在她上任不久的那段時間，登封市的各派出所便經常會在夜深人靜時接到一個女人的報案：“我是汝州來的，包被搶了！”
她還經常和公安局其他領導一起在離派出所一公裏左右的地方，打手機報警。然後盯著表，算派出所的出警時間。一天晚上，任長霞給石道派出所打電話報警，但連打了三遍電話，等了近一個小時仍沒有人來。晚上一點多鍾，任長霞翻過大門進了派出所，所長正在打牌。見此情景，任長霞隻說了一句話：“你背上背包回家吧。”
她這一動真格，人們才意識到新局長不是花拳繡腿之輩。一位登封民警證實：“我們當時都很緊張。”那段時間，隻要一聽是女人報警，誰也不敢怠慢。時間一長，各派出所的值班人員都熟悉了任長霞的聲音。她就找一些群眾替她報警，有時她還會突然出現在派出所的值班室裏，查看值班情況。