廉範背著父親的靈柩回到故鄉，安葬了父親，又守孝3年。然後，前往京城拜師博士薛漢，進行學習。在薛漢門下，廉範學業日益精進，掌握了很多知識。當時的京兆、隴西兩郡都請他做官，他熱衷學業，就沒有接受。
漢明帝初期，隴西太守鄧融準備了一份厚禮，征聘廉範為功曹，但鄧融忽遭上級審查。廉範知道鄧融不好解脫，就暗自盤算，打算以自己的能力救他，於是托病離開了鄧融。鄧融不明緣由心中不免怨恨。
廉範離開鄧融後到了洛陽，更名改姓，請求擔任廷尉的獄卒。不久，鄧融被押解到洛陽關在監獄，廉範於是得以在他身邊侍奉，盡心盡力，非常勤勞。
鄧融奇怪這個獄卒長得像廉範，於是試探著問道：“你長的和我從前的一個部下很像。”
廉範為了掩飾，就故意提高聲音斥責道：“我看你是因為困窘看花眼了！”從此不再跟他說話。
廉範在鄧融因病被押解出去養病時，就一直跟隨著探視，找機會近前伺候。後來直至鄧融病死，他都沒有說明自己的真實身份，並親自趕車送鄧融的靈柩到他的家鄉南陽，安葬完畢才離開。
廉範後來被征聘到公府，恰逢京城博士薛漢因為楚王的案子被判死罪，他的故人、門生都不敢探視。這時，廉範義無反顧，前去給自己的老師薛漢收殮屍體，妥為安葬。
這件事被公府官吏告訴了漢顯宗皇帝，漢顯宗大怒，召廉範入宮，質問並斥責他說：“薛漢和楚王一同密謀，惑亂天下，你是朝廷的官員，不和朝廷保持一致，反而替罪犯收殮，為什麼？”
廉範叩頭說：“我愚蠢粗魯，認為薛漢等人都已認罪被處死，但實在忍不住師生的情誼，罪該萬死，請皇上罰我吧！”
漢顯宗怒氣稍息，又問廉範說：“你是廉頗的後代嗎？和右將軍廉褒、大司馬廉丹有沒有親緣關係？”
廉範回答說：“廉褒，是我的曾祖父；廉丹，是我的祖父。”
皇帝說：“難怪你有膽子敢這麼做！”並賞賜他。
不久，廉範被推薦為秀才，幾個月後，升任為雲中太守。恰逢匈奴大舉進兵入關，烽火連天。按照舊例，敵人超過5000人，就應該寫信給鄰郡求救。部下們打算寫信求救，廉範沒有采納，親自率領士卒抵擋。
當時匈奴的兵力很多，廉範的軍隊首戰不利。於是，廉範調整策略，決定智取。
這天傍晚，廉範讓每個士兵各自綁兩個火把，舉在頭上。一時間，軍營中無數亮光閃爍，就像繁星。匈奴人遠遠看到火光很多，以為漢軍援兵來了，大為震驚，準備逃跑。
廉範犒勞士兵，抓住戰機，在早晨衝殺。匈奴兵自相踐踏，損失慘重。從此，匈奴不敢再侵犯雲中地區。
廉範後來曆任武威、武都兩郡的太守。他根據當地風俗，教化訓導百姓，很有政績。漢章帝初期，廉範改任蜀郡太守。蜀郡的人喜歡爭論，好互相評論好壞。廉範不接受別人在他耳邊說壞話，還常常用純樸厚實的道德觀念訓導他們。
在當時，蜀郡很多地方的房屋之間很窄，從前的條令禁止百姓晚上活動，防止火災，但是百姓偷偷地活動，火災每天都會發生。於是，廉範廢除原來的法令，但嚴格要求百姓儲存足夠的水，以備火災之用。百姓自由出入，感到比以前方便了很多。
廉範體察民情，治郡有方，老百姓就用《五絝歌》來歌頌他的功績。歌中唱道：“廉叔度，來何墓？不禁火，民安作。昔無襦，今五袴。”後一句的意思是，以前連短衣服都沒有，現在連褲子都有5條了。可見人民富足。後來人們用《五絝歌》作為稱頌地方官吏施行善政之詞。
漢肅宗駕崩時，廉範到敬陵奔喪。當時廬江郡的官員嚴麟奉命吊喪，和廉範在路上相遇。嚴麟乘坐馬車，路上泥水太深，馬被陷死，嚴麟不能趕路。廉範馬上命令跟隨他的人下馬，把馬讓給嚴麟，但沒告訴嚴麟自己的姓名就走了。
嚴麟奔喪回來，想把馬奉還，但不知道馬是誰的，就沿路尋訪。有人對嚴麟說：“蜀郡太守廉範，喜歡幫助危難貧窮的人。皇帝駕崩，能夠不辭勞苦去奔喪的，估計隻有他了。”
嚴麟平時也聽說過廉範的名聲，聽人這樣一說，也確定就是廉範幫助了自己。於是牽著馬登門拜訪，歸還馬匹並深表感謝。
廉範一生都在邊境做官，廣泛開墾田地，囤積糧食財物，改善了當地人民的生活。他臨終前留下遺囑，把絕大部分家產送給了宗族和朋友。
廉範秉義而行，不計私利，確為君子之道。不僅在兩漢時期樹立了權衡義利的樣板，博得了很響的義名，後世的人們提起廉範，也都佩服他的仁義精神。