梁高祖聽說劉覽很有孝性，幾次去省視他。服喪期滿後，被任命為尚書左丞。劉覽生性聰敏，尚書令史多達七百人，劉覽見一麵就記住了他們的姓名。劉覽做官清廉正直，不謀私利，姐夫禦史中丞褚湮和堂兄吏部郎劉孝綽利用職務之便大肆貪汙受賄，劉覽上奏彈劾，兩人都因此免了官。劉孝綽怨恨劉覽，經常對人說：“狗咬過路人，劉覽咬自家人。”劉覽出任始興郡內史，治郡尤其清廉有節操。