裴俠生活在北魏孝文帝到西魏、北周時期，他原名裴協，因在戰鬥中身先士卒，衝鋒陷陣而名聲大振，為了嘉獎他，周文帝替他改名為“俠”。裴俠所處的時代，戰事連綿，政治腐敗。做官的人，追求功名利祿，吃喝玩樂，而裴俠，仕途生涯幾十年，卻一貫勤儉樸素，從不為財物所誘。他憎惡貪官，清苦自守，住的是破屋漏房，吃的是粗茶淡飯。他晚年重病時，人們去探望他，見他仍住在不能防禦風霜雨露的破房裏，無不深深感動。
北周文帝時期，他任河北郡守，人們稱他“躬履素儉，愛人如子，所食惟菽麥鹽菜而已”。當地群眾是很懷念他的。當時郡內有個規定，在郡內抽取漁獵夫三十人，隻供郡守役使，曆任郡守都因此而大發其財。可裴俠上任郡守後，立即廢除這個規定，並把他們的勞動所得，日積月累，購買了成群的馬匹，供郡內公事使用。他還采取措施，建立法規，整治貪官汙吏。對利用職權隱藏、貪汙錢財的官吏，嚴格清查，從重處理。對自首認罪的，給予寬大處理。以後，人人畏法，貪汙之風大大收斂。
裴俠有兩個堂弟，一個叫裴伯鳳，一個叫裴世彥，都在朝廷做官。他們見裴俠為官多年，家無餘財，很不理解，曾勸他說：“人生一世，草木一秋，功名利祿該享受的都要享受，像你這樣清貧，不是自討苦吃嗎？”裴俠聽了嚴肅地說：“清廉是做官的本分，節儉是立身的基礎。我之所以清廉自守，並不是為了獵取美名，目的在於修身養性，同時也害怕有損前輩廉潔的清名啊！”一席話，說得兩個堂弟非常慚愧，啞口無言。裴俠節儉立身，兩袖清風，他的事跡留下了美名，人們懷念他的恩惠，作詞歌頌，廣為傳唱。周文帝對他也十分欽佩，稱讚他“清慎奉公，為天下之最”。裴俠獲得了天下“獨立君”的美稱。