張小舍，膠州東山人，幼年喪父，侍母極孝，為人豪邁義氣，飽讀詩書，有文采善決斷，因為腿有疾病，故不能考取功名。遂以在縉紳人家坐館授徒為業。年三十方娶妻，妻貌雖醜陋但極賢惠，家雖清貧，日子過得卻也和睦美滿。
知縣張虛，慕名將其聘為幕僚師爺。那年夏天，他陪知縣大人去山上遊覽一座古廟，看見廟中有三四個人躺在地上，睡得正香。他們身邊放了個西瓜，已經切開，卻未曾吃過。張小舍馬上讓人將他們帶入縣衙拷問，果然是一群小偷。他向知縣大人稟告說：“他們白天聚在一起睡覺，一定是因為夜裏太勞累了。切開的西瓜，則是用來避蒼蠅的。”
一日，他正在城中的茶館裏喝茶。茶館中有兩隻銀杯，是給不尋常的客人準備的。此時，張小舍手中用著一隻，另一隻正在一個衣著考究的商人手中。突然，張小舍對著那人大聲喊道：“有我在此，你還要耍弄你的把戲嗎？”眾人驚奇地望著他們，那個人趕緊溜走了。別人問張小舍，他說：“那個人體格魁梧，喝茶時卻要雙手捧杯，實際上他是在偷偷測量銀杯的大小，準備回去做假杯子來換走這隻真杯。”
又一日，他在趕赴縣衙的途中，路過一個木匠家的門口，聽見裏麵有女子的哭泣聲，他停下來凝神聽了一會兒，就讓縣衙的捕快將那個女子捉回去審問，原來是這個女人夥同奸夫將自己的丈夫毒死了。他向知縣大人稟告說：“一般來說，當自己的親人生病時會感到擔憂，親人快死時會感到害怕，親人死後會感到悲哀。而這個女人的哭泣聲中卻帶著恐懼。所以我懷疑這其中另有隱情。”
一日，縣裏的王大財主家娶兒媳婦，接連三天通宵達旦點著燈燭以示喜慶。第三天，突然從小兩口的床底下竄出一個人來，一下子就被抓住送入縣衙中。審問時，那人聲稱自己不是小偷，是醫生。新媳婦有種特別的病症，所以讓他跟隨在她身邊，經常為她用藥。知縣盤問再三，那人說起媳婦娘家的事情，都很詳細準確。於是，知縣決定傳新媳婦到官府來對證，以便結案。王大財主家覺得這樣有失體麵，懇求知縣別讓新媳婦上公堂，將那人放了定有重酬。知縣堅決不許。王大財主隻好出麵懇求張小舍，張小舍教他如此這般，王大財主領計而去。到了開堂那天，王大財主不情願地帶上一名衣著華麗的年輕姑娘，那個人一見到她就大聲叫嚷著說：“你請我治病，為什麼還把我抓起來呀？”堂上的知縣聽了哈哈大笑起來，原來這個“新媳婦”隻不過是花錢雇來的一個妓女罷了。把戲被戳穿，小偷隻好認罪伏法。
幾年後的一天，張小舍回到家中，整夜唉聲歎氣，妻子問他，他憂傷地說：“我的死期恐怕不遠了。好好替我照顧老母親！”妻子聽後大驚，忙問其故。張小舍說：“昨日審了一個案子，農民張三在自己家的田中勞作時掘出一大壇黃金，足有上千兩之多。當時在田中幹活的人很多，眾目睽睽之下，張三隻好將黃金上交縣衙。知縣大人命人封入府庫，嚴加看守。今日早晨，當眾打碎壇子，果然見千兩黃金滾出，映照得公堂一片金黃燦爛。大人找來專替人打金銀首飾的錢一手來驗看，不料這些金子竟是外邊鍍金的鉛塊。堂上堂下一片惋惜之聲。就此結案。”他妻子聽得滿頭霧水，疑惑地問：“結案了，你怎麼回來還死呀活的？”張小舍說：“昨日見那壇黃金送來時，四個強壯的莊稼漢吃力地抬入縣衙，杠子被壓得彎彎的，今日早上從府庫中抬出時，四個衙役輕鬆地將壇子抬到堂上，杠子隻是微微有些彎而已。”聽到這裏，妻子驚恐起來：“難道，難道……”張小舍重重歎了口氣，說：“是呀，自古以來，能麵對唾手可得的千兩黃金而不動心的人何其少啊！”
過了幾天，張小舍在外出查案時被一夥強盜伏擊而死。送葬那天，成千上萬的老百姓為他送行，知縣也代表縣衙高度地褒獎他。
知縣後來官運亨通，一直做到吏部侍郎，突然有一天夜裏暴死家中。整個屍身被塞入一個大壇子之中。朝野震驚，嚴查幾日後，在接到一封匿名信之後，忽然不再查問此案，最終，不了了之。