在中國，“小說”一詞使用已久，最早見於《莊子》，《漢書·藝文誌》說是“小說家者流，蓋出於稗官；街談巷語，道聽塗說之所造也”。小說的雛形是神話傳說中的簡略記錄，後來發展到《搜神記》一類誌怪小說和《世說新語》一類誌人小說，結構都很簡單。及至出現唐人傳奇，宋元話本，小說乃由粗具梗概變得枝繁葉茂起來。魯迅指出：“是時則始有意為小說”，就是說，小說創作的自覺意識到這時方始建立，結果是：小說有了中篇的規模，題材有所擴展，最突出的是情節性大大加強，而語言也趨於通俗，更富表現力。明初《三國演義》、《水滸傳》的製作，標誌著古典小說趨向成熟；隨著清代《紅樓夢》的出現，達至巔峰狀態。盛極而衰，緊接著，變革時代也就適時而至了。
宋元“說話”中有一類名為“小說”，指的是話本中的短篇故事，與我們現今使用的概念相去甚遠。我們說的“小說”，實際上是晚近的舶來品，可以說，是由歐洲的小說觀念再命名的。
在歐洲，小說發展的道路與我國大體相似，即由神話而傳奇而故事，由短篇而中篇而長篇。至十九世紀，長篇小說十分鼎盛，致使黑格爾斷言極限來臨。及世紀末，現代主義小說很快出現，傳統的主體和寫法被打破了。其實，十八世紀末以前，歐洲小說的體式已經相當完備，隻是小說之名（novel）遲至此時才正式流行起來罷了。
幾乎與此同時，有了中篇小說（novelette或novella）的名目。中篇小說是中型的敘事散文作品，一般而言，以篇幅的長短劃界，但因此也就有了相當的彈性，需要把所敘的事件的規模、時間長度、結構的複雜與完整的程度同時作為參照。綏拉菲莫維奇的中篇《鐵流》，論結構，可以算作長篇；莫泊桑的《俊友》本是中長篇，意大利作家莫拉維亞卻是把它當做注水的短篇來看的。
五四新文學運動把中國文學分為前後兩截。語言由文言改成白話，表麵上是語言層麵的改革，實質上是一場帶根本意義的文學觀念的革命。胡適寫《白話文學史》，所說的白話，仍是古典的白話，與五四時期語法相當歐化的白話很不相同。五四的小說，一、凸顯文學的主體性，叛逆性，個性解放與人道主義成為小說的主旋律；二、題材和主題有所擴展，社會問題進入小說，“神聖勞工”及知識分子形象組成了新的人物畫廊。三、小說結構基本上是西式的，塊狀的，自由組合的，而非線性的、連環組接的傳統章回體。除了思想觀念，還有形式技法，都是現代的，麵向西方，學習西方，而有了東方式的創造。
現代小說仍以短篇小說先行，幾年後，中長篇相繼產生。1922年，魯迅的《阿Q正傳》正式發表。以中篇的篇幅容納了一個革命的時代，統攝了一個民族的靈魂，這確實是一個奇跡，尤其出現在新聞學的發軔期。當時，鬱達夫、廬隱、廢名等都有中篇問世，但多流於粗淺。
直到三十年代，一批作家和作品掙脫自敘傳性質而麵向廣大的社會麵開拓，開始走向成熟。茅盾除了長篇《子夜》。又以中篇《林家鋪子》、《春蠶》反反映中國社會的變動。鄉土題材聚焦了眾多作家，蕭紅、沈從文、王魯彥、吳組緗、沙汀，還有廢名，都有相當數量的作品。其中《生死場》和《邊城》，或淒厲，或幽婉，更富有鮮明的藝術特色。左翼作家蔣光慈、葉紫、丁玲，均著有反映革命鬥爭的中篇，對於充斥著帝王將相、才子佳人，而且往往有著“大團圓”結局的傳統小說來說，本身也不失為一種革命。其中，蔣光慈較早揭示革命與人性的衝突，並因此遭到內部批判，作為文學史上的一個典型案例，是很可注意的。柔石的《二月》，寫大時代裏的邊緣人，有所批判，有所省思，也有所顧惜，是另一種筆墨。丁玲從《莎菲女士的日記》到《水》，從個人主義到集體主義，宿命般的顯示了中國現代作家群體角色的演變過程。上海一批作家，如施蟄存、劉呐鷗、穆時英等，不重現實而重審美、重感覺、重印象、重情調，以中產階級趣味烹製都市文學。在此期間，巴金、老舍、張天翼都是有影響的小說家，且都有中篇製作。巴金後來寫的《憩園》，一種挽歌調子，似乎與他早年激越的文字頗異樣。
四十年代的延安文學是一種新型文學，但實質上，在“為政治服務”和“為工農兵所利用”的背後，卻混雜了不少傳統主義、民粹主義的因素，意識形態代替了個人思想，形式——所謂“民族形式”——比較單一。趙樹理小說《小二黑結婚》、《李有才板話》，在當時可以看作是一種具有方向性的作品。此間，丁玲的《在醫院中》和《我在霞村的時候》，對個人理想和女性主義作最後的堅持，可謂彌足珍貴。在“國統區”，包括抗戰時的“淪陷區”，張愛玲寫下《金鎖記》、《傾城之戀》，以第三隻眼看人世，著意經營現代傳奇。還有師陀，他的《落日光》、《果園城記》，在藝術上非常講究，很有特色。青年路翎異軍突起，寫作《饑餓的郭素娥》，從形象、情節到語言，則明顯帶有一種野性，富含力的美。