1929年5月，楊賢江秘密回國，寓居上海，專事教育理論的著譯工作，並接受黨的委托，克服種種困難，以堅強的毅力，在不到半年的時向裏完成其教育理論的代表作《新教育大綱》，從而“奠定了楊賢江作為新興教育理論先驅者光輝的曆史地位”。
《新教育大綱》共有三章（內含十二節），三章之前加有“序言”和“緒論”。第一章的標題是：“教育的本質”，內含四節。第一節，教育是什麼。第二節，教育的本質及其變質。第三節，批判幾種對教育的曲解。第四節，教育的效能。第二章的標題是：“教育的進化”，內含四節。第五節，原始共產社會的教育。第六節，封建社會的教育。第七節，資本主義社會的教育。第八節，社會主義社會的教育。第三章的標題是：“教育的概觀”，內含四節。第九節。教育與經濟。第十節，教育與政治。第十一節，教師。第十二節，學生。《新教育大綱》全書共約十三萬字。《新教育大綱》最初是作為“新興社會科學叢書”之一，於1930年2月由上海南強書局出版的，同年9月再版。作者署名“李浩吾”。作為中國現代史上的第一本馬克思主義教育理論書籍，《新教育大綱》出版不久即被列入“禁書”而遭查封，但它卻很快傳入了當時的紅區。如1930年8月印刷的“閩西列寧師範暑期學校講義”基本上是根據《新教育大綱》節印而成的。解放後，《新教育大綱》經過整理之後，以楊賢江的署名由人民教育出版社於1961年重新出版。1982年，教育科學出版社又將《新教育大綱》納入《楊賢江教育文集》予以出版，這是目前較易見到的本子。
《新教育大綱》是我國第一部係統運用馬克思主義的觀點和方法闡明教育原理、理論密切聯係中國實際的重要著作，它比較集中地反映了楊賢江關於教育理論的基本思想。《新教育大綱》主要論述了以下幾個方麵的教育理論問題：教育的起源及教育的變質
教育的起源問題是教育理論研究中的一個重要問題。在《新教育大綱》中，楊賢江從馬克思主義的基本觀點出發，摒棄了以往的在教育起源問題上的種種曆史唯心主義觀點，創造性地提出了“教育起源於人類的實際生活需要”的教育起源論。
在《新教育大綱》中，楊賢江正確地指出：教育起源的動因並不是什麼玄妙之物，決不是以往所鼓吹的諸如人性、教育者的意識或天命之類，“若說教育是與現實的經濟生活無關，單憑某個人頭腦中的思索所得決定，從來就沒這樣一回事”。教育隻不過是一件“日用品”，“自有人生，便有教育。因為自有人生，便有實際生活的需要”，“教育的發生就隻根於當時當地的人民實際生活的需要；它是幫助人營社會生活的一種手段。”
在楊賢江看來，“生活”既包括“衣食住的充分獲得”，也包括“知識才能的自由發展”，而且“生活”必然是“集體的社會的”生活”，這就是說，“生活”應該而且必然應該包括兩個方麵的活動：物質生產的活動和精神方麵的活動。與此相應地，原始社會的教育也包含兩個方麵的內容：一是為獲得生活資料而進行的“實用教育”；二是為安慰精神而進行的“宗教教育”。
《新教育大綱》指出，原始社會教育的起源，就是由於人類實際生活的需要，所以，原始社會的教育雖然很簡單很貧乏，但它既同生產勞動密切結合，又為社會的全體成員所共同占有。隻是私有製產生之後，原始社會進入了階級社會，情況才發生了根本變化。教育除了具有原始社會教育的職能之外，又增加了作為支配工具的職能。而且隨著私有製的發展，後一種職能愈顯重要。楊賢江將這種教育職能的變化，稱之為“教育之變質”。
《新教育大綱》指出：“教育之變質”產生於私有製的出現。私有製的出現使支配階級有閑暇時間受到文雅的教育，而被支配階級則被剝奪了受教育權，隻有勞動的義務。於是，實踐和理論開始分離，勞動和教育分為兩途。這時的教育便是階級的教育。從奴隸社會產生以後，階級社會的教育具有了以下五大特征：第一個特征是教育與勞動分家；第二個特征是教育權跟著政權走；第三個特征是為了支配階級的利益；第四個特征是兩重教育權的對立；第五個特征是男女教育的不平等。
《新教育大綱》著重論述了資本主義社會的“教育之變質”問題。指出，資本主義社會的主要特征是：第一，是商品生產；第二，是少數資本家獨占生產手段；第三，是工銀勞動。在資本主義社會裏，金錢關係籠罩著這個社會的各個階層，它不再高唱假仁假義的虛偽道德，而轉而重視實際知識和生產技能的教育。因此，同封建主義的教育相比，資本主義的教育便具有如下兩大特征：“第一，封建時代對庶民不施教育；資本主義時代要對全民實施義務教育。第二，封建時代的教育，差不多隻是道德教育；資本主義時代的教育卻推廣範圍而以傳達日常生活上的知識技能為目的”。資本主義的教育隻所以會具有上述兩大特征的根本原因在於：“第一點的理由，是以農業生產為社會主要產業的封建時代，庶民沒有研究學問的必要；但在資本主義的經濟組織中，這種經濟組織的本身需要文字；故普及教育隻為了養成國民的勞動力，卻不為了國民自身的幸福。第二點的理由，是封建製度為尊重禮儀的製度，故教育注重道德，借以養成安分的良民；但在資本主義社會中，一方經濟組織的自身需要知識技能；他方為了收攬勞動者的心，也有注重勞動教育的必要。”所以，看不到資本主義社會的教育的階級性，而片麵溢美資本主義教育的所謂勞動化（或生活化）、科學化、平民化（或民眾化與社會化）、中立化（或公平化）、國際化（甚至和平化）是極為錯誤的。