魯迅在走出家鄉到外地後，乃至又走出國門之前，就已打下了深厚的國學基礎，對經學、史學、文學書籍的廣泛閱讀，為後來的發展，為成為偉大的文學家、思想家、革命家，積聚了深厚的民族文化底蘊。
後來他到了日本，閱讀興趣逐漸轉向西學，然而，由於與當時在日本的章太炎先生的結識，有機會成為先生的門徒，這就是師從太炎先生學“小學，即傳統的文字、訓詁、音韻之學。
章太炎，原名炳麟，字枚叔（一作梅叔），浙江餘杭人，生於1869年，逝世於1936年，是辛亥革命時期著名的資產階級革命家、思想家，也是著名的學者、國學大師。
魯迅最早知道章太炎的名字，是在赴日留學前的一九〇一年末。那時的太炎先生是一位“以文章排滿的驍將，其所作《駁康有為論革命書書》，因其宣傳革命思想，充滿民族主義激情，影響極大；尤其是他在《蘇報》上發表的慷慨激昂極富鼓動性的政論文字，對青年魯迅產生了很大的吸引力。一九〇三年六月，太炎先生在他主辦的《蘇報》上發表了著名文章《駁康有為論革命書》，痛斥改良派的倒退行為，將矛頭直指清朝皇帝；接著又給青年革命家鄒容寫的被他稱為“國民教育之第一教科書的《革命軍》作序。這兩篇文章在社會上引起了重大反響。具有革命傾向的群眾爭相購買，拍手稱快，政府當局和頑固派則感惶恐不安惱羞成怒。於是，當局以“汙蔑朝廷“謀為不軌的罪名，勾結英國方麵，將太炎先生抓進上海租界的西牢。鄒容為分擔責任，大義凜然於當晚自動投案被下獄中，不久就因“不堪其虐，含恨病死。太炎先生也被判刑三年，罰做苦工。這就是當時轟動中外的“蘇報一案。魯迅時在東京，聞訊後深為震動，後陸續讀到太炎先生在獄中的詩文，更加景仰先生之為人和百折不撓之精神。一九三六年十月九日，即離魯迅逝世前十天，他寫下了《關於太炎先生二三事》一文，在文中，他飽含緬懷之情，抒寫了對先生的敬佩愛戴之情：
我以為先生的業績，留在革命史上的，實在比在學術史上還要大。回憶三十餘年之前，木板的《駁康有為論革命書書書》已經出版了，我讀不斷，當然也看不懂，恐怕那時的青年，這樣的多得很。我的知道中國有太炎先生，並非因為他的經學和小學，是為了他駁斥康有為和作鄒容的《革命軍》序，竟被監禁於上海的西牢。那時留學日本的浙籍學生，正辦雜誌《浙江潮》，其中即載有先生獄中所作的詩，卻並不難懂。這使我感動，也至今並沒有忘記。
一九〇六年，太炎先生在上海刑滿出獄，又來到了東京。他加入同盟會，主持同盟會的機關刊物《民報》。這時，以孫中山、章太炎為首的資產階級革命派，同康有為、梁啟超為代表的資產階級改良派，圍繞著中國走什麼道路的問題，展開了激烈的論戰，這場論戰吸引了關心中國前途命運的留學生，也深深地影響了魯迅。章太炎富有戰鬥性的文章，《民報》上對馬克思主義學說的初步介紹，都使魯迅受到感染。那個時候的魯迅，愛看《民報》，還專門將《民報》收集裝訂成冊，以備隨時翻閱。通過《民報》，魯迅對章先生更加敬佩，於是就有了到太炎先生處聽課治“小學的經曆，時間在一〇八年的七月。
這年春天，在櫻花含苞欲放的日子裏，魯迅和許壽裳以及其他三個同學，租了東京本鄉區西片町十番地一所房子，因係五人合租，他們便給它命名為“伍舍。“伍舍坐落在東京有名的學者住宅區，日本著名文學家夏目漱石曾在這裏居住過。這所住處環境非常好，有廣闊的庭院，花木繁茂，清靜整潔。因與東京帝國大學和民報社址較近，留學生和一些革命黨人常來造訪，其中就包括了章先生的女婿龔未生。經龔的介紹，魯迅便正式結識了名望大學問高的太炎先生。最初，太炎先生邀請魯迅和周作人代為他翻譯《吠檀多哲學論》、《印度宗教史略》等書，並請他們去聽一位名叫密史邏的印度學者擬開的佛教哲學課。當時的魯迅，對佛教沒有興趣，也就沒去聽講。不久《民報》被日本政府查封，太炎先生即在神田大成中學為中國留學生開辦國學講習會。許壽裳回憶道：“我和魯迅極願往聽，而苦與學課時間相衝突，因托龔未生（名寶銓）轉達，希望另設一班，蒙先生慨然允許。授課地點就在《民報》社章先生的寓所裏。“每星期日清晨，我們前往受業，在一間陋室之內。師生環繞一張矮矮的小桌，席地而坐。先生講段氏《說文解字注》，赫氏《爾雅義疏》等，神解聰察，精力過人，逐字講釋，滔滔不絕，或則闡明語原，或則推見本字，或則旁證以各處方言。自八時至正午，曆四小時毫無休息，真所謂‘誨人不倦。“我們同班聽講的，是宋蓬仙（名宗萊），龔未生，錢玄同（夏），朱先（希祖），周豫才（樹人，即魯迅），周起孟（作人），錢鈞夫（家治），和我共八人。前四人是由大成再來聽講的。聽講時，以先筆記為最勤；談天時以玄同說話為最多，而且在席上爬來爬去，所以魯迅給玄同的綽號曰‘爬來爬去。許壽裳對魯迅這一時期的學習專門有一段回憶文字：“魯迅聽講，極少發言，隻有一次，因為章先生問及文學的定義如何，魯迅答道：‘文學和學說不同，學說所以啟人思，文學所以增人感。先生聽了說：這樣分法雖較勝於前人，然仍有不當。郭璞的《江賦》，木華的《海賦》，何嚐能動人哀樂呢。魯迅默然不服，退而和我說：先生詮釋文學，範圍過於寬泛，把有句讀的和無句讀的悉數歸入文學。其實，文字與文學固當有分別的，《江賦》、《海賦》之類，辭雖奧博，而其文學價值就很難說。這可見魯迅治學‘愛吾師尤愛真理的態度！