回國後，最初朗道仍在列寧格勒物理研究所工作。朗道在內心深處是讚成革命的，並按自己的理解而相信馬克思主義。但他反對中世紀式的思想專製和愚昧殘忍，於是與當權者有了矛盾。另外由於他在學術問題上與研究所的領導約飛有分歧，雖然朗道是正確的，但卻冒犯了這位權威。在一次朗道作了學術報告後，約飛宣稱朗道所講的內容不得要領，而朗道則毫不客氣地當眾回敬道：“理論物理學是一門複雜的科學，不是任何人都能理解的”。由於這樣一些原因，朗道最後不得不離開了列寧格勒。
從1932年起，朗道在哈爾科夫的烏克蘭科學院物理——技術研究所工作，並擔任了理論物理部的主任。1934年，在沒有經過論文答辯的情況下，朗道獲得了博士學位，1935年任哈爾科夫大學的教授，在哈爾科夫時，朗道開始計劃寫一部理論物理學的巨著。這部主要由朗道來構思，由郎道和他的學生裏弗席茲合作完成的多卷本《理論物理學教程》從1938年開始陸續出版。這部幾乎包羅萬象的物理學名著，有近十種文字的譯本，並於1962年獲得列寧獎。在哈爾科夫，朗道還創立了著名的理論物理學須知，後來也被稱為“朗道位壘”，這個考試綱目除了數學內容之外，幾乎囊括了理論物理學所有的重要分支。在朗道逝世前，僅有43人衝過了這個“位壘”，其中許多人後來成為博士、教授和蘇聯科學院的院士。在朗道周圍，也開始形成了一個獨具特色的“朗道學派”。成為“朗道的學生”，則是蘇聯青年物理學家們既向往而又很有些望而生畏的目標。
在哈爾科夫期間，朗道的科學研究工作繼續深入。他發展了普遍的二級相變理論，不但說明了許多當時認為很奇特的現象，而且為此後各種新型相變的研究開辟了道路。他就鐵磁磁疇結構、鐵磁共振理論和反鐵磁態理論發表了一係列的重要文章。此外，他還對原子碰撞理論、原子核物理學、天體物理學、量子電動力學、氣體分子運動論、化學反應理論和有關庫侖相互作用下的運動方程等方麵作了研究。
1937年，又是在一次與理工學院的院長發生口角後，朗道斷然離開了哈爾科夫，隨後到了卡皮查所領導的莫斯科物理問題研究所工作。他在哈爾科夫的一些最有才能的學生同事，也隨他而去。1938年冬，在當時的“清洗”中，朗道突然以“德國間諜”的罪名被捕，並被判處十年徒刑，送到莫斯科最嚴厲的監獄。由於卡皮查等人的竭力營救，一年後，已經奄奄一息的朗道終於獲釋。
朗道從1937年開始的對於低溫物理學中液氦超流動性問題的研究，使他在1962年獲得諾貝爾物理學獎。朗道提出了與理論不同的二流體模型，尤其是對液氦這種量子液體能譜的分析，顯示了他深刻的物理洞察力。他提出了“旋子”的概念，根據這一理論，可以很好的解釋液氦Ⅱ的超流動性，並進而預言了超流氦中“第二聲”（一種溫度波）的存在。這一預見於1944年得到了實驗驗證。
朗道在物質凝聚態的研究方麵進行過許多繼往開來的基本工作，甚至有人說，從固體物理學到凝聚態物理學的過渡，可以認為是從朗道的工作開始的。他本人對超流性的工作特別滿意，當有人間他“您一生中最得意的工作是什麼”時，他回答：“當然是超流性理論，因為至今還沒有人能夠真正懂得它。”
在莫斯科，朗道還研究了電子簇射的級聯理論和超導體的混合態等問題。這時基本粒子物理學和核相互作用理論開始在他的工作中占了更大的比重。他發展了關於燃燒和爆炸的理論（1944—1945），探索了質子——質子散射和高速粒子在媒質中的電離損失等問題。1946年，他提出了等離子體的振動理論。
在1947—1953年間，朗道考慮了電動力學中的各種問題，研究了氦Ⅱ的粘滯性理論，發展了關於超導性的新的維象理論和粒子在高速碰撞中的多重起源理論。前者在低溫物理學中起了推動作用，後者對宇宙射線物理學相當重要。