日本境內多山，山地成脊狀分布於日本的中央，將日本的國土分割為太平洋一側和日本海一側。日本列島上可謂群山疊嶂，國土當中約有61%是海拔300米以上的山地，18%是海拔300米以下的丘陵，二者相加將近占國土的80%。海拔3000米以上的山脈有21座。其中，最高的是位於山梨、靜岡縣境內的富士山，它海拔3776米，山頂終年積雪，山勢巍峨挺拔，是日本人引為自豪的國家象征。
日本的河流大多發源於中部山地，向東西兩側流入太平洋和日本海，由於日本東西狹窄，加之山勢陡峭，河流多短而急促。在梅雨和台風季節，水量增大，容易形成洪水，為此，日本修築了大量的堤防和水庫，用於防洪。河水廣泛用於生活用水、農業和工業用水、水力發電。
日本全國共有大小湖泊600餘個，大部分分布在日本列島的關東、東北和北海道地區。
日本的湖泊具有小而深的特點，因為湖泊多為火山湖，有的就是在火山的噴火口積水而成。最深的田澤湖水深達423米。北海道的支笏湖和位於青森、秋田兩縣之間的十和田湖的深度也都超過了300米。
日本也有一些麵積較大並且經濟價值頗高的湖泊，如琵琶湖不僅是滋賀縣和大阪、京都兩府的主要水源地，而且是全國最大的水產基地，其淡水魚的產量占全國總產量的50%以上，淡水珍珠也在全國久負盛名。
日本的礦物資源，曆史上，日本曾一度是銅的出口國，鉛和鋅的蘊藏量也較豐富，還曾有過一些較大的、著名的煤礦。但是，由於人口眾多，人均擁有量就相對低很多，蘊藏旦量還是比較貧乏的。目前，在各種礦物資源當中，隻有石灰石資源尚可稱之豐富，而其他資源特別是石油、煤炭、鈾等能源資源則尤顯缺乏。這一點在其需要耗費大量礦物資源的工業高速發展以後顯得更加突出。
日本海岸線全長3.3889萬千米，其海岸線十分複雜。西部日本海一側多懸崖峭壁，港口稀少，東部太平洋一側多入海口，形成了許多天然良港。
在東部太平洋一側自南向北均被日本暖流（黑潮）環繞、東北部形成千島寒流（親潮），西部日本海一側是對馬暖流和裏曼寒流，在寒流和暖流交彙處，魚類資源豐富，成為天然漁場。近年來，導致海水升溫的厄爾尼諾現象對日本的影響很大，主要是梅雨持續時間延長，容易形成夏冷和冬暖，導致魚類產量下降。
日本自然災害頻發，如地震對於日本人而言，是司空見懼的一件事。
另外，火山噴發，山體滑坡、海嘯等自然災害出現得地頗為頻繁。日本共有火山270餘座，其中有80座左右是活火山。著名的富士山就是一座標準的圓錐形活火山，雖然最近300年沒有噴發，但至今山上仍每天冒著白色水蒸氣。20世紀90年代，長崎附近的雲仙、普賢嶽和伊豆大島曾大規模噴發，給當地人民的生活造成了不利影響。
頻繁的地震給日本人的生活帶來了不少的麻煩，但是在火山分布地區，景色優美，溫泉資源豐富，成為著名的觀光療養地。
日本的植物種類很豐富。據日本政府統計，日本的野生植物種類多達3.1800萬餘種，其中纖管束植物為7087種，藻類植物約5500種，蘚苔類植物約1800種，菌類植物1.65萬種。這些植物當中，具有較高經濟價值的植物有1500多種。從世界上來看，日本的植物種類雖然少於那些擁有熱帶雨林的國家，但比其他發達國家特別是歐洲國家多得多。這三點原因第一，日本的國土麵積雖不很大，卻跨度較大；國土第二，綿延起伏，海拔高度差別較大；第二，島嶼眾多，形成了富有多樣性的自然環境，從而孕育了生物的多樣性。
日本的鳥類動物大約有400種。
其中原生鳥類140餘種，寒帶鳥類約150種，熱帶鳥類50餘種，日本特有的鳥類有近50種。水鳥較多。
雉（野雞）因其美麗而被尊為日本的國鳥。丹頂鶴、信天翁、朱繯等鳥類已瀕臨滅絕，朱鹮曾僅剩一隻。