日本特工像鼴鼠一樣善於潛伏，神出鬼沒。日本特工組織可以追溯到1881年，失業武士（浪人）頭山滿、平岡浩太郎和吉田六輔等人，在日本當局的支持下，在九州福岡成立了“玄洋社”，它以“玄海（指福岡西北方的海洋）怒濤、勢可搗天”自誇，標榜所謂“天皇主義、國權主義、民權主義”三原則，與日本軍部、官僚相互勾結，對內迫害進步力量，對外配合軍隊侵略攻勢，大搞恐怖活動，並遏製沙俄東進。隨後在日本又出現了黑龍會、浪人會等較小的情報間諜團體。
日本發動全麵侵華戰爭後，在中國建立了偽滿洲國保衛局，華北、華中、華南派遣軍參謀部情報科，憲兵隊，警察署的特高科等為數眾多的間諜情報機構。另外還有一些“公館”或“機關”名義出現的諜報機構，如鬆、竹、梅、蘭機關，六條公館，魯仁公館，以及由日本諜報機關直接控製的汪精衛偽政府的特工總部、華北政務委員會情報局、新民會中央總部調查部等。這些間諜情報機構在中國招募了大量漢奸走狗，猖狂地進行間諜情報活動，為日本侵略者的侵略戰爭服務。
第二次世界大戰日本戰敗後間諜機構和特工組織解散。可是冷戰時期，一度銷聲匿跡的日本情報機關和間諜組織，在美國的扶持下，又死灰複燃，而且其規模大大超過戰前。日本政府、外務省、軍事部門、公安廳和警察廳均設有情報機構，民間也有規模可觀的商社情報網。
1952年成立了內閣總理大臣官方調查室。美國中央情報局原想把它作為統轄日本所有治安係統和情報係統的“日本中央情報局”，但由於遭到日本警察、外務、法務等各界的反對，未能如願，結果成了內閣的承辦機構，直屬內閣官房長官領導。經過1953年、1954年和1968年的幾次改組和擴充，於1968年正式定名為內閣情報調查室。主要任務是搜集、綜合國內外的政治、經濟、文化和治安情報，並加以分析、整理，每周通過內閣官房長官向首相彙報，如有重大的情報，調查室長官可以隨時直接向首相彙報。日本防衛廳的情報係統、警察的情報係統以及外務省的情報係統，都要將獲得的情報彙總到內閣調查室，它將各種情報加以綜合分析，供日本內閣作為決策依據。
二戰期間，日本人培訓了大量的間諜，川島芳子就是其中令日本人得意的一個佼佼者。
內閣情報調查室常常依靠新聞機構、綜合商社等民間機構搜集情報，稱為“委托調查”。日本從事情報搜集和研究的機構有100多個，實力很雄厚。其中一半以上的民間機構接受日本內閣情報調查室的“委托調查”。由“委托調查”獲得的情報及時、準確，特別是經濟情報，都有很高的價值。“委托調查”也成為內閣情報調查室搜集情報和進行研究分析的一種專長。
公安調查廳是1952年7月在法務省特別審查局的原班底上擴建的。表麵上是根據《防止破壞法》，以“調查應受到限製的某些群體”的名義成立的，實質上卻是一個地地道道的情報間諜機關。
自衛隊資料隊成立於1952年，是一個軍事情報組織。任務起初是對部隊所在地及司令部進行警衛、調查，後來工作範圍逐漸擴大。資料隊以搜集國外公開發行的報紙、雜誌、圖書為主，有組織地翻譯這些材料，並透過字裏行間發現有價值的情報，逐條編輯，彙集成《情報資料日報》和《技術資料日報》，報送陸海空自衛隊。
陸上自衛隊參謀部第二部“別室”是日本陸、海、空三軍聯合技術偵察機構，成立於1958年，總部設在東京市穀，主要任務是負責截收電訊，破譯密碼等電子情報，特別是偵聽以中國、蘇聯（俄）、朝鮮為重點的各國無線電通訊，截獲破譯其密碼。所獲得的情報通過內閣情報調查室上報國防會議和內閣總理大臣。
1992年成立了情報委員會，下設“情報企劃小組委員會”。加強軍事情報的搜集能力和分析能力及適應冷戰後多變的國際形勢，實現由防衛廳防衛局、陸海空參謀本部、參謀長聯席會議獲得的情報一元化。1995年8月，日本防衛廳又作出決定，將情報委員會改建為參謀長聯席會議的“情報本部”，以便使陸海空三軍自衛隊等各自進行的軍事形式和戰略情報調查分析業務一元化。1996年5月，經日本國會批準，情報本部正式成立。
妓女特工刺探情報
19世紀末期，明治維新後的日本國力迅速上升，對亞洲大陸的野心也日益膨脹。為實現其侵略計劃，日本人培訓了大量間諜。這些日本間諜，尤其是女間諜紛紛潛入中俄朝等國刺探情報，成為日本侵略軍的幫凶。鮮為人知的是，這些女間諜中有相當部分出自劄幌妓女間諜學校。
甲午戰爭後，日本與沙俄為侵略我國東北地區展開了激烈的競爭。為加強對俄情報工作，在日軍高層的支持下，日本黑社會組織玄洋社於1896年在劄幌開辦了一所語言學校，名為“俄語學會”。根據日本情報機構的規定，該校學員中“將校軍官”和“民間誌士”各占一半，所有學生均經過嚴格挑選。該校主要講授俄語和俄國的風俗人情，並進行各種間諜技能培訓，學員畢業前還要潛入西伯利亞進行實習。此後，該校又增設了漢語課程，校名也改為“俄華語學校”，重點培訓女間諜，訓練她們運用美人計獲取情報的本領。由於這些女間諜很多都以妓女身份作為掩護，人們便把她們統稱為“阿菊”，這所學校也獲得了“妓女間諜學校”的綽號。