早在19世紀末，日本就開始覬覦中國東北。1894年日本悍然發動中日甲午戰爭，迫使清政府簽訂屈辱的《馬關條約》，將遼東半島割讓給日本。當時隻因俄德法三國“幹涉還遼”，才使日本把已到口的肥肉吐出來。隨後沙俄強租旅大，修中東路，勢力擴張到東北全境。日本為與沙俄重新分割中國東北，於1904年2月8日突然襲擊俄國在旅順口的艦隊，2月10日正式宣戰。隨後，這兩個帝國主義國家在中國的土地上進行了一年半之久的廝殺。1905年9月，俄國戰敗，被迫簽訂《樸次茅斯條約》，規定雙方以長春為界，以南為日本勢力範圍，以北為沙俄勢力範圍。
日俄戰爭後，日本帝國主義從沙俄手中攫取了中國東北旅大地區的租借權和從長春到旅順的鐵路及附屬地。為了加強殖民統治和進一步擴大侵略，日本統治集團內部開始提出“滿洲移民論”。日本陸軍大將兒玉源太郎竭力倡導向“滿洲移民”；第一任“滿鐵”總裁後藤新平於1908年6月向日本內閣總理大臣提出備忘錄，稱：“進入滿洲之我國移民，以今後十年為期，至少為五十萬人，若有可能則應達到一百萬人以上。…如隨年積月累，得以移入大量人口，滿洲則在事實上成為帝國領土。不僅在以後歸還之場合我之利益確定不動，而且或許出現最終不必歸還之情況。”
（一）早期移民
由於日本軍國主義積極推行移民侵略政策，很快在大連及滿鐵附屬地出現移民高潮，史稱“早期移民”。據《滿洲開發四十年史》載：1902年，大連地區僅有日本人300餘人，1906年在大連和滿鐵附屬地的日本僑民則上升到16000餘人。以後逐年增加，1910年為61934人；1915年為84572人；1920年為135470人；1925年為174162人；1930年為215463人。早期移居中國東北的日本僑民主要居住於關東州和滿鐵附屬地。他們之中，一部分是鐵路職工和從事行政事務，一部分是從事工商業和礦業，有一小部分從事農業和水產業，還有少量的自由職業者。從1930年關東州和滿鐵附屬地日僑就業情況統計可以看出：當時從事農業的有971人；水產業的有275人；礦業1841人；工業14888人；商業17946人；交通業16279人；自由職業17632人；其他3402人；家務勞動1545人；無職業803人；隨從人員139881人。
（二）試驗移民
1931年9月18日，日本關東軍炮擊沈陽北大營中國駐軍，悍然發動九一八事變。他們在占領中國東北全境後，又於1932年3月1日扶植了以溥儀為執政的偽滿洲國。這時，日本帝國主義的侵略野心急劇膨脹，陸軍省、拓務省和關東軍提出一係列武裝移民方策，很快掀起第二次向東北移民的高潮。史稱“試驗移民”，又稱“武裝移民”。
其時，日本國內以茨城縣國民高等學校校長加藤完治為首的“加藤集團”，大力宣傳向中國東北移民是大和民族的“民族膨脹運動”，是決定日本在東洋能否成為強大國家的關鍵，“是解決起因於‘土地饑餓’的日本農村問題的唯一出路。”1932年3月，日本拓務省召開“滿洲移民問題懇談會”，製定了《滿蒙移殖民計劃》。當時，日本關東軍也認為，要在中國東北實行殖民統治，進行移民“是不可或缺的事業”，並製定了《移民方策案》、《日本人移民案要綱》等文件。關東軍大尉東宮鐵男進一步提出“以日本在鄉軍人組建屯墾軍基幹部隊，永駐吉林省東北地區（今黑龍江省佳木斯地區）”的武裝移民的建議。1932年10月，第一批日本武裝移民團侵入中國東北。第二年春天，在樺川縣永豐鎮建立第一個移民村，後改稱“彌榮村”；不久又組織第二個武裝移民團，於1933年7月到達永豐鎮南十華裏的七虎力地方，後遷至湖南營子，建立“千振村”移民團。到1936年，日本殖民當局共組織五批武裝移民，組成九個移民團，3000人左右，分布於黑龍江省樺南、依蘭、綏棱等縣及林口至密山的軍用鐵路沿線一帶。
隨著日本帝國主義侵略東北的步伐加快，移居東北大中城市的日本工業、商業、交通、技術移民的人數也急劇上升。如滿鐵株式會社經營的鞍山鋼鐵廠和撫順煤礦、大倉財閥經營的本溪湖煤鐵公司，以及其他日本公司經營的電力、機械、水泥、油坊、製麻、紡織、印染、玻璃、火柴等工廠，也大批招募日本移民。據統計，1931-1935年，在東北的日本移民人數，已上升到494708人，比過去25年中日本向中國東北移民數總和還多。戰後沈陽日僑聯絡處副主任大田一郎說：1920年，在奉天的日僑不到5萬人，而九一八事變後，一年不到就增加到15萬人以上。其他地方如錦州、營口、鞍山等地的日人人數也同樣突增。