葫蘆島地處中國遼寧省西部的錦州灣，東西南三麵臨海，北端與陸地相接，猶如葫蘆漂浮在海麵上，故而名之。1908年，清政府曾想在這裏建港，後因發生辛亥革命而中斷。1930年，張學良與荷蘭治港公司簽訂合同，正式開始建港工程，但第二年因九一八事變而中止。日本占領東北後，欲將北票、阜新的煤炭經海路運往日本，遂計劃從1936年開始，用五年時間建成該港及其附屬設施。然而，在建完第一和第二碼頭後，第三碼頭剛修建一半時，戰爭就結束了。就是這樣一個當時尚處於草創階段的粗陋港口，卻成為戰後百萬日僑遣返的出發地。
1945年8月15日日本宣布戰敗投降，世界反法西斯戰爭取得最後勝利。戰後的日僑俘遣返，是中美蘇等盟國必須解決的一個重要戰爭遺留問題。當時，滯留在海外的日本人約有660萬人，其中軍人300多萬人，非軍人330餘萬人。僅中國戰區就有日僑200餘萬人、日俘194萬人（包括被押往蘇聯的47萬餘人）。1945年10月25日，中美雙方根據《波茨坦公告》精神，在上海召開會議，就遣返日僑俘問題進行磋商，原則上確定將滯留在各戰區的所有日僑俘一律有組織地遣返回日本。關於中國戰區的日僑俘遣返問題，會議規定：按照先關內後關外、分期分批、中國政府負責陸路向港口集中與輸送，美軍組織船隻負責海上輸送的辦法施行，務期於1946年底完成。
東北地區日僑遣返是中國戰區日僑俘遣返計劃的一個重要組成部分。在上海、天津、青島、連雲港等地日僑俘遣返基本結束後，東北日僑遣返被提到議事日程上來。東北日僑具有以下特點：一是僑居時間早。日本軍國主義為推行其大陸政策，變東北為其殖民地，早在1905年日俄戰爭結束後，即開始有計劃地向關東州（今旅大地區）殖民地和滿鐵（長春至旅順間的鐵路）附屬地移民，到1930年，共移民215643人。二是僑民數量多。1931年九一八事變，日本武裝占領東北，其移民規模不斷擴大，截止1944年9月，日本在東北的僑民人數達1662234人。三是分布範圍廣。到大遣返前，東北全境共有日僑145萬人，日僑分布於國民黨控製區的有84萬餘人，共產黨控製區的有33萬餘人，蘇軍控製的大連地區有27萬餘人。故此，東北日僑之遣返，較之關內，更具有地域上的廣泛性、時間上的緊迫性、任務上的繁重性和組織上的複雜性。
為保證日僑得以順利遣返，在美方觀察小組的協調下，先後成立了以李修業將軍為處長的國民黨東北行轅日僑俘管理處、以李敏然（李立三）將軍為處長的東北民主聯軍遣送日人管理處，三方共同商定遣僑相關問題。確定：以葫蘆島為輸送港口，自1946年5月初開始，先輸送國民黨控製區的日僑，由國民黨東北行轅負責組織實施；對於共產黨控製區的日僑，則由東北民主聯軍負責集中，從當年8月份開始，在陶賴昭、拉法兩地移交國民黨當局，再向葫蘆島港口輸送；在安東（今丹東）的日僑由民主聯軍組織，經朝鮮陸路和鴨綠江海運輸送。在大連地區的日僑由蘇軍負責經大連港徑直輸送。
1946年5月7日，第一批日僑2489人，分乘兩艘輪船從葫蘆島港駛往日本，標誌著葫蘆島日僑大遣返的開始。此後，在東北各地居住和羈留的日本僑民，按照計劃陸續集中到葫蘆島港，並從這裏登船啟航回國。據統計，自1946年5月7日至12月31日，葫蘆島遣返日僑158批，計1017549人；1947年6月25日至10月25日，葫蘆島遣返日僑12批，計29627人；1948年6月4日至9月20日，遣返日僑計3871人。三年中，葫蘆島遣返日僑共1051047人。
葫蘆島日僑大遣返，是中美、國共協調合作處理戰後問題的結果。中國政府提供了極大的人力、物力和財力，進行遣僑的組織與實施，僅調用火車車皮就達13441輛；美軍葫蘆島海軍基地司令部在極短時間內，集中日本海輪、第六艦隊運輸艦，共120餘艘，駛抵葫蘆島接運日僑，每船運送二千人左右，共出動八百餘航次。葫蘆島日僑大遣返，充分體現了中華民族的博大胸懷和中國人民的人道主義精神，特別是葫蘆島這塊曾被日本侵略者鐵蹄踐踏過的土地，在自己還是遍體鱗傷的狀況下，無私地張開雙臂，接納了百萬敵國僑民，並讓他們從這裏踏上歸國之路。所以，許多日本僑民視葫蘆島為再生之地。