12月21日，日軍第6師團從南京開走；23日，第9師團開走；第114師團、山田支隊、第3師團第68聯隊等也陸續離開南京。這時候，隻留下第16師團作為警備部隊駐紮南京，師團長中島今朝吾則被任命為警備司令官，司令部設在國民政府所在地，中島則住進了蔣介石的官邸。
中島將南京分為兩部分，與手下的佐佐木到一旅團長分而轄之。佐佐木手下的野田聯隊和助川聯隊駐紮城內，草場辰巳手下的片桐聯隊和大野聯隊駐紮城外。
從12月22日起，殘酷的“清街”和“良民登記”行動開始了。由於其他部隊已撤離南京，這期間在古都的大街小巷呼嘯而過的盡為中島第16師團的士兵。中島下令威脅殘存的南京市民，必須於三日內往指定地點領取“良民證”，逾期不至，將被處死。
在各個登記點，進行著“良民登記”，先由日軍軍官講話，隨後漢奸翻譯，誘惑人群中的士兵、憲兵、警察和公職人員自動站出來，並對人群中的青壯年男子的手掌、頭部、肩膀等處進行仔細檢查，以確定有沒有當過兵。就這樣，又有2000多人被揪出來屠殺。
但在最恐怖的歲月裏，中國人的反抗依舊存在：
12月中旬，一名潛藏在南京的中國軍人，攜槍摸進第16師團的一個士官宿舍，一舉擊斃十多名睡在裏麵的日軍小隊長一級的少尉和中尉軍官！日本海軍航空兵飛行員奧宮正武的回憶裏談到了這個事件。12月25日聖誕節那天他在南京逗留，在下關江邊發現日軍在處死十幾名中國人。他問原由，一名士兵說：“前幾天的夜裏，有一個勇敢的中國人侵入我們陸軍小隊長級的青年士官的寢室，那裏麵睡著十個還是十一個士官我也不太清楚，中國人把他們全都殺了，所以他們的戰友和部下們為了複仇而要處死那個宿舍附近的居民。”
直到現在，也沒有人知道那個中國軍人後來的故事，是與日軍同歸於盡了，還是成功地脫險？無論如何，他都成為南京城內抗擊日軍的一個鐵血傳奇。
即使是遭遇屠殺的中國軍民，在最後的時刻也會爆發出怒火。在烏龍山下的一次屠殺中，有上萬人遇難。進行屠殺的是日軍的兩個機關槍小隊，就在日軍下手後，憤怒的軍民迎著噴射的火舌衝向幾十米外的日軍，雖然一片片地倒下，但最後無盡的人群還是把這兩個機關槍小隊的日軍徹底淹沒了。這時候，站在高處準備焚屍滅跡的日軍汽車隊的士兵也不知所措，最後把油桶一個個推下斜坡，射燃後再次殺戮中國軍民。這個回憶來自於山田支隊士兵藤原審爾的描述，他所說的極有可能是大灣子的那次屠殺。
就算是在最殘暴的日子裏，仍有人性的光輝。
1937年11月12日上海陷落，日軍分兵三路向南京疾進，美辦金陵大學董事會董事長杭立武和該校美籍教師貝茨、史密斯、米爾斯等人溝通，提議設立安全區，作為一個非軍事化的中立機構，為難民提供庇護。為保護廣大市民和無家可歸的難民，南京市政府和衛戍軍司令部接受了這個建議。
南京安全區國際委員會成立後，主席由德國人拉貝（德國西門子公司駐京代表）擔當，安全區東以中山路為界，南以漢中路為界，西以西康路為界，北以山西路及以北地帶為界，相當於整個南京城麵積的1/8。安全區裏設有五台山小學、交通部大樓、最高法院、金陵大學、華僑招待所、司法院、金陵女子文理學院等25處難民所，及各國使館。
委員會由包括拉貝在內的15名外國人和1名中國人（杭立武後隨政府西遷）組成。南京陷落前，走了一批人，最後仍堅持留守南京的有：拉貝（德國人，西門子公司）、馬吉（美國人，美國聖公會）、貝茨（美國人，金陵大學）、史密斯（美國人，金陵大學）、米爾斯（美國人，美國北方長老會）、特裏默（美國人，鼓樓醫院）、李格斯（美國人，金陵大學）、費奇（美國人，美國基督教青年會）等人。
南京陷落當天，國際紅十字會南京委員會也宣告成立，馬吉為主席，委員有金陵神學院牧師麥卡倫、德國禮和洋行職員克勒格爾、鼓樓醫院外科醫生威爾遜、牧師福斯特、金陵女子文理學院教導處主任（代校長）魏特琳等人。
安全區需要得到交戰雙方的承認。中國方麵已經承認，並拆除了安全區內的防禦工事；但國際委員會卻始終沒有得到日本方麵的答複，而這是事情的關鍵。拉貝有些忐忑。不過，他還是很樂觀的，甚至想等日軍進城後再跟他們協商，他們認為這一切最終都不是什麼問題。
拉貝曾接納一隊正在撤退的中國士兵，在他的力勸下，那隊士兵放下武器進入了安全區。還有費奇，在他的堅持下，有4名不願放下武器的來自廣東的士兵交出了武器。當時，拉貝和費奇給他們的承諾是：保證其人身安全。但後來的情況讓二人悔恨萬分：沒過多久，最高法院難民所裏放下武器的中國士兵和平民大約1300人全部被日軍帶走屠殺。