1920年，張幼儀出國與丈夫團聚，先到馬賽再到倫敦。到達馬賽港時，“我斜倚著船舷，不耐煩地等著上岸，然後看到徐誌摩站在東張西望的人群裏，就在這時候，我的心涼了一大截……他是那堆接船的人當中唯一露出不想到那兒來的表情的人。”據說張幼儀出國與徐誌摩相聚，是公公婆婆安排的，為的是讓徐誌摩知道要對家負起責任。
見麵後，徐誌摩第一件事便是帶她去買新衣服和皮鞋，因為他認為她從國內穿來的經過精挑細選的中式服裝太土了，會讓他在朋友麵前丟臉。
就這樣，心存無限希冀滿心歡喜的她，被他無聲的行為深深刺傷。隨後兩人拍了唯一的合影，給徐誌摩父母寄去。到英國沙士頓安頓下來後，他們的關係卻無任何改善。
此時，徐誌摩正瘋狂追求林徽因。這使他忘記了一切，包括張幼儀。在張幼儀的眼光裏，離婚就是被“休”，她堅決不同意，認為自己沒有犯“七出”的任何一條。兩人發生了爭吵，徐誌摩一走了之，不知去向。一籌莫展的張幼儀隻能哭著寫信向在巴黎的二哥張君勱求救。她撐著沉重的身子一個人從英國到巴黎。在巴黎待了一段時間後，她隨二哥、七弟到了德國。
1922年，張幼儀在柏林生下了次子彼得，當她從醫院回家後，一直杳無音信的徐誌摩露麵了，來找她簽離婚協議——其時林徽因已經回國，他急著回國追求她。
林徽因曾經評價徐誌摩優雅、善良，總是苦自己而不肯傷害別人。可是挪到張幼儀身上，怎麼看怎麼覺得，徐對張的態度與這些評價毫不相幹。
在英國沙士頓，舉目無親的張幼儀惴惴不安地告訴徐誌摩，自己懷孕了。而徐誌摩竟連眼皮都不抬，“趕緊打掉”，甚至對怎麼打，在哪打都沒有興趣過問。張幼儀一句“我聽說有人因為打胎死掉的”，換來的是徐誌摩比石頭還硬的一句：“還有人因為坐火車死掉的呢，難道你看到人家不坐火車了嗎？”他們在一個朋友家裏見麵，張幼儀說，“你要離婚，等稟告父母批準才辦。”徐誌摩卻用狠硬的態度說：“不行！我沒時間等！你一定要現在簽字！”張幼儀知道無可挽回，隻有含淚在離婚協議上簽字，這是中國曆史上依據《民法》的第一樁西式文明離婚案。沒有吵鬧，沒有糾纏。張幼儀是明智的。在徐誌摩對她沒有了愛情的時候，她選擇了平靜地離開。其時，他們的孩子彼得出生還不到一個月。
簽好離婚協議後，徐誌摩跟著她去醫院看小彼得，“把臉貼在窗玻璃上，看得神魂顛倒”，“他始終沒問我要怎麼養他，他要怎麼活下去”。
無論是徐誌摩還是張幼儀，在海外求學，一直都是靠徐誌摩父親的彙款。二人協議離婚後，徐家仍視張幼儀為自家人，徐父每月都給張幼儀寄200美金。戰後的德國，馬克貶值，一美元就能買很多食品，200美元能過上不錯的日子。
張幼儀雇了保姆，自己學習德文，並進入裴斯塔洛齊學院，專攻幼兒教育。1925年，彼得３歲時，死於腹膜炎。
彼得死後一周，徐誌摩抵達柏林，這是他們離婚後第一次見麵，當時，徐已經開始熱烈追求陸小曼。徐誌摩神采奕奕，而喪子後的幼儀瘦小憔悴，她贏得了徐誌摩的尊敬。他在寫給陸小曼的信中，說：“Ｃ（張幼儀）是個有誌氣有膽量的女子……她現在真是‘什麼都不怕’。”在德國期間，也曾有男子追求張幼儀，她回答：“我還不想結婚。”對此，張幼儀曾說道：“四哥寫信告訴我，為了留住張家的顏麵，我在未來五年裏，都不能教別人看見我和某個男人同進同出，要不別人會以為徐誌摩和我離婚是因為我不守婦道。”1926年，張幼儀回國。徐家二老將她收為幹女兒，徐申如將家產分成三份，兒子和陸小曼一份，孫子和張幼儀一份，老兩口一份。