為防止再次發生炸彈襲擊事件，第二次大臣出洋考察決定分批出發，低調出行。端方和戴鴻慈帶領首批考察團於1905年12月7日先期出發，其乘火車到天津，隨後又由軍艦護送至上海，最後乘坐美國太平洋郵船公司的巨型郵輪“西伯利亞”號前往日本。十日後，載澤、李盛鐸和尚其亨率領的第二路考察團也從北京出發，同樣前往上海搭乘外國郵輪出洋。
沙鷗點點，白浪滔天。此時的端戴團成員在“西伯利亞”號憑欄遠眺，不禁心潮澎湃，感慨萬千。二十多年前，北洋水師的很多將領也曾前往英倫等國負笈求學，可如今都已成了哀傷往事，他們中的一些人甚至在甲午年中便已為國捐軀。令人心情複雜的是，這次考察團的第一站，正是甲午戰爭的勝利者和向西方學習的成功榜樣：日本。看來，洋務新政單純的學習西方技藝，是不能挽救中國的。撫今追昔，考察團成員的心裏，何嚐不是感慨萬千？
令考察團沒有想到的是，國外輿論對清廷派出考察團一事的反應十分熱烈。英國《泰晤士報》在當年9月3日和4日連續發表評論《論中國之前途》，對中國的新政改革和選派大臣出洋考察給予了很高的評價。五大臣正式起航後，《泰晤士報》又發表了一篇題為《中國人的中國》的文章，作者布蘭德滿懷熱情地評論道：“人民正奔走呼號要求改革，而改革是一定會到來的。……今天的北京，已經不是幾年前你所知道的北京了。中國能夠不激起任何騷動便廢除了建立那麼久的科舉製度，中國就能實現無論多麼激烈的變革。”
由於分工不同，端戴團途經日本橫濱後並沒有詳細考察，便直接去了美國。十天後，載澤團來到神戶，正式開始了對日本的考察。在日本方麵的安排下，考察團分別拜見了其總理大臣西園寺公望、外務大臣和陸軍大臣等人。在日期間，載澤團重點考察了日本的議院、郵政、教育和地方行政機構等。日本方對載澤團的來訪非常熱情，專門指派了著名的法學家惠積八束博士給考察團仔細講解了日本的君主立憲體係。
日本考察期間，正好是中國的傳統佳節春節。這年的大年初一，日本天皇特意派出禦用馬車迎接載澤考察團入宮覲見和參觀。覲見後，日本安排考察團對日本前首相伊藤博文進行了一次訪談。伊藤博文對此非常重視，他在會見前便派人向載澤團贈送了自己的兩部著作，《皇室典範譯解》和《憲法譯解》，以幫助載澤考察團更好地理解日本憲政。講解完後，伊藤博文又對載澤團提出的問題進行一一講解。載澤對此做了詳細的記載。
當時載澤問：“我們實行立憲，以何國最為適宜？”
伊藤博文說：“各國的憲政，無外乎兩種，一種為君主立憲國，一種為民主立憲國。貴國數千年為君主國，主權在君，和本國的曆史頗為類似，參用我國的製度頗為適宜。”
載澤又問：“立憲後，對君主製度有無阻礙？”
伊藤博文說：“對我國而言，並無阻礙。日本憲法規定，天皇神聖不可侵犯，天皇為國家之元首，總攬大權，並不旁落於臣民。”
載澤聽後似有不解，便又問：“那君主立憲和君主專製有何區別？”
伊藤博文答道：“最主要的區別，在於專製國的君主不經過法律，隨意下詔，而君主立憲國的法律必須經過議會討論通過後，由君主裁定公布。法律一經公布，任何人等均須遵循。這是關鍵問題所在。”
載澤聽後似有所悟。
隨後，載澤團的成員又結合中國和日本的實際情況，與伊藤博文進行了深入的探討。伊藤博文試圖向載澤團表達的大概意思主要有這麼兩點：一是實行憲政，君權仍舊是國之權威，並不旁落，而增設議院等機構不過是輔佐君主；二是憲政的核心在於法治，任何國民（包括天皇在內），都要受到已經公布的法律之約束，法律一旦頒發，天皇也必須遵守，而不是像以往的專製君主可以口含天憲，任意妄為。