齊集天安門的學生們，多數穿著長衫，也有的穿著黑製服，他們手裏拿著各種顏色的小旗，上麵寫著：“取消二十一條”，“還我青島”，“誓死力爭”，“保我主權”，“勿作五分鍾愛國心”，“爭回青島方罷休”，“寧為玉碎，不為瓦全”，“頭可斷，青島不可失”，“中國宣告死刑了”，“誅賣國賊曹汝霖、章宗祥、陸宗輿”，“國民應當判決國賊的命運”，“誓死不承認軍事協定”，等等。有的標語是用英文或法文寫的，也有的旗子上畫著漫畫。最引人注目的是金水橋南豎起的一麵大白旗，上麵書寫著的一副對聯：
賣國求榮，早知曹瞞遺種碑無字
傾心媚外，不期章忄享餘孽死有頭
3日晚上北大學生血書“還我青島”的那塊衣襟，也懸掛在這裏，很是激動人心。
學生們集合天安門的目的主要是遊行示威，向“總統府”及英、美等帝國主義使館抗議，表示國民外交的聲勢，除極少數的學生外，大多數學生是沒料到會演出火燒趙家樓曹汝霖住宅和毆傷章宗祥等事件的。
學生們在天安門彙合以後，大概有一個短暫的集會。許多當事人都回憶說：“到達天安門前，在那裏停了好久，有人演說，喊口號”；“在廣場上開了一次群眾大會，很多人發表了演說，決議舉行示威遊行”；“我們在天安門停了好久，向群眾說明遊行示威的意義，群眾因之也就參加的多了，遊行示威的人數因之也就增加了”；“大會決議先向各國公使館遊行示威，再向總統府請願，要求懲辦賣國賊曹汝霖、章宗祥、陸宗輿，拒絕對巴黎和約簽字”；“在開會時我站在一層層的人群中間，又沒有擴音器，聽不完全那位似是立在方桌上演說者的話音，但大意是了解的，與各校所寫的標語上的要義一樣。到會的對於大會的開法沒有爭執，主要是要有什麼樣的行動，要對賣國的軍閥、官僚怎樣表示，怎樣示威，及至先往日本使館去的提議宣布以後，大家高叫讚同……”
短暫的集會後，學生們即準備向使館區進發。
北大國民社和新潮社的同學還為這次遊行準備了兩個宣言，一個是文言的，一個是白話的。前者係許德珩起草，後者係羅家倫起草。
前一個宣言的全文是：
嗚呼國民！我最親最愛最敬佩最有血性之同胞！我等含冤受辱，忍痛被垢於日本人之密約危條，以及朝夕企禱之山東問題。青島歸還問題，今日已由五國共管，降而為中日直接交涉之提議矣。噩耗傳來，天黯無色。夫和議正開，我等之所希冀所慶祝者，豈不曰世界中有正義、有人道、有公理，歸還青島，取消中日密約，軍事協定，以及其他不平等之條約，公理也，即正義也。背公理而逞強權，將我之土地由五國共管，儕我於戰敗國如德奧之列，非公理，非正義也。今又顯然背棄山東問題，由我與日本直接交涉。夫日本，虎狼也，既能以一紙空文，竊掠我二十一條之美利，則我與之交涉，簡言之，是斷送耳，是亡青島耳，是亡山東耳。夫山東北扼燕晉，南拱鄂寧，當京漢、津浦兩路之衝，實南北之咽喉關鍵。山東亡，是中國亡矣！我國同胞處其大地，有此山河，豈能目睹此強暴之欺淩我，壓迫我，奴隸我，牛馬我，而不作萬死一生之呼救乎？法之於亞魯撤、勞連兩州也，曰：‘不得之，毋寧死。’意之於亞得利亞海峽之小地也，曰：‘不得之，毋寧死。’朝鮮之謀獨立也，曰：‘不得之，毋寧死。’夫至於國家存亡，土地割裂、問題吃緊之時，而其民猶不能下一大決心，作最後之憤救者，則是二十世紀之賤種，無可語於人類者矣。我同胞有不忍於奴隸牛馬之痛苦，極欲奔救之者乎？則開國民大會，露天演說，通電堅持，為今日之要著。至有甘心賣國，肆意通奸者，則最後之對付，手槍炸彈是賴矣。危機一發，幸共圖之！
後一個宣言的全文是：
北京學界全體宣言
現在日本在萬國和會要求並吞青島、管理山東一切權利，就要成功了！他們的外交大勝利了！我們的外交大失敗了！山東大勢一去，就是破壞中國的領土！中國的領土破壞，中國就亡了！所以我們學界今天排隊到各公使館去要求各國出來維持公理，務望全國工商各界，一律起來設法開國民大會，外爭主權，內除國賊，中國存亡，就在此一舉了！今與全國同胞立兩個信條道：
中國的土地可以征服而不可以斷送！
中國的人民可以殺戮而不可以低頭！
國亡了！同胞起來呀！
當時彙集在天安門前的，除各校學生外，還有許多陸續而來的旁觀者。他們多是前門外和東西長安街一帶的市民，聞訊而來，看看學生們有什麼舉動。當他們聽到同學們的講演和看到當場散發的傳單（宣言）後，均對學生表示同情，有的人就直接參加到遊行隊伍中來了。
學生隊伍將要開始遊行的時候，曾經在沙灘阻撓北大學生出發的那位教育部代表（次長）又跟蹤而來了，並詢問學生集會遊行的意圖，學生們當即把傳單送給他，並指著向他說：“區區苦衷，盡在於此，一覽便知，無待贅述。”這位代表態度非常蠻橫，他在看完傳單後向學生們說：“事先未通知公使館，恐不能在使館內通行。我承教育部命令來此，請大家從速解散，有事可推出代表辦理。”同學們萬眾一心，拒絕了這無理的幹涉，並高呼說：“我們今天的行動，教育部管不了！”（按5月4日這一天，正好是星期天）麵對著憤怒的群眾，這位代表毫無辦法，隻好灰溜溜地走開了。
北洋政府又派來步軍統領李長太和警察總監吳炳湘，先後到場幹涉。李長太惡狠狠地恫嚇，叫嚷：“我是承大總統的命令來的，學生隊伍必須解散。”學生們沒理他那一套，齊聲高呼：“打倒賣國賊！”吳炳湘見勢不妙，則軟硬兼施，假惺惺地說：“今天天氣很熱，請諸位趕快回去休息吧！”
北京的5月，中午剛過不久，天氣確實很熱。但是，群眾的愛國、救國心腸，卻更熱。因此，吳炳湘等的勸說，並未發生任何作用，反而被學生們申斥了幾句。
國內的這些反動派，主要是怕外國人，怕引起國際糾紛。
但是，愛國的學生們是無所畏懼的。他們在衝破反動派的阻撓後，便直奔東交民巷而去。
東交民巷受阻
東交民巷就在天安門廣場的東南角上不遠的地方。這是一條很寬敞的巷子，道旁矗立著各種各樣的外國房屋：英式的、美式的、法式的、德式的、日式的、俄式的……尖頂的、圓頂的……紅色的、綠色的……洋洋大觀，好似一個小型的世界建築博覽會。
東交民巷原名東江米巷，附近一帶是當時北京城內的行政區，在那裏有許多中國的行政機構、廟宇、會館及市民住宅。第二次鴉片戰爭後，各國駐北京的使節相繼來華，就在此附近設立公使館。1900年（庚子）義和團運動被鎮壓後，清朝政府和各帝國主義國家於1901年簽訂了喪權辱國的《辛醜和約》（即所謂《議和大綱》），才規定了這一片地方為中國人不得隨意通行的使館區。當時《和約》規定：“各國應分自主，當駐兵隊護衛使館，並各將使館所在境界自行防守，中國人民概不準在界內居住。”