五四運動在北京爆發的次日，上海各校得到消息後，立即有30多所學校相互聯合致電北京政府和各報館，表示"為保全全國青年之神聖計，義不獨生，誓必前仆後繼，以昭正義"。5月7日，上海各校學生與各界人士共2萬多人，齊集西門外的公共體育場，召開國民大會，聲援北京學生，抗議北洋軍閥政府的賣國罪行。會後，手持標語旗的學生和市民舉行了聲勢浩大的示威遊行。5月9日，上海各界為紀念國恥日，學生停課、工商業停業、戲館停演一天。從這天起，上海各界開始抵製日貨。上海學生聯合會於5月11日成立後，采取各種有力措施，發動群眾抵製日貨，各商業公會也先後開會討論抵製日貨的辦法，店員和工人起來監督業主停止買賣日貨，印刷工人和縫紉工人拒絕用日本紙張和衣料，碼頭工人拒絕為日船卸貨。抵製日貨運動迅速展開。5月19日，北京學生為反對北京政府破壞學生運動，再次全體罷課後，上海學聯於5月26日召集52所學校2萬多名學生，在公共體育場召開宣誓罷課大會。會後舉行了聲勢浩大的遊行。此時，北京分批南下的學生也陸續抵滬，和上海學生彙合，大大推動了上海的愛國運動。6月4日下午，上海學生接到天津急電，得知北京發生"六三"大捕學生的事件，立即發出急電，走上街頭演講，呼籲各界急起援助，並挨戶動員商界簽名罷市。上海作為中國第一大城市和產業工人最為集中的城市，從6月5日開始，上海工人階級率先開始舉行大規模罷工。工人階級在鬥爭中第一次以獨立的政治力量登上曆史舞台，成為運動的主力。首先罷工的是日資內外棉第三、第四、第五紗廠和日華紗廠、上海紗廠的工人。同日，上海商務印書館和中華書局的印刷工人也舉行了罷工。6日至8日，罷工繼續擴大，電車、機器廠、鐵廠、絲廠、鐵路總機廠、英資和日資工廠及手工業工人先後罷工。6月9日，英商耶鬆公司老船塢、瑞鎔機器造船廠、江南船塢、各輪船公司、日商紗廠碼頭、叉袋角日本紗廠、上海電器公司、英美煙草公司及附屬印刷廠、浦東美孚和亞細亞兩火油棧的工人，以及全市司機、清潔工人舉行罷工。6月10日，滬寧、滬杭鐵路工人及各馬車行工人相繼罷工。上海市內市外、海上陸上交通斷絕，罷工達到最高潮。一周內，上海有50多個工廠企業、六七萬名工人參加罷工。工人突破了行會、幫口的組織和觀念，為著統一的鬥爭目標而進行同盟罷工，顯示了鮮明的政治目的。工人們表示，罷工是"為國家之土地，再為學生被拘速救釋放"，"對於賣國賊表示我們的憤怒"，目的是要喚醒國民，"格政府之心，救滅亡之禍"。上海工人還多次高舉"罷工救國"旗幟，開展各種愛國活動，發文告，散傳單，舉行大規模集會遊行。在學生們的積極推動、聯絡和工人階級的率先響應影響下，上海市各業大小商店、影院、飯店、銀行等都停止營業，舉行罷市。許多商店門前貼著"國家將亡，無心營業"、"挽救學生"、"罷市救國"、"不除國賊不開門"等標語，以表示堅決罷市的決心。
上海罷課、罷工、罷市的"三罷"鬥爭，尤其是工人階級的政治大罷工，使五四愛國運動從6月3日以後進入了一個新的階段，形成一個以工人階級為主力，包括城市小資產階級和民族資產階級在內的廣泛的群眾愛國運動，運動的中心也由北京轉到上海。上海"三罷"鬥爭實現後，很快波及全國。京奉、京漢鐵路以及九江等地工人也舉行了罷工和示威遊行。南京、濟南、長沙、漢口、杭州、蕪湖、無錫、天津等地工人，進行了各種形式的鬥爭。南京、寧波、廈門、鎮江、蕪湖、無錫、蘇州、杭州、天津、濟南、唐山、安慶、九江等許多城市的商人相繼罷市。據統計，全國有22個省、150多個城市舉行了罷工、罷課、罷市鬥爭，給帝國主義和封建軍閥的統治以巨大威脅。6月8日，淞滬護軍使盧永祥和滬海道尹沈寶昌急電北京政府，驚呼上海"三罷"鬥爭，猶如"星星之火，可以燎原，失此不圖，將成大亂"。6月10日，天津總商會向北京政府再次發出告急電報。在全國人民的強大壓力下，北京政府被迫於6月10日免去曹汝霖、陸宗輿、章宗祥三個賣國賊的職務。同日，國務總理錢能訓辭職。上海各界得知三個賣國賊被罷免後，於6月12日宣告開市，並舉行遊行示威，慶祝"三罷"鬥爭的勝利。之後，上海和全國人民的鬥爭鋒芒便集中到拒絕和約簽字上來，直至中國代表拒絕在巴黎和約上簽字，鬥爭取得了重大勝利。