在2月8日至2月12日的5天內，越南武裝人員就侵入中國雲南、廣西邊境地區30多次，打死打傷中國人員34人。麵對越南當局日益加劇的侵略行動，為了保衛祖國南疆不受侵犯，保證四個現代化建設的順利進行，維護和發展亞太地區的和平與安定，中國必須給予武力打擊。為此，2月14日，中共中央頒發《關於對越進行自衛反擊，保衛邊疆戰鬥的通知》。2月16日，《人民日報》發表了《是可忍，孰不可忍》一文，宣布了中國政府的最後抉擇。同時，中國外交部又照會越南駐華大使館，最強烈抗議越南當局的行徑。
2月17日晨，中共中央軍委發布反擊命令。2月初調任昆明軍區司令員楊得誌任對越前線指揮官，指揮中國人民解放軍廣西、雲南邊防部隊，進行自衛反擊。
反擊一開始，中國人民解放軍勢如破竹。但到18日午後，中國軍隊在老街、高平、同登等地的進攻曾因越軍抵抗而一度停止。19日至20日，中國軍隊增加了兵力及裝備，遂於20日攻占老街，24日攻戰同登，27日占領高平。雙方在諒山的戰鬥最為激烈，中國軍隊在陸續投入8個師後，於3月4日占領諒山。諒山是越南的首都河內東北部的邊防重鎮，距河內隻有130公裏，諒山失守，使越南當局驚慌失措，越南外交部於3月5日召集各國駐河內使團，告知“準備應付緊急事態”。
在進攻諒山的戰鬥正在進行期間，我外交部於3月1日照會越駐華大使館，中國政府再次建議越南政府就結束兩國邊境衝突盡快舉行副外長級談判。從2月17日以來的16天內，中國廣西、雲南邊防部隊被迫對越南侵略者進行自衛還擊，攻下了諒山、高平、老街3個省會和同登、祿平、複和、七溪、廣淵、下琅、脫浪、和安、東溪、重慶、茶靈、通靈、通農、朔江、柑糖、孟康、壩酒、沙巴、封土等20多個越南城鎮和戰略要地，摧毀了越南在北部地區針對中國築的大量軍事設施，在這些地方給越南正規部隊和地方武裝以殲滅性打擊，已經達到預期目的。所以，中國軍隊從3月5日起開始從所占領地區撤出。3月5日，新華社奉中國政府之命發布聲明，指出：由於越南侵略者不斷對中國進行武裝挑釁和入侵，中國邊防部隊自2月17日起，被迫自衛還擊，現已達到預期目的。中國政府宣布，自1979年3月5日起，中國邊防部隊開始全部撤回中國境內。中國政府重申，中國不要越南的一寸土地，也絕不允許別人侵犯中國領土。並正告越當局，“在中國邊防部隊撤出之後，不得再對中國邊境地區進行任何武裝挑釁和入侵活動”。“如果出現上述情況，我方保留繼續自衛還擊的權利。”
3月16日，中國政府外交部長黃華在中外記者招待會上宣布，中國廣西、雲南邊防部隊對越南侵略者的自衛還擊戰鬥已達到了預期目的，3月16日已從越南全部撤離完畢，回到中國境內。同時，新華社報道了這次自衛還擊的戰績：經過28天的戰鬥，攻克越南20多個城鎮和戰略要地，共殲敵37300多名，俘虜越軍2200多名。3月25日，中央慰問團赴廣西、雲南省慰問自衛反擊勝利歸來的邊防部隊指戰員、民兵和支前民工。
3月30日，中共中央軍委決定頒發中國人民解放軍戰鬥英雄模範獎章和立功獎章。根據這個決定，中國人民解放軍總政治部通知有關單位，對參加中越邊境自衛反擊戰的有功人員分別授予英雄模範獎章和立功獎章。4月14日，以韓念龍副外長為團長的中國政府代表團前往河內，同越南方麵進行副外長級談判。
5月11日，新華社受權聲明，中國政府本著革命人道主義精神，隨時準備釋放和遣返全部被俘越南人員。同時，外交部副部長仲曦東在北京舉行記者招待會宣布，中國政府決定於5月19日首先單方麵釋放遣返一批被俘的越南武裝人員。5月12日，中越副外長級談判第四次會議討論了遣返被俘人員問題。5月28日，首都萬餘軍民在首都體育館隆重集會，熱烈歡迎中越邊境自衛還擊作戰英雄報告團。徐向前等人出席了大會。5月31日，華國鋒、鄧小平、汪東興等領導人在人民大會堂會見了中越邊境自衛還擊作戰英模報告團全體成員。