國際奧委會於１９２４年正式承認前中華全國體育協進會為中國奧林匹克委員會。在１９２４年到１９４９年期間，中國一共參加過３次奧運會。由於政府腐敗，國運日衰，舊中國的體育運動得不到支持和發展，３次參賽皆無建樹。
新中國成立後，祖國的體育事業有了極大的發展。原中華體育協進會改組為中華全國體育總會，並於１９５２年派出了體育代表團參加了第１５屆奧運會。
可是，由於某些國家的阻撓，國際奧委會對於中華全國體育總會在該會的合法地位問題一直不予解決。１９５８年中華全國體育總會正式宣布斷絕同國際奧委會的一切關係。
直到１９７９年，隨著我國政治地位和體育運動水平的提高，國際奧委會經全體委員的表決，通過了恢複中國代表權的決議。
１９８０年第２２屆奧運會在莫斯科舉辦。由於蘇聯入侵阿富汗事件，中國沒有參加該屆奧運會。１９８４年第２３屆奧運會上，中國代表團參加了２１個項目中的１６個項目比賽，一舉獲得１５枚金牌、８枚銀牌、９枚銅牌，打破了“零”的紀錄，獎牌總數列第四位。
中國以自己的實力震驚了世界，從而證實了中國可以也必將成為世界體育強國。