就在南朝劉宋朝廷一派風調雨順、民生祥和之際，北朝的北魏也空前強盛起來。北魏鮮卑族拓跋珪，乘淝水之戰後前秦瓦解，於公元398年在平城(今山西大同)建都，這就是曆史上的北魏。北魏在隨後的數年間連年攻戰，於公元439年滅北涼後最終統一了北方。由於北方先前的漢族經濟、文化底蘊深厚，北魏在此基礎之上大力地發展經濟，逐漸達到了國富民豐、兵強馬壯的強盛時期。雄心勃勃的北魏朝廷對江南地區的大片沃土早有覬覦之心，與此同時，作為南遷朝廷東晉的後繼者，劉宋皇帝也早已有心北伐。丟失的北國疆土、破碎的半壁江山、忍痛放棄的故土家園，這是南宋皇帝的一塊心病。元嘉二十六年，即公元449年，宋文帝祭祖途中，在長江邊上，登高望遠，憑欄北眺，望見浩浩蕩蕩的天塹對岸一片模糊的景象，不禁萬分感慨。
彭城太守王玄漠等人善揣測帝王的心意，他們知道文帝長籲短歎所為何事，於是爭相獻策，迎合取寵，大肆鼓吹北伐。此時的宋文帝經曆了二十餘年的“元嘉之治”，國家實力也確實有所增強。宋文帝有的是收複大好河山的雄心壯誌，再加上這些臣子的勸說與鼓動，他的北伐之意日益高漲。公元450年，北魏以“朝中有人叛變，得南宋朝廷援助”為由，派數萬大軍南侵。此時，南宋朝廷醞釀北伐也早有半年之久，雙方大戰一觸即發。宋文帝隨即組建北伐大軍，任命王玄漠為寧朔將軍，隨輔國將軍蕭斌一起率軍北攻。雖然南宋朝廷信心十足，但由於北魏軍隊器械精良，士眾強盛，鬥誌正旺，而宋軍則盲目輕敵，加上王玄漠指揮不力，多次錯過破敵良機。宋軍因此人心渙散，沒了鬥誌。結果，劉宋軍隊在滑台(河南滑縣東南)一戰兵敗受挫，損失慘重。
北魏大軍乘勝追擊，一直打過淮河，攻到了長江邊上的瓜步（今江蘇境內），還揚言要渡江進攻建康。宋廷內外，舉國震驚，建康城內的百姓紛紛舉家逃離。宋軍兵敗的消息傳來，祖家上下頓時也蒙上一層陰雲，爺爺的臉上更是常常愁雲密布。剛過弱冠之年的祖衝之此時已是一名英氣逼人的年輕公子，因為家人擔心祖籍老家親人的安危，祖衝之向爺爺和父母請命，決定回鄉打探消息。然而，這一趟回老家的結果，卻是得知幾位親人在戰亂中喪生的噩耗。返回的途中，目睹焦土遍野，目睹百姓流離失所，年輕的祖衝之心裏湧起萬般滋味，難以名說。
宋文帝聽說前線兵敗，急忙命令宮廷內外戒嚴，征發民丁補充隊伍，又於采石(今安徽馬鞍山西南）至暨陽(今江蘇江陰)布置船艦與防守部隊，嚴陣以待，建立了鞏固的防線，才遏製了北魏軍的攻勢。公元451年初，北魏軍隊見渡江南下無望，加上兵力損失過半，隻好撤軍北去。但在撤退時，他們對瓜步一帶進行了空前的燒殺擄掠，甚至連嬰兒也不放過。所到之處，房屋盡毀，村井空荒，一片焦土，不見人跡，不聞雞鳴犬吠。這次北伐失敗，也使南宋社會經濟遭到巨大破壞，國力大衰。
祖衝之的爺爺祖昌一生顛沛流離，年輕時正逢西晉末年亂世，好不容易經曆了二十來年安寧日子，以為就此天下太平、百姓安頓，誰曾想一場北伐，又將戰火重新點燃。老人家年事已高，當初宋文帝執意北伐，朝中大臣大多信心滿滿，爺爺雖未明確表態，但很顯然，他也希望能夠北伐成功，希望宋軍打回老家，好祭掃列祖列宗。但是，北伐失敗給了老人很大打擊，不久就離開了人世。最疼愛他的爺爺去世了，爺爺臨終前，他在爺爺跟前立下的“盡己所能、展己所長，為國為民、順應天時、奉獻全力”的誓言仍如雷貫耳。失去親人的悲痛化做了他發奮研讀的動力，麵對因戰爭而致農耕失時的大片土地，祖衝之下定決心，要盡自己所能，主攻天文曆算，讓滿目瘡痍的良田耕地盡快恢複原貌，盡可能地趕上時節得以耕種。他要幫助人們醫治戰爭的創傷，重建美好家園。
經曆了這次的戰亂，祖衝之變得成熟了起來，這個昔日活潑的少年似乎一夜間長成了穩重的大人。他把自己關在書房裏，整日整夜埋頭在那些有關天文曆法的書山書海間，如饑似渴地苦讀，常常到了該吃飯的時間他都不出來，一直得等到母親接連叫上好幾遍，他才出來吃飯。祖衝之的變化讓父母有了些許擔憂，後來在與他的談話中，父親得知他在研讀曆法書籍。“為什麼突然主攻曆法了？”父親很想知道兒子的想法。
祖衝之輕輕歎了一口氣，說：“自從上次回鄉探親，親眼目睹農人不顧家園被毀，拖著傷殘病體，拚命搶時播種，我才深深意識到不失農時耕種，對農人們有多麼重要。他們這是在從老天爺的手中搶糧食啊！”
“唔，”父親點點頭，“所以，你下定決心研讀曆法，編製新曆？但是，你知道，從古至今、曆朝曆代可都有曆法記載的，就是通覽一遍這些記載，就是一項頗為費力的事啊。而且，除了要查古閱今，你還得自己親自查測天象，這更是一件得持之以恒、馬虎不得的事。”
“天下無難事，隻要我做個有心人，縱有再難的事，也不怕。”祖衝之的語氣堅定決然。
“隻要你有這份心，有這個毅力，我這個當爹的，還有我們全家都會支持你。”父親的話給了祖衝之莫大的鼓舞，他更有信心做好編製新曆法的事了。然而，世事難料，就在此時，南宋王廷又出亂子了。
公元453年，南宋王室發生了一場宮廷政變。太子劉劭因為渴望早日即位，唯恐夜長夢多，君位生變，於是和自己府中幕僚商議，殺了自己的父親宋文帝劉義隆，奪得君位。然而，劉劭的王位沒等坐熱，他的弟弟劉駿就打著“伐逆”的旗號，率領軍隊殺到了京城。劉劭抵擋不住，被殺，皇帝的寶座又落到了劉駿手中，劉駿即是曆史上的宋孝武帝。接連的宮廷政變，又引發了層出不窮的戰亂，整個的社會經濟因此受到了很大破壞，一度繁華熱鬧的建康城也陷入了百業凋零的狀態。宋孝武帝即位後，為了拉攏人才，聽說祖衝之博學多才，就下了一道詔令，把他召到了當時最高的學術研究機構華林學省任職。據說，當時能到華林學省來的人都是些“有學問”“有才幹”的人，外麵的人稱他們為華林學士。雖然沒有什麼真正的官職，但是有著相當高的地位。
祖衝之初到華林學省，覺得皇帝重視人才，還算清明，所以很有一番宏圖大誌。為了報答皇帝的“知遇”之恩，他在短短幾年時間裏，根據皇帝的意思編寫完了《孝經注》《易經注》《老子義釋》等好幾部哲學著作。他因此得到了宋孝武帝的賞識，名氣也更大了。然而，在華林學省的幾年間，他雖然也結識了一些誌同道合的摯友，但同時也看到了更多士族子弟間的惡劣作風，這讓他甚為不恥。祖衝之暗暗下定決心，絕不與這些人同流合汙。為了自己要為國為民作出一番實事的理想，從此他堅定不移地投入到自己的天文和數學研究當中。
編製新曆法
華林學省不愧是當時的最高學府，那裏不僅藏書豐富，而且書籍門類眾多，涉及天文、算術、文學等很多領域。祖衝之在這裏苦讀了七八年的時間，所讀書目從天文到地理，從算術到文學、音樂等各個學科，隻要感興趣，他都會拿來讀一讀。他堅信，知識從來都沒有多餘的，而且這些知識從來都不是互不相幹、各自獨立的，學科之間自有著融會貫通的關係，並非隔行如隔山。
祖衝之在華林學省的才學聲名在外，宋孝武帝知道後，便將他和他的兩位同窗好友一起安排到了皇子劉子鸞的身邊。對祖衝之他們這些年輕人而言，這無疑是一種很高的褒獎。然而，他們自己並無多少當官把持朝政的野心，但無意中卻成為別人的眼中釘。當時宋孝武帝身邊有一位權臣叫戴法興，很得皇帝寵信。戴法興權傾朝野，恃寵而驕，大肆收受賄賂，聚斂私財，但是因為他得皇帝寵信，朝中眾臣無人敢對其有所怠慢。皇子劉子鸞是宋孝武帝最寵愛的妃子殷淑儀之子，宋孝武帝有心將王位傳給子鸞，所以就派了一些有才之人教導皇子，而戴法興則被安排到太子劉子業身邊。
據說，讓戴法興忌恨祖衝之的直接原因始於一次日食觀測。有一天，宋孝武帝正要出去狩獵，身邊的官員提醒說：“子鸞王府學士祖衝之預報說今日有日食，不宜出行。”宋孝武帝很不悅，戴法興在一旁添油加醋，說太史並未預告，不礙出行。結果，宋孝武帝還沒出宮，就聽見外麵鑼鼓喧天，喊將驅逐天狗的呼聲一浪高過一浪。皇帝這才相信了祖衝之的預告，而戴法興則因此對祖衝之生了怨隙。
公元461年，劉子鸞被加封為南徐州刺史。祖衝之作為王府幕僚，也隨之前往。就是在這段時間，祖衝之也沒有一刻閑著，仍然沉浸在天文曆法的知識海洋裏，不亦樂乎。由於祖衝之日積月累、堅持不懈地對天文星象的刻苦鑽研，公元462年前後，他終於有了一次意外收獲。據說，大天文學家何承天的舅父徐廣曾負責主編《晉紀》，然而著述尚未完成，因東晉滅亡，老人悲傷過度，溘然辭世。徐廣生前也是一位博學多才之士，精通天文曆法。祖衝之在一次偶然中得知，徐廣在《晉紀·律曆誌》中記載了北朝北涼一位學者所著的《元始曆》，並且說《元始曆》中提到一種新的曆法思想。這個線索對熱愛天文曆法，向來善於獨立思考，從不拘泥前人看法的祖衝之而言，無疑是一個重大的發現。他四處打聽，想要親自證實一下這個提法，這次終於在南徐州（今江蘇鎮江）得以見到徐廣《晉紀·律曆誌》手稿。