公元429年，祖沖之出生在范陽（今河北淶水）。祖父祖昌是當朝的大匠卿，主管建筑工程，并且對天文歷法及數學有一定的研究。

祖父經常給祖沖之講一些科學家的故事，其中張衡發明地動儀的故事深深打動了祖沖之幼小的心靈。

祖沖之常隨祖父去建筑工地，晚上，在那里他常同農村小孩們一起乘涼、玩耍。

天上星星閃爍，在祖沖之看來，這些星星很雜亂地散布著，而農村孩子們卻能叫出星星的名稱，如牛郎、織女以及北斗星等，此時，祖沖之覺得自己實在知道得很少。

祖沖之不喜歡讀古書。5歲時，父親教他學《論語》，兩個月他也只能背誦十幾句。氣得父親又打又罵。可是他喜歡數學和天文。

一天晚上，祖沖之躺在床上想白天老師說的“圓周是直徑的3倍”這話似乎不對。

第二天早，他就拿了一段媽媽绱鞋子的繩子，跑到村頭的路旁，等待過往的車輛。

一會兒，來了一輛馬車，祖沖之叫住馬車，對駕車的老人說：“讓我用繩子量量您的車輪，行嗎？”老人點點頭。

祖沖之用繩子把車輪量了一下，又把繩子折成同樣大小的3段，再去量車輪的直徑。量來量去，他總覺得車輪的直徑沒有1/3的圓周長。

祖沖之站在路旁，一連量了好幾輛馬車車輪的直徑和周長，得出的結論是一樣的。

這究竟是為什么？這個問題一直在他的腦海里縈繞。他決心要解開這個謎。

經過多年的努力學習，祖沖之研究了劉徽的“割圓術”。所謂“割圓術”就是在圓內畫個正6邊形，其邊長正好等于半徑，再分12邊形，用勾股定理求出每邊的長，然后再分24、48邊形，一直分下去，所得多邊形各邊長之和就是圓的周長。

祖沖之非常佩服劉徽這個科學方法，但劉徽的圓周率只得到96邊，得出3.14的結果后就沒有再算下去，祖沖之決心按劉徽開創的路子繼續走下去，一步一步地計算出192邊形、384邊形……以求得更精確的結果。

當時，數字運算還沒利用紙、筆和數碼進行演算，而是通過縱橫相間地羅列小竹棍，然后按類似珠算的方法進行計算。

祖沖之在房間地板上畫了個直徑為1丈的大圓，又在里邊做了個正6邊形，然后擺開他自己做的許多小木棍開始計算起來。

此時，祖沖之的兒子已13歲了，他也幫著父親一起工作，兩人廢寢忘食地計算了十幾天才算到96邊，結果比劉徽的少0.000002丈。

兒子對父親說：“我們計算得很仔細，一定沒錯，可能是劉徽錯了。”

祖沖之卻搖搖頭說：“要推翻他一定要有科學根據。”

于是，父子倆又花了十幾天的時間重新計算了一遍，證明劉徽是對的。

祖沖之為避免再出誤差，以后每一步都至少重復計算兩遍，直到結果完全相同才罷休。

祖沖之從12288邊形，算到24567邊形，兩者相差僅0.0000001。祖沖之知道從理論上講，還可以繼續算下去，但實際上無法計算了，只好就此停止，從而得出圓周率必然大于3.1415926，而小于3.1415927。

很多朋友知道了祖沖之計算的成績，紛紛登門向他求教。之后，祖沖之又進一步得出圓周率的密率是355/113，約率是22/7。直到1000多年后，德國數學家鄂圖才得出相同的結果。