開普勒的目光首先盯住火星。這是因為第穀的數據中對火星的觀測占有最大篇幅。恰好，就是這個行星的運行與哥白尼理論出入最大。開普勒按照傳統的偏心圓來探求火星的軌道。他做了大量嚐試，每次都要進行艱巨的計算。在大約進行了70次的試探之後，開普勒才算找到一個與事實相當符合的方案。使他感到驚愕的是，當超出他所用數據的範圍繼續試探時，他又發現與第穀的其他數據不符。火星還是不聽他的擺布……。
開普勒詼諧地寫道：“我預備征服戰神馬爾斯，把它俘虜到我的星表中來，我已為它準備了枷鎖。但是我忽然感到勝利毫無把握，這個星空中狡黠的家夥，出乎意料地扯斷我給它戴上的用方程連成的枷鎖，從星表的囚籠中衝出來，逃往自由的宇宙空間去了。”
開普勒計算出來的火星位置和第穀數據之間相差8分，即1．133度（這個角度相當於表上的秒針在0．02秒瞬間轉過的角度）會不會是第穀弄錯了呢？或是寒冷的冬夜把第穀的手指凍僵了，以致觀測失誤了呢？不會！開普勒完全信賴第穀觀測的辛勤與精密，即使是這樣微小的數值，第穀也是不會弄錯的。他說：“上天給我們一位像第穀這樣精通的觀測者，應該感謝神靈的這個恩賜。一經認識這是我們使用的假說上的錯誤，便應竭盡全力去發現天體運動的真正規律，這8分是不允許忽略的，它使我走上改革整個天文學的道路。”可見，這兩位天文學大師的工作在當時已達到何等驚人的精確性！
當開普勒意識到始終無法找出一個符合第穀觀測數據的圓形軌道後，他就大膽摒棄這種古老的、曾寄希望的勻速圓周運動的偏見，嚐試用別的幾何曲線來表示所觀測到的火星的運動。開普勒認為行星運動的焦點應在施引力的中心天體——太陽的中心。從這點出發，他斷定火星運動的線速度是變化的，而這種變化應當與太陽的距離有關：當火星在軌道上接近太陽時，速度最快；遠離太陽時，速度最慢。他並且認為火星在軌道上速度最快與最慢的兩點，其向徑圍繞太陽在一天內所掃過的麵積是相等的。然後，他又將這兩點外麵積的相等性椎廣到軌道上所有的點上。這樣便得出麵積與時間成正比的定律。
隨後，開普勒看出火星的軌道有點像卵形（幸運的是，他首先選中火星，而火星軌道的偏心率在行星中比起來是相當大的），在連接極大與極小速度兩點方向的直徑似乎伸得長些。這樣，終於使他認識到火星是在橢圓的軌道上運動。
橢圓是人們比較熟悉的幾何圖形。我們可以從木工師傅那裏學到它的機械畫法：在木板上先定出兩個點，釘上釘子，取一段定長而無伸縮性的線，把它的兩端固定在釘子上，用鉛筆套在裏麵，然後把線拉緊，慢慢移動鉛筆，這樣畫出來的曲線便是一個橢圓。
這個畫法告訴我們，橢圓上的任何一點到兩個定點的距離之和保持不變。它的數學定義便是：若平麵上動點到兩定點的距離之和是常量，動點的軌跡叫做橢圓。兩個定點叫做橢圓的焦點，焦點之間的距離叫做焦距。
橢圓的變化情形可用偏心率e來表示。橢圓的偏心率是它的焦距與它的長徑的比率，e通常是用下式來表示的。
e＝ca（c是半焦距，a是半長徑）
∵c＜a，∴e＜1
可以看出，焦距越大，e的值越接近於1，橢圓形狀越扁；反之，焦距越小，e的值越接近於零，橢圓形狀越變渾圓；當焦距為零，偏心率e＝0時，橢圓也就轉化為圓。從這個意義上說，可以把圓看做是橢圓的一種特殊情形，即兩個焦點重合的橢圓。
太陽係各個行星軌道的具體形狀稍有不同。一般說來，它們的偏心率都很小，同圓形隻有微小的差異。所以行星軌道可以近似地看作圓形，太陽的位置也可以近似地看作位於軌道的中心。這便是當年使開普勒絞盡腦汁的原因。
這一回又是幾何學幫了天文學的大忙。假使沒有古希臘人對圓錐曲線（平麵截割圓錐所形成的曲線）的研究，這些美妙的定律也許不可能被發現。由於橢圓是圓錐曲線的一種，它那種圓而帶扁的形狀使開普勒想到火星可能在這樣一種曲線的軌道上運動。跟著，利用古代幾何學家對圓錐曲線尋找出來的許多性質，他肯定自己所作的假設是正確的，並將這兩項發現推廣到所有行星。
1609年，開普勒發表了《新天文學》一書和《論火星運動》一文，公布了兩個定律：
（一）所有行星分別在大小不同的橢圓軌道上運動。太陽的位置不在軌道中心，而在軌道的兩個焦點之一。
這是行星運動第一定律（也叫軌道定律）。
（二）在同樣的時間裏，行星向徑在其軌道平麵上所掃過的麵積相等。
這是行星運動的第二定律（也叫麵積定律）。
開普勒雖然摒棄行星等速度運動的偏見，但仍維護這一原則，隻是把線速度相等換了個“麵速度”相等。這使開普勒感到分外高興。有了這個定律，可以計算任何時刻行星在軌道上的位置。