傳說唐代尚書楊損，廉潔奉公，任人唯賢。有一次，要在兩名小吏中提升一人，主管提升工作的官員感到很難決斷，便請示楊損。楊損認為，作為一個官員，不僅要有高尚的品德，還要有一定的文化水平。於是，他說：“一個官員應具備的一大技能是速算。讓我出題來考考他們，誰算得快就提升誰。”楊損出了一道題：
“有人在林中散步，無意中聽到幾個強盜在商討如何分贓。他們說，如果每人分6匹布，則餘5匹；每人分7匹布，則缺少8匹。試問共有幾個強盜幾匹布？”兩個小吏聽過題目後，便用籌算解聯立一次方程組。後來，先得出正確結果的小吏果真升了官，大家心服口服。
這個故事反映出我國古代人民對於解聯立一次方程組的熟練程度。事實上，在2000多年前的《九章算術》中，已係統地敘述了聯立一次方程組的解法，這是中國古代數學的傑出貢獻之一。
《九章算術》是我國至今有傳本的一部經典數學著作，內容極為豐富，它幾乎集中了過去和當時的全部數學知識，將246個問題分為九章，所以叫做《九章算術》。
《九章算術》不是出自某一個人的手筆，不是一個時代的作品。它是經過曆代名家的修訂和增補，才逐漸成為定本的。它成書於何時，目前學術界尚無統一結論，據推測起碼在公元1世紀之前。《九章算術》對我國以及一些外國的數學發展有很大影響，直到16世紀我國的數學著作大都還是受它的體例影響。
一元一次方程問題在古埃及時已經出現。巴比倫人已經知道某些特殊的二次、三次方程的解法，例如：兩個正方形麵積之和是1000，其中一個邊長是另一個邊長的23少10，問各長多少？這相當於解聯立方程：
x2 y2=1000，y=12x-10.
當時實際的解隻是由觀察某些簡單的數字關係而得到答案。
《九章算術》的第8章“方程”，給出了聯立一次方程組的普遍解法，並且使用了負數，這在數學史上具有非常重要的意義。
我國古代是用算籌來運算的，未知數不用符號表示，隻是將各個係數用算籌依次布列成方陣的形式。“程”是變量的總名，也有計量、考核、程式的意思。“方程”的名稱，就來源於此。
《九章算術》第8章的第1題為：
今有上禾三秉、中禾二秉，下禾一秉，實三十九鬥；上禾二秉，中禾三秉，下禾一秉，實三十四鬥；上禾一秉，中禾二秉，下禾三秉，實二十六鬥。問上、中、下禾實一秉各幾何？
“禾”指黍米，一“秉”即一捆，“上禾三秉，中禾二秉，下禾一秉，實三十九鬥”就是說：三捆上等黍米，兩捆中等黍米，一捆下等黍米，一共可打出黍米穀39鬥。
設上、中、下禾，每捆各出穀x、y、z鬥，則用現代的方程來表達，可得：
3x 2y z=39，
2x 3y z=34，
x 2y 3z=26.
在《九章算術》中列出的方程形式為：
在方程中隻能看到係數，看不到未知數，文字采用直排，而且閱讀時是從右到左的。由於這種方程中，未知數不用符號表示出來，實際上就是現代的分離係數法。書中給出的解法是聯立一次方程組的普遍解法。除了符號、名詞和計算工具不同外，和現代使用的消元法實質一樣。
第8章中還有四元及五元的方程組，也是用類似的方法來解的。
在國外，線性方程組的完整解法，直到17世紀末才由微積分的發明人萊布尼茨著手擬定。可見，從時間上來說，《九章算術》的解法實是在世界數學史上一大光輝成就，值得中國人自豪！
自從《九章算術》提出了多元一次聯立方程後，多少世紀沒有顯著的進步。賈憲、秦九韶、李治等人曾研究過一元高次方程。元朝傑出數學家朱世傑集前人之大成，建立了四元高次方程組理論，並稱為“四元術”。他用天元、地元、人元、物元表示四個未知數，相當於現在的x、y、z、u。朱世芝的《四元玉鑒》一書，舉例說明了一元方程、二元方程、三元方程、四元方程的布列方法和解法。其中有的例題相當複雜，數字驚人的龐大，不但過去從未有過，就是今天也很少見。可見朱世傑已經非常熟練地掌握了多元高次方程組的解法。
在外國，多元方程組雖然也偶然在古代的民族中出現過，例如巴比倫人借助數表處理過某種二元二次方程組，但較係統地研究卻遲至16世紀，1559年，法國人彪特才開始用不同的字母A，B，C……來表示不同的未知數。而過去不同未知數用同一符號來表示，以致含混不清。正式討論多元高次方程組已到18世紀，由探究高次代數曲線的交點個數而引起。1764年，法國人培祖提出用消去法的解法，這已在朱世傑之後四五百年了。