與現今不同,線性方程組在古代稱為方程,其解法稱為方程術。首見於《九章算術》。「方」的本義是並,將兩條船並起來,船頭拴 (小老師 在一起,謂之方;「程」是求其標準。劉徽說:「群物總雜,各列有數,總言其實。令每行為率,二物者再程,三物者三程,皆如物數程之。並列為行,故謂之方程。」這是方程的嚴格定義。方程按分離係數法和位置值製表示,每行自上而下,各行自右向左排列。如《九章算術》方程章第一問:「今有上禾三秉,中禾二秉,下禾一秉,實三十九斗;上禾二秉,中禾三秉,下禾一秉,實三十四斗;上禾一秉,中禾二秉,下禾三秉,實二十六斗。問上、中、下禾實一秉各幾何?」用阿拉伯數字表示便是:

1 2 3
  2 3 2
  3 1 1
  26 34 39

就是線性方程組



《九章算術》採用直除法即以一行首項係數乘另一行再對減消元。劉徽以齊同原理證明了直除法的正確性,並提出「舉率以相減,不害餘數之課」作為其理論基礎。劉徽還創造互乘相消法和方程新術。後者是通過消元求出諸物的率,用衰分術或今有術求解。
由具體問題列方程要應用損益術。《九章算術》說:「損之曰益,益之曰損。」這是說:在等式的一端減,相當於在另一端加;在一端加,相當於在另一端減。損益的對象既有常數項,也有未知數,還有合併同類項。數學史界一般認為,algebra(代數學)源於阿拉伯數學家花拉子米(約783—850)的著作《還原與對消計算概要》的簡稱al-jabr,「還原與對消」實際上是《九章算術》的「損益」的同義語。
雀燕集衡
這是《九章算術》方程章的一個題目:「今有五雀六燕,集稱之衡,雀俱重,燕俱輕。一雀一燕交而處,橫適平。並雀、燕重一斤。問雀、燕一枚各重幾何?」設 x , y 分別為雀、燕一枚重,《九章算術》的解法是通過損益術列出方程:



用直除法消元後求出雀一枚兩,燕一枚兩。劉徽提出了新的解法:兩行直接相減得,因此,。任取一行,比如右行,用今有術將雀化為燕,便有,於是。這正是方程新術的基本思想。方程新術是在方程章麻麥問中詳細闡述的,是劉徽的一項創造。