共軛梯度平方方法

在 雙共軛梯度方法 中，殘差向量 可以被視為 和關於 的 次多項式的乘積，即：

(1)

這個相同的多項式滿足

(2)

因此

			(3)
			(4)
			(5)

這表明，如果 將 縮小為一個較小的向量 ，那麼將這個“收縮”運算元應用兩次並計算 可能是有利的。迭代係數仍然可以從這些向量中恢復（如上所示），並且事實證明很容易找到 的相應近似值。這種方法是共軛梯度平方（CGS）方法（Sonneveld 1989）。

通常人們觀察到 CGS 的收斂速度大約是 雙共軛梯度方法 的兩倍，這與同一個“收縮”運算元應用兩次的觀察結果相符。然而，沒有理由認為收縮運算元，即使它真的減少了初始殘差 ，也應該減少一次減少後的向量 。CGS 經常出現高度不規則的收斂行為就證明了這一點。應該意識到，對當前解的區域性校正可能非常大，以至於會發生抵消效應。這可能導致解的精度不如更新後的殘差所暗示的那麼高（van der Vorst 1992）。如果初始猜測接近解，則該方法傾向於發散。

CGS 每次迭代所需的操作次數與 雙共軛梯度方法 大致相同，但不涉及與 的計算。因此，在與 的計算不切實際的情況下，CGS 可能很有吸引力。