共軛梯度法可以看作是 Lanczos 方法對於正定對稱系統的特殊變體。最小殘差法和對稱 LQ 方法 (SYMMLQ) 是可以應用於對稱不定系統的變體。
共軛梯度法中的向量序列對應於類似於係數矩陣的三對角矩陣的分解。因此,如果矩陣是不定的,則演算法可能會發生崩潰,對應於零主元。此外,對於不定矩陣,共軛梯度法的最小化性質不再明確定義。MINRES 和 SYMMLQ 方法是 CG 方法的變體,它們避免了 LU 分解,並且不會遭受崩潰。SYMMLQ 求解投影系統,但不最小化任何東西(它保持殘差與所有先前的殘差正交)。
當 不是正定的,而是對稱的時,我們仍然可以透過三項遞推關係為 Krylov 子空間構造一個正交基。消除共軛梯度法方程中的搜尋方向得到一個遞推式
|
(1)
|
可以寫成矩陣形式為
|
(2)
|
其中 是一個
三對角矩陣。
在這種情況下,我們遇到了 不再定義內積的問題。但是,我們仍然可以透過獲得以下方式嘗試最小化 2-範數中的殘差
|
(3)
|
從而最小化
|
(4)
| |||
|
(5)
|
現在我們利用以下事實,如果
|
(6)
|
那麼 是關於當前 Krylov 子空間的正交變換
|
(7)
|
並且這個最終表示式可以簡單地看作是最小范數最小二乘問題。
一種方法是求解系統 ,就像在共軛梯度法中一樣(
是
的上
部分)。然而,與共軛梯度法不同,我們不能依賴 Cholesky 分解的存在(因為
不是正定的)。另一種方法是透過 LQ 分解來分解
。這導致簡單的遞推關係,並且所得方法被稱為 SYMMLQ (Paige and Saunders 1975)。