Эти методы не позволяют найти точное решение системы линейных уравнений за конечное число арифметических действий даже в отсутствие погрешности вычислений. С помощью таких методов строится последовательность векторов . Каждый элемент последовательности – вектор x^(k) размерности n:

.

При выполнении определенных условий последовательность векторов  сводится к точному решению системы линейных уравнений, то есть , где  – точное решение системы линейных уравнений: .