Алгоритм Ремеза

Алгоритм Ремеза (также алгоритм замены Ремеза) — это итеративный алгоритм равномерного аппроксимирования функций f ∊ C[a,b], основанный на теореме П. Л. Чебышёва об альтернансе. Предложен Е. Я. Ремезом в 1934 году^[1].

Алгоритм Ремеза применяется при проектировании КИХ-фильтров^[2].

Математические основания

Теорема Чебышёва

Теоретической основой алгоритма Ремеза является следующая теорема^[3].

Для того, чтобы некоторый многочлен P*(x) степени не выше n был многочленом, наименее уклоняющимся от f ∊ C[a,b], необходимо и достаточно, чтобы на [a,b] нашлась по крайней мере одна система из n + 2 точек xi, a ≤ x0 < x1 < … < xn+1 ≤ b, в которых разность f(x) - P*(x): поочерёдно принимает значения разных знаков, достигает по модулю наибольшего на [a,b] значения. Такая система точек называется чебышёвским альтернансом. П. Л. Чебышёв, 1854

Теорема Валле-Пуссена

Пусть E_n — величина наилучшего приближения функции f(x) многочленами степени n. Оценку E_n снизу даёт следующая теорема^[4]:

Если для функции f ∊ C[a,b] некоторый многочлен P(x) степени n обладает тем свойством, что разность f(x) - P(x) на некоторой системе из n + 2 упорядоченных точек xi принимает значения с чередующимися знаками, то $E_n(f) \ge \min|f(x_i)-P(x_i)|.$ Ш.-Ж. Валле-Пуссен, 1919

Алгоритм

Рассмотрим систему n + 1 функций Φ = {φ₀,…,φ_n}, последовательность n + 2 точек X = a ≤ x₀ < x₁ < … < x_n+1 ≤ b и будем искать аппроксимирующий многочлен $P_X = \sum_0^n a_j\varphi_j$.

1. Решаем систему линейных уравнений относительно a_j и d:
   $\sum_{j=0}^n a_j\varphi_j(x_i) + (-1)^i d = f(x_i), \quad i=0,1,\ldots,n.$
2. Находим точку ξ такую, что D = |f(ξ) — P(ξ)| = max.
3. Заменяем в X одну из точек на ξ таким образом, чтобы знак f — P чередовался в точках новой последовательности. На практике следят только за тем, чтобы точки x_i были упорядочены на каждой итерации^[5].
4. Повторяем все шаги с начала до тех пор, пока не будет |d| = D.

На втором шаге мы можем искать не одну точку ξ, а множество Ξ точек, в которых достигаются локальные максимумы |f — P|. Если все ошибки в точках множества Ξ одинаковы по модулю и чередуются по знаку, то P — минимаксный многочлен. Иначе заменяем точки из X на точки из Ξ и повторяем процедуру заново.

Выбор начальных точек

В качестве начальной последовательности X можно выбирать точки, равномерно распределённые на [a,b]. Целесообразно также брать точки^[6]:

$x_i = \frac{a+b}{2} + \frac{b-a}{2} \cos\left(\frac{\pi i}{n+1}\right), \quad i=0,\ldots,n+1.$

Модификация

Если аппроксимирующая функция ищется в виде многочлена, то вместо решения системы на первом шаге алгоритма, можно воспользоваться следующим методом^[7]:

1. Находим многочлен q(x) степени n такой, что q(x_i) = f(x_i) (задача интерполяции).
2. Находим также многочлен q^*(x) степени n такой, что q^*(x_i) = (-1)ⁱ.
3. Выбирая d так, чтобы многочлен P(x) ≡ q(x) — d q^*(x) имел степень n-1, получаем P(x_i) + (-1)ⁱd = f(x_i).

Дальше повторяются шаги по основной схеме.

Условие остановки

Так как по теореме Валле-Пуссена |d| ≤ E_n(f) ≤ D, то условием остановки алгоритма может быть D — |d| ≤ ε для некоторого наперёд заданного ε.

Сходимость

Алгоритм Ремеза сходится со скоростью геометрической прогрессии в следующем смысле^[8]:

Для любой функции f ∊ C[a,b] найдутся числа A > 0 и 0 < q < 1 такие, что максимальные уклонения от функции f(x) полиномов $P_n^{(k)}(x)$, построенных по этому алгоритму, будут удовлетворять неравенствам $\max|f(x) - P_n^{(k)}(x)| - E_n(f) \le Aq^k, \quad k=1,2,\ldots,$ где En(f) — величина наилучшего приближения на [a,b] функции f(x) при помощи полиномов Pn(x). Е. Я. Ремез, 1957

Пример

f(x) = e^x, n = 1, P(x) = a x+b.

Шаг 1.	X1 −1 0 1 f(xi) 0.368 1.000 2.718	$\begin{cases} ({-}1)a + b + d = 0.368 \\ (0)a + b - d = 1.000\\ (1)a + b + d = 2.718 \end{cases}$
	Решение системы даёт P = 1.175x + 1.272, d = 0.272. max|eξ-P(ξ)| = 0.286 при ξ = 0.16.
Шаг 2.	X2 −1 0.16 1 f(xi) 0.368 1.174 2.718	$\begin{cases} ({-}1)a + b + d = 0.368 \\ (0.16)a + b - d = 1.174\\ (1)a + b + d = 2.718 \end{cases}$
	Решение системы даёт P = 1.175x + 1.265, d = 0.279. max|eξ-P(ξ)| = 0.279 при ξ = 0.16.

Так как в пределах данной точности получили ту же самую точку, то найденный многочлен следует рассматривать как наилучшее приближение первой степени функции e^x.

См. также

Аппроксимационная теорема Вейерштрасса

Примечания

1. ↑ E. Ya. Remez (1934). Sur le calful effectif des polynômes d’approximation de Tschebyscheff. C.P. Paris 199, 337—340; Ch. 3:78
2. ↑ Рабинер, 1978, с. 157
3. ↑ Дзядык, 1977, с. 12
4. ↑ Дзядык, 1977, с. 33
5. ↑ Лоран, 1975, с. 117
6. ↑ Дзядык, 1977, с. 74
7. ↑ Лоран, 1975, с. 112
8. ↑ Дзядык, 1977, с. 76-77

Литература

• DeVore R. A., Lorentz G. G. Constructive Approximation. — 1993.
• Бронштейн И. Н., Семендяев К. А. Справочник по математике для инженеров и учащихся ВТУЗов. — 1980.
• Дзядык В. К. Введение в теорию равномерного приближения функций полиномами. — 1977.
• Лоран П.-Ж. Аппроксимация и оптимизация. — 1975.
• Рабинер Л., Гоулд Б. Теория и применение цифровой обработки сигналов. — 1978.