5차 방정식의 근의 공식이 없는 이유 (1) - 3,4차 방정식의 근의 공식

안녕하세요. 저번 글에서는 주제의 핵심인 아벨-루피니($\text{Abel-Ruffini}$)정리에 대해 알아보았습니다. 간략하게 말씀드리자면, $n \leq 4$에서는 일반적인 근의 공식이 존재한다는 것이었는데요. 그렇다면 3,4차 방정식의 근의 공식은 어떻게 유도할까요? 이번 글에서는 2차 방정식의 근의 공식 유도는 생략하고 3,4차 방정식의 근의 공식을 유도하는 과정에 대해 말씀드리겠습니다.
 
일단 근의 공식을 유도하기 앞서, 다항 방정식의 몇가지 특성을 알려드리고 시작하겠습니다.
 

1. 어떤 다항식이든 최고 차항의 계수를 1로 만들어 다항 방정식을 풀 수 있다.

 
$a_n \neq 0$을 만족하는 다항 방정식
\[ a_n x^n + a_{n-1} x^{n-1} + \cdots + a_1 x + a_0 = 0\]
이 있을 때, 양 변을 $a_n$으로 나눌 수 있습니다. 따라서 위 방정식은
\[ x^n + \frac{a_{n-1}}{a_n} x^{n-1} + \cdots + \frac{a_1}{a_n} x + \frac{a_0}{a_n} = 0 \]
으로 변환될 수 있고, 최고 차항의 계수가 1인 다항 방정식이 되었습니다.
 

2. 최고 차항이 $n$인 어떤 다항식이든, $n-1$차항의 계수를 0으로 만들 수 있다.

 
다항 방정식
\[ x^n + a_{n-1} x^{n-1} + \cdots + a_1 x + a_0 = 0\]
을 생각해봅시다. 여기서 $x = y + d$로 치환한 뒤 식에 대입해 보면 다음과 같습니다
\[ (y+d)^n + a_{n-1} (y+d)^{n-1} + \cdots + a_1 (y+d) + a_0 = 0\]
전개를 해보았을 때, 이항정리에 의하여
$$
\begin{align*}
(y + d)^n &= y^n + n d y^{n-1} + \cdots, \\
(y + d)^{n-1} &= y^{n-1} + d y^{n-2} + \cdots.
\end{align*}
$$
임을 알 수 있습니다. 이것을 위 식에 넣어보면, 
$$
\begin{align*}
&y^n + n dy^{n-1} + a_{n-1} y^{n-1} + \cdots + a_0 \\
= &y^n + (nd+a_{n-1})y^{n-1} + \cdots + a_0.
\end{align*}
$$
이므로, $d = -\frac{a_{n-1}}{n}$를 넣어주면 $n-1$차항의 계수가 $0$이 되는 것을 알 수 있습니다.
 
위 특성 두 가지에 의해, $n$차 방정식의 근의 공식을 구할 때 최고 차항의 계수가 $1$이고, $n-1$차항의 계수가 $0$인 다항 방정식만 고려해도 된다는 것을 알 수 있습니다. 이제 3,4차 방정식의 근의 공식을 유도해 보겠습니다. 
 

3차 방정식의 근의 공식 유도

 
3차 방정식
\[ x^3 + ax + b =0 \]
을 생각해 봅시다. 첫 번째 과정은 $x = u+v$ ($u, v$는 복소수)로 치환하는 것입니다. 치환한 뒤 식을 정리하면,
\[ u^3 + v^3 + (u+v)(3uv + a) + b = 0\]

를 얻습니다. 두 번째 과정은 $3uv+a =0$가 되는 $u, v$를 선택하는 것입니다. 이 때 $u,v$를 선택한다는 말이 조금 어색합니다. 선택한다는 것은 $u+v=x$, $uv = - \frac{a}{3}$ 두 식을 만족시키는 $u,v$가 항상 존재해야 한다는 것인데, 그 존재성은 $n$차 방정식의 근은 항상 $n$개 존재한다는 대수학의 기본 정리에 의해 보장됩니다. 따라서 $u+v=x$, $uv = - \frac{a}{3}$를 만족시키는 $u,v$는 근과 계수와의 관계에 의해 2차 방정식
$$ y^2 -xy -\frac{a}{3} = 0 $$
의 두 근이 되므로, $u,v$를 항상 찾을 수 있다는 것이죠. 그럼 우리는 $u,v$에 관한 두 식을 얻을 수 있습니다.
$$
\begin{aligned}
u^3 + v^3 &= -b, \\
uv &= - \frac{a}{3}
\end{aligned}
$$
여기서 세 번째 과정으로, $s=u^3$, $t = v^3$이라고 놓습니다. 그럼 우리는 $s, t$에 대한 합과 곱의 식을 얻게 됩니다. 
$$
\begin{aligned}
s + t &= -b, \\
st &= - \left(\frac{a}{3}\right)^3
\end{aligned}
$$
따라서 $s,t$는 2차 방정식
\[
y^2 + by -  \left(\frac{a}{3}\right)^3 = 0
\]
의 두 근이 되고, 2차 방정식 근의 공식을 사용하여 다음과 같이 $s,t$를 구할 수 있습니다.
\[
s = \frac{-b + \sqrt{b^2 + 4\left(\frac{a}{3}\right)^3}}{2}, \quad t = \frac{-b - \sqrt{b^2 + 4\left(\frac{a}{3}\right)^3}}{2}
\]
우리의 목표는 $x$를 구하는 것이니, $s,t$를 알았으므로 $u,v$의 값을, $u,v$의 값으로 $x$를 구해봅시다. $s=u^3$, $t = v^3$라고 치환한 과정에서, 역으로 $u,v$를 구해야 합니다.
 
여기서 바로 $u = \sqrt[3]{s}$, $v = \sqrt[3]{s}$ 라고 생각하실 수 있겠지만, 세제곱하여 $u$가 되는 것은 $\sqrt[3]{s}$뿐만이 아닙니다. 삼차방정식 $x^3=1$에서의 근이 $1,\omega,\omega^2$이듯이, $u$ 또한 $\sqrt[3]{s}$, $\omega\sqrt[3]{s}$, $\omega^2\sqrt[3]{s}$ 세 값을 가질 수 있습니다. 똑같이, $v$도 $\sqrt[3]{t}$, $\omega\sqrt[3]{t}$, $\omega^2\sqrt[3]{t}$ 세 값을 가질 수 있습니다.
 
그렇다면 $x = u+v$이므로 $x$가 가질 수 있는 값이 총 9개가 되지만, 3개만이 근이 될 수 있으므로 나머지 6개의 경우는 탈락해야합니다. 그 조건을 어디서 찾을 수 있을까요? 바로 $uv = - \frac{a}{3}$에서 찾을 수 있습니다. 이 식에 의하면 $x$가 가질 수 있는 값은 다음과 같이 3개의 경우만이 표현됩니다.
$$
\begin{aligned}
x &= \sqrt[3]{s} + \sqrt[3]{t} \\
x &= \omega\sqrt[3]{s} + \omega^2\sqrt[3]{t} \\
x &= \omega^2\sqrt[3]{s} + \omega\sqrt[3]{t} \\
\end{aligned}
$$
마지막으로 $s,t$를 $a,b$에 대한 식으로 변환해주면,
$$
\begin{aligned}
x_1 &= \sqrt[3]{\frac{-b + \sqrt{b^2 + 4\left(\frac{a}{3}\right)^3}}{2}} + \sqrt[3]{\frac{-b - \sqrt{b^2 + 4\left(\frac{a}{3}\right)^3}}{2}} \\
x_2 &= \omega\sqrt[3]{\frac{-b + \sqrt{b^2 + 4\left(\frac{a}{3}\right)^3}}{2}} + \omega^2\sqrt[3]{\frac{-b - \sqrt{b^2 + 4\left(\frac{a}{3}\right)^3}}{2}} \\
x_3 &= \omega^2\sqrt[3]{\frac{-b + \sqrt{b^2 + 4\left(\frac{a}{3}\right)^3}}{2}} + \omega\sqrt[3]{\frac{-b - \sqrt{b^2 + 4\left(\frac{a}{3}\right)^3}}{2}} \\
\end{aligned}
$$
가 됩니다.
 

4차 방정식의 근의 공식 유도

 
4차 방정식의 근의 공식을 유도하는 과정은 오히려 3차 방정식보다 구하기 쉽습니다. 4차 방정식
\[ x^4 + ax^2 + bx +c =0 \]
을 생각해봅시다. 여기서 핵심은 위 4차 방정식이 두 2차식의 인수로 분해된다고 가정하는 $\text{Decartes's Method}$를 사용하는 것입니다.
\[ x^4 + ax^2 + bx +c = (x^2 + ux + v)(x^2 - ux + s) = 0 \]
2차, 1차, 상수항의 계수 비교를 통해 다음 세 식을 얻을 수 있습니다.
\[
\begin{align}
v + s - u^2 &= a \tag{1} \\
us - uv &= b \tag{2} \\
vs &= c \tag{3}
\end{align}
\]
$u, v, s$를 $a, b, c$에 대해 표현할 수 있다면, 그 다음은 각각 2차 방정식의 근의 공식을 풀어 근을 구하는 것은 쉬울 것입니다. 일단 $u = 0$인 경우는 근을 쉽게 구할 수 있으므로, $u \neq 0$이라고 가정하고 $u, v, s$를 $a, b, c$에 대해 표현해봅시다.
 
$(1)$에 $u$를 곱하고 $(2)$와 더해주면, $s$를 구할 수 있습니다.
$$ 2us - u^3 = au+b, \ \ s = \frac{u^3 +au + b}{2u} $$
$s$를 구했으니 $(2)$를 통해 $v$도 구해봅시다.
$$
\frac{u^3 +au + b}{2} - uv = b, \ \ v = \frac{ u^3 + au - b }{2u}
$$
이제 $u$를 $a,b,c$에 대해 표현할 수 있다면, 나머지 $s,v$ 또한 $a,b,c$에 대해 표현될 수 있을 것입니다. $(3)$에서 우리가 구한 $s,v$를 대입하여 $u$를 구해봅시다. 
$$
\frac{u^3 + au + b}{2u} \cdot \frac{u^3 + au - b}{2u} = c
$$
식을 정리하면, $u$에 대한 6차 방정식 꼴로 변환됩니다.
$$ u^6 + 2au^4 + (a^2-4c)u^2 -b^2 = 0 \tag{4}$$
$u^2 = t$로 치환하면, $t$에 대한 3차 방정식을 얻습니다.
$$ t^3 + 2at^2 + (a^2-4c)t -b^2 = 0 $$
우리는 앞서 3차 방정식의 해법을 배웠기 때문에, $t$를 $a,b,c$에 대한 식으로 나타낼 수 있습니다. 구체적인 식은 너무 복잡하므로 간략히 위 세 근을 $p^2, q^2, r^2$라고 하겠습니다. 하지만 우리는 $t$가 아닌 $u$를 구해야 하므로, $u$가 가질 수 있는 값은 모두 $\pm p, \pm q,  \pm r$ 총 6개가 되겠습니다. 
 
이제 우리의 목표인 $u, v, s$를 $a, b, c$에 대해 표현하는 것을 달성하였으니, 다시 돌아가 다음 방정식의 근을 살펴봅시다.
\[(x^2 + ux + v)(x^2 - ux + s) = 0 \]
위 방정식의 근은 곧 각각의 인수가 0이 되는 $x$를 구하는 것이므로, 2차 방정식의 근의 공식을 적용하여 구할 수 있습니다.
\[ x = \frac{-u \pm \sqrt{u^2 -4v}}{2}, \ \ x = \frac{u \pm \sqrt{u^2 -4s}}{2} \tag{5}\]
이제 $u,v,s$를 $p,q,r$로 변환하는 일만 남았습니다. 그전에, $(4)$에서 근과 계수와의 관계를 살펴봅시다.
$$
\begin{aligned}
p^2 + q^2 + r^2 &= -2a \\
p^2 q^2 r^2 &= b^2
\end{aligned}
$$
계산하기 앞서 $u$가 가질 수 있는 값은 총 6개이나 일단 $u = p$로 두고, 두 번째 식에서 $ b = \pm pqr $가 나오는데 이 또한 임의로 $ b = pqr $이라고 두고 계산을 해봅시다. 
\begin{align*}
\sqrt{u^2 - 4v} &= \sqrt{ u^2 - 4 \frac{ u^3 + au - b }{2u}} = \sqrt{ u^2 - 2(u^2 + a - \frac{b}{u})} = \sqrt{ -u^2 + \frac{2b}{u} + p^2 + q^2 + r^2} = \sqrt{ (q+r)^2} = \pm (q+r) \\
\sqrt{ u^2 - 4s } &= \sqrt{ u^2 - 4 \frac{ u^3 + au + b }{2u} }= \sqrt{ u^2 - 2(u^2 + a + \frac{b}{u}) }= \sqrt{ -u^2 - \frac{2b}{u} + p^2 + q^2 + r^2 }= \sqrt{ (q-r)^2} = \pm (q-r)
\end{align*}
이제 이 결과를 적용하여 $(5)$에 대입해보면,
\begin{align*}
x_1 = \frac{-p + q+r}{2}, \ \
x_2 = \frac{-p - q-r}{2}, \ \
x_3 = \frac{p + q-r}{2}, \ \
x_4 = \frac{p - q+r}{2}
\end{align*}
근 네 개를 도출해낼 수 있습니다.
 
그런데 제가 앞에서 임의로 $u = p$, $ b = pqr $로 둔 것에 대해 의문을 가질 수 있을 것입니다. $u$를 $p$가 아닌 다른 값들 중 하나로 두어도 처음에 구한 값들과 동일합니다. 그 이유는 위의 근 네 개를 잘 살펴보면, $p,q,r$의 위치를 서로 바꾸어도 근 네 개의 위치만 서로 바뀔 뿐 전체적으로 동일하기 때문입니다. $b = -pqr$로 두었을 때도 $ \sqrt{u^2 - 4v}$과 $ \sqrt{ u^2 - 4s }$이 서로 값이 바뀔 뿐 네 개의 근들은 달라지지 않습니다.
 
마지막에서 '값을 바꾸어도 전체적인 근의 값들 자체는 변화가 없다'는 것을 알았습니다. 이 아이디어는 아벨-루피니($\text{Abel-Ruffini}$) 정리를 푸는 핵심 아이디어가 됩니다. 다음 글에서는 '다가함수'에 대한 개념을 설명하여 '근호'를 새로운 관점으로 소개하겠습니다.