|

컴퓨터는 근의공식과 인수분해중 무엇을 선택할까?

 

수학 / 이차방정식 · 근의 공식 · 인수분해 · 판별식 · 수치오차 · 심층 수리논술

컴퓨터는 근의 공식을 이용하는가, 인수분해를 이용하는가: 이차방정식과 수치 계산의 수학

[출제 의도]
컴퓨터 그래픽에서 광선과 물체의 교점을 계산하는 과정을 이차방정식으로 모델링하고, 인수분해와 근의 공식이 같은 해를 표현하는 서로 다른 방법임을 이해하는지 평가한다. 또한 일반적인 실수 계수의 이차방정식에서는 인수분해가 항상 간단하게 가능한 것은 아니며, 근의 공식 역시 유한한 자릿수로 계산하는 컴퓨터에서는 수치오차가 발생할 수 있음을 분석하도록 한다. 마지막으로 근과 계수의 관계를 이용하여 수치적으로 더 안정적인 계산식을 유도하고, 계산 목적에 따라 적절한 알고리즘을 선택해야 하는 이유를 논증하도록 한다.
상황 제시

3차원 컴퓨터 그래픽에서는 화면의 한 픽셀에 어떤 물체가 보이는지를 판단하기 위해 가상의 광선을 공간으로 보내고 그 광선이 물체와 만나는 위치를 계산하는 방법을 사용할 수 있다.

특히 광선과 구의 교점을 구하면 하나의 이차방정식이 만들어진다. 따라서 컴퓨터가 구와 광선의 교점을 계산한다는 것은 결국 이차방정식의 실근을 계산하는 문제와 연결된다.

여기서 자연스럽게 다음 질문을 생각할 수 있다.

“컴퓨터도 사람처럼 먼저 인수분해를 시도할까? 아니면 항상 근의 공식을 사용할까?”

다음 문제를 통해 이 질문을 수학적으로 분석한다.

[문제 1] 인수분해와 근의 공식은 다른 답을 주는가 (기초·응용 역량)
중심이 원점이고 반지름이 2인 구가 있다. 그 방정식은
x² + y² + z² = 4
이다. 점 (0, 0, −5)에서 양의 z축 방향으로 진행하는 광선을 생각하자. 광선 위의 점은 매개변수 t ≥ 0에 대하여
(0, 0, −5 + t)
로 나타낼 수 있다.

(1) 이 광선과 구의 교점을 구하는 문제에서
t² − 10t + 21 = 0
이라는 이차방정식이 만들어짐을 보이시오.

(2) 위 이차방정식을 인수분해하여 두 근을 구하시오.

(3) 같은 방정식에 근의 공식을 적용하여 같은 두 근이 나옴을 확인하시오.

(4) 화면에서 광선을 가장 먼저 만나는 구의 표면점을 찾고자 한다면 두 근 중 어느 값을 선택해야 하는지 설명하고 그 교점의 좌표를 구하시오.

(5) 이 예에서 인수분해와 근의 공식 중 어느 방법이 더 간단한지 설명하되, 그 사실만으로 컴퓨터가 항상 인수분해를 사용한다고 결론 내릴 수 없는 이유를 서술하시오.
해설 및 모범 채점 기준 확인하기
[문제 풀이]

광선 위의 점
(0, 0, −5 + t)
가 구 위에 놓이려면
(−5 + t)² = 4
이어야 한다. 전개하면
t² − 10t + 25 = 4
t² − 10t + 21 = 0
을 얻는다.

인수분해하면
(t − 3)(t − 7) = 0
이므로
t = 3, 7
이다.

한편 근의 공식을 이용하면
t = [10 ± √(100 − 84)] / 2 = (10 ± 4)/2
이므로 역시
t = 3, 7
을 얻는다.

광선은 t가 증가하는 방향으로 진행하므로 먼저 만나는 점은 더 작은 양의 근 t = 3에 해당한다. 따라서 첫 교점은
(0, 0, −5 + 3) = (0, 0, −2)
이다.

이 문제에서는 정수 3과 7을 쉽게 찾을 수 있으므로 인수분해가 매우 간단하다. 그러나 이는 계수가 특별하게 선택된 경우이다. 일반적인 실수 계수의 이차방정식은 정수나 유리수 범위에서 쉽게 인수분해되지 않을 수 있다. 따라서 이 한 예만으로 “컴퓨터는 인수분해를 이용하는 것이 더 효율적이다” 라고 일반화할 수는 없다.
도해 1. 광선과 구의 두 교점
출발점 t = 3 t = 7 반지름 2인 구 두 실근은 광선이 구에 들어가는 점과 나오는 점을 나타낸다
이차방정식의 두 근은 단순한 대수적 숫자가 아니라 실제 공간에서 광선이 구의 표면과 만나는 두 위치를 나타낸다. 렌더링에서는 보통 진행 방향에서 가장 가까운 유효한 교점이 중요하다.

정답: t = 3, 7이며 첫 번째 교점은 (0, 0, −2)이다. 인수분해와 근의 공식은 서로 다른 해가 아니라 같은 두 근을 다른 방식으로 찾는다.

평가 요소 채점 기준 및 감점 요인 배점
수학적 모델링 광선의 좌표를 구의 방정식에 대입하여 이차방정식을 정확히 유도함. 10점
두 해법 비교 인수분해와 근의 공식으로 같은 근을 구하고 실생활에서 두 근의 의미를 설명함. 15점
[문제 2] 일반적인 광선에서는 왜 판별식과 근의 공식이 필요한가 (심층 논증)
공간의 한 점을 나타내는 벡터를 P, 광선의 방향벡터를 V, 구의 중심을 C, 구의 반지름을 R이라 하자. 광선 위의 점은
P + tV
로 나타낼 수 있다.

(1) 광선 위의 점이 구 위에 있다는 조건
|P + tV − C|² = R²
을 전개하면
at² + bt + c = 0
의 꼴이 되고,
a = V·V
b = 2V·(P−C)
c = |P−C|² − R²
임을 보이시오.

(2) V가 영벡터가 아니므로 a > 0이다. 다음과 같이 완전제곱하여
at² + bt + c = a(t + b/(2a))² − (b² − 4ac)/(4a)
임을 증명하시오.

(3) 판별식
D = b² − 4ac
의 부호에 따라 다음이 성립하는 이유를 설명하시오.

① D < 0 : 광선이 놓인 직선과 구가 만나지 않는다.
② D = 0 : 직선이 구에 접한다.
③ D > 0 : 직선과 구가 서로 다른 두 점에서 만난다.

(4) 이 결과를 이용하여 판별식은 단순히 “근의 개수를 구하는 공식”이 아니라 광선과 구의 기하학적 위치 관계를 판정하는 값임을 논술하시오.

(5) 이차식이
a(t−r1)(t−r2)
로 인수분해된다면
r1 + r2 = −b/a,
r1r2 = c/a
임을 증명하시오.

(6) 일반적인 실수 계수에서 인수분해를 한다는 것은 결국 적절한 두 근 r1, r2를 찾아야 한다는 뜻이다. 이 사실을 바탕으로 “인수분해는 항상 근의 공식보다 먼저 사용해야 하는 보편적 알고리즘이다.” 라는 주장을 평가하시오.
해설 및 모범 채점 기준 확인하기
[문제 풀이]

구의 중심으로부터 광선 위의 점까지의 벡터는
(P−C) + tV
이다. 따라서
[(P−C) + tV] · [(P−C) + tV] = R²
을 전개하면
(V·V)t² + 2V·(P−C)t + |P−C|² − R² = 0
이다. 따라서 제시된 a, b, c를 얻는다.

한편
at² + bt + c = a[t² + (b/a)t] + c
이고 완전제곱하면
= a(t + b/(2a))² + c − b²/(4a)
이다. 따라서
at² + bt + c = a(t + b/(2a))² − D/(4a)
가 된다.

a > 0이므로 이 이차식의 최솟값은
−D/(4a)
이다. 따라서 D < 0이면 최솟값이 양수이므로 식이 0이 될 수 없고 교점이 없다. D = 0이면 최솟값이 정확히 0이므로 한 점에서만 만나고, 이는 접하는 경우이다. D > 0이면 최솟값이 음수가 되어 위로 열린 이차함수의 그래프가 t축과 두 번 만나므로 두 실근이 존재한다.

따라서 판별식은 광선 또는 광선이 놓인 직선과 구의 교차 구조를 대수적으로 압축한 값이라고 볼 수 있다.

또한
a(t−r1)(t−r2)
= at² − a(r1+r2)t + a r1r2
이므로 계수를 비교하면
r1 + r2 = −b/a,
r1r2 = c/a
를 얻는다.

즉 인수분해는 근과 무관한 별개의 방법이 아니다. 근을 알고 있다면 바로
a(t−r1)(t−r2)
로 인수분해할 수 있다. 반대로 일반적인 계수에서는 인수분해를 위해 바로 그 두 근을 찾아야 할 수 있다. 따라서 정수나 간단한 유리수 계수에서 패턴이 쉽게 보이면 인수분해가 효율적일 수 있지만, 임의의 실수 계수를 입력받는 계산 절차에서는 항상 간단한 인수분해가 존재한다고 가정할 수 없다.
도해 2. 판별식이 표현하는 광선과 구의 위치 관계
D < 0 교점 없음 D = 0 한 점에서 접함 D > 0 두 교점 판별식의 부호가 실제 공간에서의 교차 형태를 결정한다
컴퓨터는 판별식을 이용하여 실제로 제곱근과 두 근을 계산하기 전에 광선이 물체를 만나는지 자체를 먼저 판정할 수 있다.

핵심 결과: 인수분해는 근을 이용한 표현이고, 판별식과 근의 공식은 임의의 이차방정식에 체계적으로 적용할 수 있는 일반적인 구조를 제공한다.

평가 요소 채점 기준 및 감점 요인 배점
일반식 유도 광선과 구의 조건에서 일반적인 이차방정식의 세 계수를 정확히 유도함. 10점
판별식 증명 완전제곱을 이용하여 D의 부호와 교점 개수 사이의 관계를 증명함. 15점
인수분해의 구조 근과 계수의 관계를 유도하고 인수분해가 일반적인 수치 알고리즘으로 항상 간단하지 않은 이유를 논증함. 10점
[문제 3] 컴퓨터는 근의 공식을 그대로 사용해도 되는가: 수치오차와 안정적인 계산 (심층 사고력)
이제 다음 이차방정식을 생각하자.
x² + 108x + 1 = 0
계산 원리를 분명하게 하기 위해 컴퓨터가 모든 수를 유효숫자 8자리까지만 저장한다고 가정한다.

(1) 판별식은
D = 1016 − 4
이다. √D는 정확하게는 108보다 조금 작은 수이지만, 유효숫자 8자리만 저장하면
√D ≈ 1.0000000 × 108
로 저장될 수 있다. 이 값을 근의 공식
x = [−108 ± √D]/2
에 그대로 대입할 때 작은 절댓값을 갖는 근이 0으로 계산될 수 있음을 보이시오.

(2) 실제로 x = 0은 원래 방정식의 근이 아니다. 이러한 현상이 발생하는 원인을 크기가 거의 같은 두 수의 뺄셈이라는 관점에서 설명하시오.

(3) 두 근을 r1, r2라 하면
r1r2 = 1
임을 보이시오.

(4) 큰 절댓값을 갖는 근을
r1 = [−108 − √D]/2 ≈ −108
로 계산한 뒤 근과 계수의 관계를 이용하여
r2 = 1/r1 ≈ −10−8
을 구할 수 있음을 설명하시오.

(5) 일반적인 이차방정식
ax² + bx + c = 0
에서 D = b² − 4ac ≥ 0이고 c ≠ 0이라 하자. 다음을 정의한다.
q = −1/2[ b + sgn(b)√D ]
여기서 sgn(b)는 b > 0이면 1, b < 0이면 −1이라 하자. 한 근을
r1 = q/a
로 계산하고 다른 근을
r2 = c/q
로 계산하면 두 근을 얻을 수 있음을 증명하시오.

(6) 위 방법이 b와 √D의 크기가 비슷할 때 근의 공식의 한쪽 계산에서 발생할 수 있는 큰 상쇄를 피하는 이유를 설명하시오.

(7) 이상의 결과를 바탕으로 다음 질문에 답하는 논술문을 작성하시오.
“컴퓨터는 이차방정식을 풀 때 근의 공식을 사용하는가, 인수분해를 사용하는가?”
답안에는 반드시 기호 계산, 일반적인 수치 계산, 인수분해 가능성, 근의 공식, 수치오차를 모두 언급하시오.
해설 및 모범 채점 기준 확인하기
[문제 풀이]

유효숫자 8자리의 계산에서는
√(1016−4) ≈ 1.0000000 × 108
로 저장될 수 있다. 따라서 작은 근을 직접 계산하면
[−108 + 108]/2 = 0
이 된다. 그러나 원래 방정식에 x = 0을 대입하면 좌변은 1이므로 0은 근이 아니다.

실제 작은 근이 사라진 이유는 절댓값이 거의 같은 두 큰 수를 서로 빼면서 두 수의 미세한 차이에 들어 있던 유효정보가 사라졌기 때문이다. 이러한 현상을 수치 계산에서는 상쇄에 의한 유효숫자 손실로 해석할 수 있다.

한편
x² + 108x + 1 = (x−r1)(x−r2)
이므로 상수항을 비교하면
r1r2 = 1
이다. 큰 근은
r1 ≈ −108
로 안정적으로 계산할 수 있으므로
r2 = 1/r1 ≈ −10−8
을 얻는다.

[안정적인 일반식의 증명]

b > 0이라고 하자. 그러면
q = −(b+√D)/2
이므로
q/a = [−b−√D]/(2a)
이다. 이는 근의 공식의 한 근이다. b < 0인 경우에는
q = −(b−√D)/2
이므로 역시 근의 공식의 한 근을 얻는다.

따라서
r1 = q/a
는 정확한 한 근이다. 근과 계수의 관계에서
r1r2 = c/a
이므로
r2 = c/(a r1) = c/q
이다. 따라서 두 근을 모두 얻는다.

이 계산에서 q는 b와 √D의 부호를 선택하여 절댓값이 큰 두 수를 서로 빼는 대신 같은 방향으로 더하도록 구성되어 있다. 따라서 근의 공식의 한쪽 가지에서 발생할 수 있는 심한 상쇄를 피하고, 다른 근은 근의 곱을 이용하여 계산할 수 있다.

[논술 답안의 핵심]

“컴퓨터는 근의 공식을 사용하는가, 인수분해를 사용하는가?”라는 질문에는 둘 중 하나만 사용한다고 답하기 어렵다.

문자의 계수를 다루는 기호 계산에서는 식을 정확하게 단순화하거나 구조를 보여 주기 위해 인수분해를 사용할 수 있다. 특히 정수나 유리수 범위에서 간단한 인수분해가 존재하면 매우 유용하다.

그러나 임의의 실수 계수가 주어지는 수치 계산에서 먼저 사람이 하는 방식으로 정수 인수를 찾아내는 것은 일반적인 방법이 아니다. 간단한 인수분해가 존재하지 않을 수도 있기 때문이다. 이 경우 판별식과 제곱근을 이용하는 이차방정식 해법이 더 체계적이다.

그렇다고 학교에서 배운 근의 공식을 컴퓨터가 항상 문자 그대로 계산하면 된다는 뜻도 아니다. 컴퓨터는 유한한 자릿수로 수를 표현하므로 거의 같은 두 큰 수를 빼는 과정에서 심한 반올림 오차가 생길 수 있다. 따라서 실제 수치 계산에서는 수학적으로 동치이면서도 오차가 덜 발생하도록 변형한 계산식을 사용하는 것이 중요하다.

결국 컴퓨터의 계산 방법을 결정하는 기준은 “인수분해인가 근의 공식인가”라는 단순한 선택이 아니라, 입력값의 성격, 정확한 기호 결과가 필요한지 여부, 계산량, 그리고 수치적 안정성이다.
도해 3. 같은 근의 공식도 계산 순서에 따라 정확도가 달라질 수 있다
x² + 10⁸x + 1 = 0 직접 계산 −10⁸ + √D 거의 같은 수의 뺄셈 안정적인 계산 큰 근을 먼저 계산 다른 근은 곱 관계 이용 작은 근 → 0으로 손실 가능 작은 근 ≈ −10⁻⁸ 수학적으로 같은 식 ≠ 컴퓨터에서 항상 같은 정확도
실수 계산에서는 대수적으로 동치인 두 공식도 반올림 과정 때문에 서로 다른 정확도를 가질 수 있다. 따라서 컴퓨터 알고리즘에서는 정답 공식 자체뿐 아니라 계산 과정의 안정성도 중요하다.

결론: 컴퓨터는 상황에 따라 인수분해나 근의 공식을 모두 활용할 수 있지만, 일반적인 수치 계산에서는 근을 체계적으로 계산하면서도 반올림 오차를 줄이는 수치적으로 안정적인 알고리즘이 중요하다.

평가 요소 채점 기준 및 감점 요인 배점
수치오차 분석 유효숫자 제한으로 작은 근이 소실되는 과정을 정확히 설명함. 10점
안정식 유도 근과 계수의 관계를 이용하여 q/a와 c/q가 두 근이 됨을 증명함. 15점
종합 논술 인수분해·근의 공식·기호 계산·수치 계산·수치적 안정성을 구분하여 컴퓨터의 해법 선택을 논증함. 15점

수학적 결론

인수분해와 근의 공식은 서로 경쟁하는 두 개의 완전히 다른 수학이 아니다. 이차식의 두 근을 r1, r2라고 하면 이차식은 결국 a(x−r1)(x−r2)로 표현된다. 따라서 인수분해는 근의 구조를 직접 드러내는 표현이라고 볼 수 있다.

계수가 간단하고 근이 정수나 유리수로 쉽게 예상되는 문제에서는 인수분해가 가장 빠르고 명확한 방법일 수 있다. 그러나 컴퓨터가 임의의 실수 계수를 입력받는 상황에서는 항상 간단한 인수분해가 존재한다고 가정할 수 없다. 이때 판별식과 이차방정식의 일반적인 해법은 보다 체계적인 방법을 제공한다.

그러나 컴퓨터는 실수를 무한히 정확하게 저장하지 못한다. 따라서 학교에서 배우는 근의 공식을 수학적으로 정확하게 적었다고 해서 그 계산 순서까지 항상 최선인 것은 아니다. 거의 같은 두 큰 수를 빼는 과정에서는 작은 차이에 들어 있는 정보가 사라질 수 있기 때문이다.

이에 따라 실제 수치 계산에서는 근의 공식과 근과 계수의 관계를 결합하여 상쇄를 피하는 등 수학적으로 동치이면서도 더 안정적인 계산 절차를 사용할 수 있다.

결국 컴퓨터 수학에서 중요한 질문은 “어떤 공식을 알고 있는가?”보다 “같은 수학적 결과를 어떤 계산 순서로 얻어야 빠르고 안정적인가?” 라고 할 수 있다.

© 2026 청랑학습코칭(JADEWOLVES). All Rights Reserved. 무단 전재 및 재배포 금지.

함께보기 좋은 자료

  • 늘어가는 N수생 27년 정시 경쟁률은?

    2027 정시 심층 전망 N수생 17만3,706명 시대 서울 주요 대학 정시는 얼마나 치열해질까? 2022학년도 13만4천 명 수준이던 수능 졸업생 지원자가 2027학년도 17만3천 명을 넘어섰다. 하지만…

  • 파크 골프 열풍 스크린으로 이어져 생활 스포츠 역사

    청랑 배경지식 · 동양 근현대사를 중심으로 서양 고대·근현대사를 함께 읽는 오늘의 생활체육 사람들은 운동하러 모이지만 오래 남는 이유는 운동 밖의 관계에도 있다 스크린 파크골프 열풍에서…

  • 영화’기생충’ 제작사 위기에 직면하다

    청랑 배경지식 · 서양 근현대사에서 읽는 오늘의 콘텐츠 산업 걸작은 한 번의 성공으로 남지만 기업은 성공을 반복할 구조가 있어야 살아남는다 영화 ‘기생충’ 제작사의 위기에서 만나는…

  • [수능 수학] 확률 조합 문제 1

    수학 · 확률과 통계 서로소와 확률의 덧셈정리 응용 확률 문제 실전 문제 주머니 속에 1부터 10까지의 자연수가 각각 하나씩 적힌 구슬 10개가 들어 있다. 이…

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다