함수의 극한과 연속성

수열의 극한에서 함수의 극한으로

앞 장에서 수열의 극한은 "항이 충분히 뒤로 가면 어떤 값에 가까워진다"는 뜻이었다. 함수의 극한도 핵심은 같다. 다만 수열에서는 자연수 (n)이 커졌고, 함수에서는 입력값 (x)가 어떤 실수 (a)에 가까워진다.

[ lim_{xto a} f(x)=L ]

이라는 표현은 "(x)가 (a)에 가까워질 때 (f(x))가 (L)에 가까워진다"는 뜻이다. 여기서 중요한 점은 (x=a)에서의 함수값이 아니라, (a) 주변에서 함수값이 어떻게 움직이는가이다. 그래서 극한을 볼 때는 보통 (xneq a)인 값들을 관찰한다.

예를 들어

[ f(x)=frac{x^2-1}{x-1} ]

을 보자. 이 함수는 (x=1)에서 정의되지 않는다. 하지만 (xneq 1)이면

[ frac{x^2-1}{x-1}=frac{(x-1)(x+1)}{x-1}=x+1 ]

이므로 (x)가 1에 가까워질 때 함수값은 2에 가까워진다. 따라서

[ lim_{xto 1}frac{x^2-1}{x-1}=2 ]

이다. 극한은 "그 점에서 실제로 얼마인가"보다 "그 점으로 다가갈 때 어디로 향하는가"를 묻는다. 함수가 그 점에서 정의되어 있지 않아도, 주변 값들이 일정한 방향으로 가까워진다면 극한은 존재할 수 있다.

조금 더 엄밀하게 말하면, (lim_{xto a} f(x)=L)이라는 것은 (f(x))와 (L) 사이의 거리 (|f(x)-L|)을 원하는 만큼 작게 만들 수 있다는 뜻이다. 그러기 위해 (x)와 (a) 사이의 거리 (|x-a|)를 충분히 작게 잡으면 된다. 다만 (x=a) 자체를 넣는 것이 아니라, (x)가 (a)에 가까이 있지만 (a)와 같지는 않은 경우를 본다.

이를 기호로 쓰면 다음과 같다.

[ forall varepsilon>0, exists delta>0 text{such that} 0<|x-a|<delta Rightarrow |f(x)-L|<varepsilon. ]

처음 보면 기호가 조금 낯설지만, 말로 풀면 단순하다. (f(x))를 (L)에 (varepsilon)만큼 가까이 붙이고 싶다면, (x)를 (a)에 (delta)만큼 가까이 붙이면 된다는 뜻이다. 수열의 입실론-엔 논법에서 보았던 "거리로 가까움을 표현하는 방식"이 함수에서는 입실론-델타 논법으로 이어진다.

AI 생성 이미지

좌극한과 우극한

함수의 입력값 (x)가 (a)에 가까워지는 방법은 두 가지가 있다. (a)보다 작은 쪽에서 다가갈 수도 있고, (a)보다 큰 쪽에서 다가갈 수도 있다.

[ lim_{xto a^-} f(x) ]

은 (x)가 (a)보다 작은 값들을 지나며 (a)에 가까워질 때의 극한이다. 이를 좌극한이라고 한다.

[ lim_{xto a^+} f(x) ]

은 (x)가 (a)보다 큰 값들을 지나며 (a)에 가까워질 때의 극한이다. 이를 우극한이라고 한다.

함수의 극한 (lim_{xto a} f(x))이 존재하려면 좌극한과 우극한이 모두 존재하고, 두 값이 같아야 한다.

[ lim_{xto a^-} f(x)=lim_{xto a^+} f(x)=L ]

일 때에만

[ lim_{xto a} f(x)=L ]

이라고 말할 수 있다.

예를 들어 계단처럼 정의된 함수

[ f(x)= begin{cases} 0, & x<0,\ 1, & xge 0 end{cases} ]

를 보자. (x)가 0보다 작은 쪽에서 0으로 다가가면 함수값은 계속 0이다. 따라서 좌극한은 0이다. 반면 (x)가 0보다 큰 쪽에서 0으로 다가가면 함수값은 계속 1이다. 따라서 우극한은 1이다.

[ lim_{xto 0^-} f(x)=0, qquad lim_{xto 0^+} f(x)=1 ]

좌극한과 우극한이 다르므로 (lim_{xto 0} f(x))는 존재하지 않는다. 이처럼 함수의 극한은 한쪽 방향만 보고 판단하면 안 된다. 왼쪽에서 보이는 모습과 오른쪽에서 보이는 모습이 같은지 반드시 함께 확인해야 한다.

기본 함수의 극한 계산

극한 계산의 첫 번째 전략은 직접 대입이다. 다항함수는 모든 실수에서 자연스럽게 이어져 있으므로, (xto a)일 때 그냥 (x=a)를 넣으면 된다.

[ lim_{xto 2}(x^2+3x-1)=2^2+3cdot2-1=9 ]

유리함수도 분모가 0이 되지 않는 곳에서는 직접 대입할 수 있다.

[ lim_{xto 1}frac{x+2}{x^2+1}=frac{3}{2} ]

문제는 대입했을 때 (0/0) 꼴이 나오는 경우다. (0/0)은 값을 뜻하는 것이 아니라 "아직 판단할 수 없다"는 신호에 가깝다. 이때는 함수가 정말로 이상해지는지, 아니면 식의 모양 때문에 일시적으로 계산이 막힌 것인지 확인해야 한다. 앞에서 본 것처럼 인수분해로 약분할 수 있으면 약분한 뒤 극한을 구한다.

[ lim_{xto 3}frac{x^2-9}{x-3} =lim_{xto 3}frac{(x-3)(x+3)}{x-3} =lim_{xto 3}(x+3)=6 ]

여기서 약분은 (x=3)에서 값을 계산하려고 하는 것이 아니라, (xneq 3)인 주변 값들에 대해 같은 식으로 바꾸는 과정이다. 극한에서는 바로 그 주변 값들의 움직임을 보기 때문에 이런 변형이 가능하다.

근호가 있는 식에서는 켤레식을 곱하는 방법이 자주 쓰인다.

[ lim_{xto 0}frac{sqrt{x+1}-1}{x} ]

은 바로 대입하면 (0/0)이다. 분자와 분모에 (sqrt{x+1}+1)을 곱하면

[ frac{sqrt{x+1}-1}{x}cdotfrac{sqrt{x+1}+1}{sqrt{x+1}+1} =frac{x}{x(sqrt{x+1}+1)} =frac{1}{sqrt{x+1}+1} ]

이므로 극한은

[ frac{1}{2} ]

이다.

삼각함수의 극한에서는 다음 기본 극한이 중요하다.

[ lim_{xto 0}frac{sin x}{x}=1 ]

이 공식은 (x)를 라디안으로 잴 때 성립한다. 이를 이용하면

[ lim_{xto 0}frac{sin 3x}{x} =lim_{xto 0}3cdotfrac{sin 3x}{3x}=3 ]

처럼 계산할 수 있다. 또한 (cos x)는 (xto 0)일 때 1에 가까워지므로, 삼각함수의 극한은 식을 기본형으로 바꾸는 것이 핵심이다.

극한 계산에서 중요한 태도는 "일단 대입하고, 막히면 구조를 바꾸는 것"이다. 인수분해, 약분, 통분, 켤레식, 기본 삼각극한은 모두 같은 목적을 가진다. 함수가 실제로 어디로 향하는지 드러나도록 식을 정리하는 것이다.

연속성: 끊어지지 않는다는 말의 수학적 의미

함수 (f)가 (x=a)에서 연속이라는 말은 그래프가 그 점에서 끊어지지 않는다는 직관을 수학적으로 표현한 것이다. 하지만 "끊어지지 않는다"는 말은 모호하다. 그래서 다음 세 조건으로 바꾸어 말한다.

1. (f(a))가 정의되어 있다.

2. (lim_{xto a} f(x))가 존재한다.

3. (lim_{xto a} f(x)=f(a))이다.

즉, 함수가 (a)에서 연속이려면 그 점의 함수값이 있어야 하고, 주변에서 다가오는 값들의 극한도 있어야 하며, 그 둘이 같아야 한다.

예를 들어 (f(x)=x^2)은 모든 실수 (a)에서

[ lim_{xto a}x^2=a^2=f(a) ]

이므로 모든 실수에서 연속이다. 반면

[ f(x)= begin{cases} frac{x^2-1}{x-1}, & xneq 1,\ 5, & x=1 end{cases} ]

은 (x=1)에서 함수값이 5이지만, 극한은 2이다. 따라서 (x=1)에서 연속이 아니다. 그래프를 그리면 (x=1) 근처에서는 (y=x+1)처럼 보이지만, 실제 점 하나가 ((1,5))에 따로 찍혀 있는 모습이다.

연속성을 볼 때는 반드시 "함수값"과 "극한값"을 구별해야 한다. 함수값은 그 점에서 정해진 값이고, 극한값은 주변에서 접근할 때 향하는 값이다. 두 값이 같을 때 연속이라는 결론을 내릴 수 있다.

불연속의 세 가지 대표 유형

함수가 어떤 점에서 연속이 아니면 불연속이라고 한다. 불연속은 모두 같은 모습이 아니다. 대표적으로 제거 가능 불연속, 점프 불연속, 무한 불연속이 있다.

제거 가능 불연속은 한 점만 고치면 연속으로 만들 수 있는 경우다.

[ f(x)=frac{x^2-1}{x-1} ]

은 (x=1)에서 정의되지 않지만, (xneq 1)에서는 (x+1)과 같다. 극한은 2이므로 (f(1)=2)라고 새로 정의하면 함수는 그 점에서 연속이 된다. 구멍 하나를 메우는 상황이라고 생각하면 된다.

점프 불연속은 좌극한과 우극한이 서로 다른 경우다.

[ f(x)= begin{cases} 0, & x<0,\ 1, & xge 0 end{cases} ]

에서는 (x=0)에서 왼쪽은 0으로, 오른쪽은 1로 간다. 그래프가 계단처럼 뛰어오른다. 이때는 점 하나를 고쳐도 좌우의 차이를 없앨 수 없으므로 제거 가능 불연속이 아니다.

무한 불연속은 함수값이 어떤 유한한 값에 가까워지지 않고 한없이 커지거나 작아지는 경우다.

[ f(x)=frac{1}{x^2} ]

은 (xto 0)일 때 함수값이 (+infty)로 커진다. 이 경우 (x=0) 근처에서 그래프는 수직으로 치솟는다. 엄밀히 말해 (+infty)는 실수 극한값이 아니므로, (x=0)에서 함수의 극한은 실수로 존재하지 않는다.

불연속을 구별하는 기준은 간단하다. 극한이 존재하지만 함수값만 문제라면 제거 가능 불연속이다. 좌극한과 우극한이 다르면 점프 불연속이다. 함수값이 유한한 값에 가까워지지 않고 끝없이 커지거나 작아지면 무한 불연속이다.

연속함수의 계산 법칙

연속함수는 계산하기 편리하다. (f)와 (g)가 (a)에서 연속이면 다음 함수들도 (a)에서 연속이다.

[ f+g, qquad f-g, qquad fg ]

또한 (g(a)neq 0)이면

[ frac{f}{g} ]

도 (a)에서 연속이다. 분모가 0이면 함수 자체가 정의되지 않거나 극한이 달라질 수 있으므로 조건을 확인해야 한다.

합성함수도 연속성이 잘 보존된다. (g)가 (a)에서 연속이고 (f)가 (g(a))에서 연속이면

[ (fcirc g)(x)=f(g(x)) ]

는 (a)에서 연속이다. 예를 들어 (g(x)=x^2+1), (f(u)=sqrt{u})라고 하면

[ (fcirc g)(x)=sqrt{x^2+1} ]

이다. 안쪽 함수 (x^2+1)은 모든 실수에서 연속이고, 그 값은 항상 1 이상이다. 바깥쪽 함수 (sqrt{u})는 이런 양수 범위에서 연속이므로 전체 함수도 모든 실수에서 연속이다.

역함수의 연속성도 중요하다. 직관적으로, 연속인 함수가 어떤 구간에서 한 방향으로만 움직여서 되돌릴 수 있다면 그 역함수도 끊어지지 않는다. 예를 들어 (f(x)=x^3)은 모든 실수에서 연속이고 일대일 함수이며, 역함수 (f^{-1}(x)=sqrt[3]{x})도 모든 실수에서 연속이다. 다만 역함수를 말하려면 먼저 함수가 일대일인지, 그리고 어떤 구간에서 역함수를 정의하는지 확인해야 한다.

이 법칙들 덕분에 복잡한 함수도 기본적인 연속함수의 조합으로 이해할 수 있다. 다항함수, 삼각함수, 지수함수, 로그함수 같은 기본 함수가 연속이고, 이들을 적절히 더하고 곱하고 합성하면 많은 함수의 연속성을 빠르게 판단할 수 있다.

중간값 정리와 해의 존재

연속함수의 중요한 성질 중 하나가 중간값 정리이다. 함수 (f)가 닫힌구간 ([a,b])에서 연속이고, 어떤 값 (M)이 (f(a))와 (f(b)) 사이에 있다면, ([a,b]) 안의 어떤 점 (c)에서

[ f(c)=M ]

이 된다. 특히 (M)이 (f(a))와 (f(b))의 값 사이에 엄격히 놓여 있다면, 그런 (c)는 보통 구간의 안쪽 ((a,b))에서 찾을 수 있다.

쉽게 말해, 연속함수는 한 높이에서 다른 높이로 이동할 때 중간 높이를 건너뛸 수 없다. 그래프가 끊어지지 않는다면 아래에서 위로 올라가는 동안 중간의 모든 높이를 지나야 한다.

이 정리는 방정식의 해가 존재함을 보일 때 자주 사용된다. 예를 들어

[ x^3+x-1=0 ]

이 ((0,1)) 안에 해를 갖는지 보자. 함수

[ f(x)=x^3+x-1 ]

은 다항함수이므로 연속이다. 이제 양 끝값을 계산하면

[ f(0)=-1, qquad f(1)=1 ]

이다. 0은 (-1)과 1 사이에 있다. 따라서 중간값 정리에 의해 어떤 (cin(0,1))가 존재하여

[ f(c)=0 ]

이다. 즉 방정식 (x^3+x-1=0)은 ((0,1)) 안에 적어도 하나의 실근을 가진다.

여기서 주의할 점이 있다. 중간값 정리는 해가 "존재한다"는 것을 말해 줄 뿐, 그 해가 정확히 얼마인지는 알려 주지 않는다. 또한 해가 하나뿐인지 여러 개인지도 별도의 논의가 필요하다. 그래도 해의 존재를 보장한다는 점에서 매우 강력한 도구다.

다음 단계: 미분을 위한 준비

함수의 극한과 연속성은 미분으로 가는 입구다. 미분은 한 점 근처에서 함수가 얼마나 빠르게 변하는지를 묻는다. 이때 평균변화율

[ frac{f(a+h)-f(a)}{h} ]

에서 (hto 0)인 극한을 생각하게 된다. 즉 미분은 함수의 극한을 사용해 순간적인 변화율을 정의하는 개념이다.

연속성은 이 과정에서 기본 안전장치 역할을 한다. 함수가 어떤 점에서 심하게 끊어져 있으면 그 점에서 순간적인 기울기를 말하기 어렵다. 물론 연속이라고 해서 항상 미분 가능한 것은 아니다. 예를 들어 (y=|x|)는 (x=0)에서 끊어지지 않지만, 그래프가 뾰족하게 꺾이기 때문에 그 점에서 하나의 기울기를 정하기 어렵다. 반대로 미분 가능하면 반드시 연속이다. 이 사실은 다음 장에서 자세히 다룬다.

이번 장의 핵심은 세 가지다. 첫째, 함수의 극한은 주변에서 다가갈 때 함수값이 어디로 향하는지를 보는 개념이다. 둘째, 극한의 존재는 좌극한과 우극한이 같은지로 판단한다. 셋째, 연속성은 함수값과 극한값이 일치한다는 조건으로 표현된다. 이 세 가지가 분명해지면 미분의 정의도 훨씬 자연스럽게 이해할 수 있다.