모든 STEP 힌트를 공개하면 풀이를 열 수 있습니다.
i(x)=∣f(x)∣라 두면 f가 다항함수이므로 i는 각 점에서 우·좌 미분계수(코너에서만 값이 다를 수 있음)를 갖어요. 이때
h→0+limh∣f(x+h)∣−∣f(x−h)∣=h→0+limhi(x+h)−i(x)+h→0+lim−hi(x−h)−i(x)
로 정리할 수 있어요.
가능한 그래프 모양
f는 최고차항 계수가 1인 삼차함수예요. 아래 그림들은 원문 해설에서 쓰이던 대표적인 분기예요.
(ⅰ) 단순 실근 α에서 f′(α)=0
∣f∣가 꺾이므로 x<α와 x>α에서 위 극한식이 각각 −2f′(x), 2f′(x)처럼 부호가 반대가 돼요. g가 x=α에서 연속이려면 f(α−3)⋅(±2f′(α))가 같아야 하는데, f′(α)=0이면 f(α−3)=0이 필요해요. 그런데 보통 f(α−3)=0이라 모순이 나와요.

(ⅱ) f(α)=f′(α)=0인 중근 꼴(극값 없음에 가깝게)
g는 α에서 연속으로 맞출 수 있지만, g(x)=0의 실근이 α와 α+3 정도로만 잡혀 두 개뿐이라 (나)와 맞지 않아요.

(ⅲ) 극값이 있으나 근 배치가 k<α<β처럼 어긋난 경우
단순 실근 k에서 (ⅰ)와 비슷하게 g가 연속이기 어렵고, 세 실근·두 극값만 두는 다른 배치도 (가)·(나)와 동시에 맞기 어려워요.

(ⅳ) 이차 중근 α, 단순 실근 k, 극값 β가 α<β<k인 경우
x<k와 x>k에서 극한 계수가 ±2f′(x)로 갈라지고, 아래 그림과 같이 (가)(나)를 동시에 만족시키는 유일한 형태로 정리돼요.

이 배치에서 x=k(f(k)=0, f′(k)=0)에 대해 g가 연속이 되려면
f(k−3)⋅(−2f′(k))=f(k−3)⋅(2f′(k))
이어야 해요. f(k)=0이지만 단순 실근이므로 f′(k)=0이니 f(k−3)=0이어야 하고, k−3는 f의 근이므로 k−3=α, 즉
k=α+3⋯⋯㉠
이에요.
g(x)=0의 서로 다른 실근은 이 배치에서 α, β, k, k+3 네 개가 되고(그림 참고), (나)에 의해
α+β+k+(k+3)=7
즉
α+β+2k=4⋯⋯㉡
이에요.
f(x)=(x−α)2(x−k)로 두면(최고차항 1 맞춤)
f′(x)=(x−α)(3x−(2k+α))
이므로 α와 k 사이의 극값점은
β=3α+2k
이에요. ㉡에 대입하면
α+3α+2k+2k=4⇒4α+8k=12⇒α+2k=3⋯⋯㉢
이에요.
㉠과 ㉢을 연립하면 α=−1, k=2이에요. 따라서
f(x)=(x+1)2(x−2)
이고,
f(5)=(5+1)2(5−2)=36×3=108
이에요.
구하는 값은 108이에요.