위험한 오류로 AI 건강 요약 삭제…구글 검색, 이제 뭘 믿어야 할까

구글의 ‘AI 경험 요약(AI Overviews)’은 검색 결과 맨 위에서 핵심만 뽑아 주는 기능입니다. 그런데 최근 건강 관련 검색에서 “위험할 수 있는” 수준의 오류가 확인되면서, 구글이 일부 요약을 실제로 내려버렸습니다.¹ 이번 이슈는 단순한 실수가 아니라 “AI가 무엇을 먹고 자라 답을 만드는지”라는 구조적 문제를 드러냅니다. 오늘은 왜 이런 일이 생겼는지, 아직도 남아 있는 리스크는 뭔지, 그리고 우리가 검색을 어떻게 써야 안전한지까지 한 번에 정리해볼게요.

Google AI Overviews 건강 요약 논란, 무슨 일이었나

발단은 건강 관련 검색어에서 AI 요약이 검사 수치나 의학 정보를 ‘그럴듯하게’ 정리해 주는데, 그 내용이 상황에 따라 달라져야 하는 중요한 조건(성별, 나이, 개인 상태 등)을 놓치거나 엉뚱한 결론으로 이어질 수 있었다는 점입니다.²

특히 간 기능 검사(LFT)처럼 숫자만 보면 쉬워 보이지만 실제로는 여러 지표를 함께 해석해야 하는 주제에서, 잘못된 기준값을 제시하면 사용자가 “정상인가 보다”라고 오해하고 병원 방문을 미룰 위험이 생깁니다.³ 구글은 이런 문제 사례가 확인된 일부 검색어에 대해 AI 요약을 제거했습니다.¹

“AI가 틀렸다”보다 더 큰 문제: 설계가 만드는 오해

핵심은 “AI가 가끔 환각한다” 수준을 넘어, 기능 설계 자체가 오해를 키울 수 있다는 점입니다.

AI 경험 요약은 기본적으로 웹에서 상위 랭킹을 받은 결과들을 바탕으로 요약을 만들도록 설계되어 있습니다. 문제는 그 상위 랭킹 결과가 항상 ‘정확’과 동의어가 아니라는 것에 있습니다. SEO 조작 콘텐츠나 스팸성 글이 알고리즘을 뚫고 올라오면, 그 정보가 AI 요약의 재료로 들어갈 수 있습니다. 그러면 사용자는 ‘검색 1페이지의 그럴듯한 글’이 아니라, ‘구글이 공식처럼 말해주는 한 단락’으로 받아들이게 되죠.

즉, 웹 생태계의 약점(낚시성 최적화, 얕은 재작성 콘텐츠)이 AI 요약을 통해 더 권위 있어 보이는 형태로 포장될 수 있다는 게 진짜 위험입니다.

신뢰할 만한 출처를 써도 AI가 결론을 망칠 수 있다

여기서 한 번 더 꼬이는 지점이 있습니다. 재료가 좋아도 요리가 실패할 수 있다는 것.

AI 모델은 원래 ‘문장을 그럴듯하게 이어 붙이는’ 데 강합니다. 하지만 건강 정보처럼 조건이 많은 분야에서는, 같은 사실을 가져와도 맥락을 잘못 잡아 엉뚱한 결론을 만들 수 있습니다. 예를 들어 특정 암 환자 식이처럼 “상황에 따라 정반대 조언이 맞는” 주제는, 요약 과정에서 전제가 빠지는 순간 위험한 일반화가 됩니다.⁴

기술 자체가 사실 정확도를 보장해 주지 않는다는 말이 여기서 현실이 됩니다. “출처 링크가 있으니 맞겠지”가 아니라, “요약이 전제를 보존했는지”가 더 중요해지는 거예요.

AI 요약이 ‘아직도’ 뜨는 검색어 변형이 더 무섭다

구글이 일부 요약을 내렸다고 해도 안심하긴 이릅니다. 같은 의미를 가진 검색어라도 표현을 살짝 바꾸면 AI 요약이 다시 뜨고, 문제의 답변이 재등장하는 경우가 관찰됐습니다.³

이게 왜 더 무섭냐면, 사용자는 “어제 봤던 그 답”이 아니라 “오늘 처음 보는 구글의 요약”으로 받아들이고, 요약 톤이 워낙 단정적이라 신뢰도 버프를 크게 받기 때문입니다. 틀린 정보일수록 확신에 찬 말투로 다가오면 파괴력이 커집니다.

건강 검색에서 내가 지켜야 할 ‘안전한 사용법’

AI 요약은 빠르고 편합니다. 하지만 건강 주제에서는 “빠름”이 “정답”이 아니어도 됩니다.

검사 수치, 약 복용, 증상 해석처럼 행동을 바꾸게 만드는 정보라면 AI 요약은 ‘초벌 메모’ 정도로만 보고, 반드시 신뢰 가능한 의료기관·공공 보건기관 정보로 교차 확인하거나 의료 전문가 상담으로 연결하는 습관이 필요합니다.²

그리고 요약이 보여주는 숫자, 기준, 빈도 같은 디테일이 나오면 오히려 경계심을 높이세요. 숫자는 신뢰감을 주지만, 의료 숫자는 전제가 없으면 의미가 반쯤 사라지거든요. “나이/성별/질환/복용약/검사방법” 같은 조건이 언급되지 않은 숫자는 특히 위험 신호입니다.

시사점 내용 (핵심 포인트 정리 + 개인적인 생각 또는 실용적 조언)...

구글이 일부 AI 건강 요약을 제거한 건 “AI가 틀릴 수 있다”는 사실을 인정한 조치입니다.¹ 하지만 더 본질적인 교훈은 따로 있어요. 첫째, AI 요약은 웹 랭킹 생태계의 문제를 압축해서 보여줄 수 있습니다. 둘째, 출처가 있어도 요약 과정에서 전제가 증발하면 결론이 바뀝니다. 셋째, 검색어를 살짝만 바꿔도 위험한 요약이 다시 뜰 수 있습니다.³

개인적으로는, 앞으로 건강 검색에서 가장 중요한 역량은 ‘검색 스킬’이 아니라 ‘판별 스킬’이라고 봅니다. AI 요약을 끄는 것보다 더 현실적인 방법은, AI 요약을 “결론”이 아니라 “질문을 정교하게 만드는 도구”로 쓰는 겁니다. 요약을 읽고 불안해지거나 안심되기 전에, 그 요약이 빠뜨린 조건이 뭔지부터 체크해 보세요. 그 한 번의 멈춤이, 가장 값싼 보험입니다.

참고

¹‘Dangerous and alarming’: Google removes some of its AI summaries after users’ health put at risk | Google | The Guardian

²Google AI Overviews put people at risk of harm with misleading health advice | Google | The Guardian

³Google removes some AI summaries after investigation uncovers false information given to users: 'Completely wrong [and] really dangerous'

⁴Google's AI Overviews Caught Giving Horrifically Dangerous "Health" Advice