챗지피티의 대답을 꼭 확인하기

챗지피티도 가끔 헷갈려요

챗지피티는 말을 아주 잘합니다. 그래서 대답을 들으면 이런 생각이 들 수 있어요.

'우와, 진짜 선생님 같다!'

맞아요. 챗지피티는 설명도 잘하고, 글도 잘 쓰고, 어려운 말도 쉽게 바꿔 줍니다. 그런데 아주 중요한 비밀이 하나 있어요.

챗지피티가 자신 있게 말한다고 해서, 그 말이 언제나 맞는 것은 아니에요.

마치 친구가 길을 알려 주면서 "나만 믿어!"라고 말했는데, 사실 그 친구도 길을 잘 모를 수 있는 것과 비슷해요. 목소리는 씩씩하지만, 방향은 틀릴 수 있지요.

챗지피티는 많은 글을 배워서 "이런 질문에는 이런 대답이 어울리겠다" 하고 말을 만듭니다. 그래서 정말 도움이 되는 대답을 할 때도 많지만, 가끔은 모르는 것을 아는 것처럼 말하거나, 없는 이야기를 있는 것처럼 만들어 낼 때도 있어요.

이럴 때 필요한 것이 바로 확인하기입니다.

'환각'은 없는 것을 본 것처럼 말하는 일이에요

어려운 말로, 챗지피티가 틀린 정보를 그럴듯하게 말하는 일을 환각이라고 부릅니다.

환각이라는 말이 조금 무섭게 들릴 수 있어요. 하지만 쉽게 말하면 이런 거예요.

아이가 종이에 과자를 그려 놓고 "여기 진짜 과자가 있어!"라고 말한다고 해 볼게요. 그림은 과자처럼 보이지만, 실제로 먹을 수 있는 과자는 아니지요.

챗지피티의 환각도 비슷합니다. 말은 진짜처럼 보이는데, 실제로는 틀린 내용일 수 있어요.

예를 들어 챗지피티가 이런 식으로 말할 수 있습니다.

"이 책은 2025년에 상을 받았어요."

"그 사람은 이런 말을 했어요."

"이 식물은 물을 하루에 다섯 번 줘야 해요."

그런데 확인해 보면 책이 상을 받은 적이 없거나, 그 사람이 그런 말을 한 적이 없거나, 식물에게 물을 너무 많이 주는 방법일 수도 있어요.

챗지피티가 거짓말을 하려고 일부러 속이는 것은 아니에요. 그냥 잘못 맞힌 말을 자신 있게 내놓을 때가 있는 거예요. 그래서 우리는 챗지피티를 혼내기보다, 이렇게 생각하면 됩니다.

'좋아, 힌트로는 쓸 수 있겠다. 그런데 중요한 건 다시 확인하자.'

특히 꼭 확인해야 하는 대답이 있어요

모든 대답을 무서워할 필요는 없어요. "비 오는 날 재미있는 실내 놀이를 알려 줘" 같은 질문은 조금 틀려도 큰일이 나지 않습니다. 하지만 어떤 대답은 틀리면 곤란해질 수 있어요.

다음과 같은 내용은 꼭 다시 확인해야 합니다.

• 숫자: 날짜, 가격, 거리, 시간, 순위, 통계처럼 정확해야 하는 정보예요.

• 법률: 해도 되는 일과 하면 안 되는 일, 계약, 벌금 같은 내용이에요.

• 건강: 약, 병, 음식 알레르기, 운동, 치료 방법처럼 몸과 관련된 내용이에요.

• 돈: 저축, 투자, 물건 가격, 세금처럼 돈이 오가는 내용이에요.

• 최신 정보: 오늘 뉴스, 최근 유행, 새로 바뀐 규칙처럼 시간이 지나면 달라지는 내용이에요.

• 중요한 숙제 자료: 발표, 보고서, 시험공부에 넣을 사실이나 출처가 필요한 내용이에요.

이런 내용은 챗지피티에게 물어볼 수는 있어요. 하지만 챗지피티의 대답만 보고 바로 믿으면 안 됩니다.

예를 들어 "배가 아픈데 어떤 약을 먹어야 해?"라고 물었을 때, 챗지피티가 어떤 설명을 해 줄 수는 있어요. 하지만 실제로 아프다면 부모님, 선생님, 의사 선생님처럼 책임 있게 도와줄 수 있는 어른에게 꼭 말해야 합니다.

또 "이 법을 어기면 벌금이 얼마야?"라고 물었을 때도 마찬가지예요. 법은 나라, 지역, 날짜에 따라 바뀔 수 있습니다. 이런 것은 정부 기관, 공식 안내문, 전문가의 도움으로 다시 확인해야 합니다.

믿을 만한 곳에 다시 물어봐요

챗지피티의 답이 맞는지 확인할 때는 믿을 만한 곳을 찾아야 합니다.

믿을 만한 곳이란 "아무나 쓴 글"이 아니라, 책임지고 알려 주는 곳이에요. 어린이라면 혼자 판단하기 어려울 수 있으니 어른과 함께 확인하면 더 안전합니다.

예를 들어 숙제 자료는 교과서, 학교에서 나눠 준 자료, 도서관 책, 백과사전, 박물관이나 공공기관의 자료에서 확인하면 좋습니다. 건강은 병원이나 의사, 약사는 약국, 법이나 규칙은 정부나 학교의 공식 안내를 확인하는 것이 좋아요. 돈과 관련된 일은 부모님이나 전문가와 함께 살펴봐야 합니다.

확인은 어렵고 귀찮은 일이 아니라, 안전벨트를 매는 일과 비슷해요.

자동차를 탈 때 안전벨트를 맨다고 해서 자동차가 나쁜 것은 아니지요. 더 안전하게 가려고 매는 거예요. 챗지피티의 대답도 마찬가지입니다. 좋은 도우미이지만, 중요한 길을 갈 때는 확인이라는 안전벨트를 매야 합니다.

챗지피티에게 이렇게 다시 물어보세요

챗지피티의 대답을 더 안전하게 만들고 싶다면, 처음 질문 뒤에 한 번 더 물어보면 됩니다.

다음 세 문장은 아주 유용합니다.

• "출처를 알려 줘."

• "확실한 것과 추측을 나눠 줘."

• "틀릴 수 있는 부분을 표시해 줘."

하나씩 살펴볼게요.

"출처를 알려 줘"는 "이 말을 어디에서 알았는지 알려 줘"라는 뜻입니다. 챗지피티가 출처를 말해 주면, 그 출처가 진짜인지 다시 확인할 수 있어요. 다만 여기서도 조심해야 합니다. 챗지피티가 가끔 출처 이름을 잘못 말하거나, 없는 자료를 있는 것처럼 말할 수도 있기 때문이에요. 그래서 출처도 한 번 눌러 보거나, 직접 찾아보는 습관이 필요합니다.

"확실한 것과 추측을 나눠 줘"는 아주 좋은 말입니다. 확실한 것은 비교적 믿을 수 있는 내용이고, 추측은 "아마 그럴 수 있다"에 가까운 내용이에요. 사과와 귤을 따로 바구니에 담듯이, 확실한 말과 아직 모르는 말을 나누는 것입니다.

"틀릴 수 있는 부분을 표시해 줘"는 챗지피티에게 스스로 조심할 곳을 찾게 하는 말이에요. 답변 속에 위험한 부분, 오래된 정보일 수 있는 부분, 다시 확인해야 하는 부분을 표시해 달라고 부탁하는 것입니다.

이렇게 물어볼 수 있어요.

네 대답에서 꼭 확인해야 할 부분을 표시해 줘. 특히 숫자, 날짜, 최신 정보가 있으면 따로 알려 줘.

또 이렇게 물어볼 수도 있어요.

이 답변을 '확실한 내용', '확인 필요한 내용', '추측한 내용'으로 나눠 줘.

이런 질문을 하면 챗지피티의 대답을 더 조심스럽게 볼 수 있습니다.

초록불, 노란불, 빨간불로 나누어 보기

챗지피티의 대답을 볼 때 신호등처럼 생각해 보세요.

초록불은 가볍게 참고해도 되는 내용입니다. 예를 들어 "친구 생일 카드 문구를 추천해 줘"나 "책상 정리 방법을 알려 줘" 같은 대답은 크게 위험하지 않아요.

노란불은 한 번 확인하면 좋은 내용입니다. 예를 들어 "세종대왕은 언제 태어났어?" "지구에서 달까지 거리는 얼마나 돼?"처럼 사실이 들어 있는 대답은 책이나 믿을 만한 사이트에서 확인하면 좋습니다.

빨간불은 꼭 어른이나 전문가와 확인해야 하는 내용입니다. 건강, 돈, 법, 안전, 개인정보와 관련된 일은 빨간불입니다. 빨간불에서는 멈추고, 확인하고, 조심해야 해요.

이렇게 생각하면 챗지피티의 대답을 무조건 믿지도 않고, 무조건 겁내지도 않을 수 있습니다.

챗지피티는 '정답 도장'이 아니라 '생각 도우미'예요

챗지피티의 대답을 받을 때, 마음속에 작은 도장을 하나 떠올려 보세요.

그 도장에는 "최종 정답!"이라고 쓰여 있지 않습니다.

대신 이렇게 쓰여 있어요.

"초안."

"힌트."

"생각을 시작하는 재료."

초안은 처음 만든 글입니다. 아직 고칠 수 있어요. 힌트는 길을 찾게 도와주는 작은 표시입니다. 생각 재료는 내가 더 좋은 생각을 만들기 위해 사용하는 블록입니다.

챗지피티가 준 답을 그대로 복사해서 내 답처럼 쓰기보다, 이렇게 해 보세요.

먼저 챗지피티의 대답을 읽습니다. 그다음 이상한 부분이 없는지 살펴봅니다. 중요한 숫자나 날짜가 있다면 다시 확인합니다. 마지막으로 내 말로 바꾸고, 내가 이해한 내용만 사용합니다.

그러면 챗지피티는 위험한 지름길이 아니라, 든든한 연습 친구가 됩니다.

함께 연습해 보기

이제 짧게 연습해 볼게요.

챗지피티가 이렇게 말했다고 해 봅시다.

거북이는 모두 200년 이상 살아요.

이 말은 그럴듯해 보이지만 "모두"라는 말이 너무 커요. 모든 거북이가 200년 이상 사는 것은 아닐 수 있습니다. 종류마다 다르고, 사는 환경에 따라 다를 수 있어요. 이럴 때는 이렇게 다시 물어볼 수 있습니다.

거북이의 수명에 대해 확실한 것과 종류마다 다른 점을 나눠서 설명해 줘. 틀릴 수 있는 부분도 표시해 줘.

또 챗지피티가 이렇게 말했다고 해 봅시다.

내일 오후 3시에 비가 올 거예요.

날씨는 계속 바뀝니다. 챗지피티가 최신 날씨를 정확히 모를 수도 있어요. 이럴 때는 날씨 앱이나 기상청 같은 곳에서 다시 확인해야 합니다.

이번에는 이런 대답을 생각해 볼게요.

머리가 아프면 이 약을 먹으면 돼요.

이건 빨간불입니다. 약은 사람마다 맞는 것이 다를 수 있어요. 나이, 몸 상태, 알레르기, 이미 먹고 있는 약에 따라 달라집니다. 그래서 꼭 보호자나 의사, 약사에게 물어봐야 합니다.

확인하는 사람은 겁이 많은 사람이 아닙니다. 확인하는 사람은 똑똑하게 도구를 쓰는 사람입니다.

오늘의 만능 확인 질문

챗지피티의 대답을 받은 뒤, 아래 문장을 붙여 보세요.

이 답변에서 확실한 내용, 확인이 필요한 내용, 추측한 내용을 나눠 줘. 그리고 숫자, 날짜, 건강, 돈, 법, 최신 정보처럼 꼭 다시 확인해야 할 부분을 표시해 줘.

이 문장은 아주 든든한 돋보기입니다. 그냥 대답을 보는 것보다, 어디를 조심해서 봐야 하는지 더 잘 알 수 있어요.

꼭 기억해요

챗지피티는 똑똑한 말친구입니다. 하지만 말친구가 언제나 정답을 말하는 것은 아니에요.

중요한 것은 꼭 다시 확인해야 합니다.

챗지피티가 자신 있게 말해도, 우리는 이렇게 생각하면 됩니다.

"좋은 힌트야. 이제 내가 한 번 더 확인해 볼게."

이 태도를 가지면 챗지피티를 훨씬 더 안전하고 똑똑하게 사용할 수 있습니다.