논문작성에서 생성형 AI 활용의 위험성과 주의점

요즘 많은 이들이 생성형 AI를 활용해 글을 다듬거나 작성하는 일이 늘고 있습니다—특히 논문이나 공식 문서에 사용하려고 시도하는 사례도 종종 보입니다. 그러나 이러한 시도에는 분명한 위험 요소가 존재합니다.

가령, 필자의 경우에도 서울시복지재단에서 진행한 연구에 참여해 글을 작성한 적이 있었습니다. 당시에는 “ChatGPT”로 초안을 조금 다듬어 달라고 요청했을 뿐이었지만, 이후 “GPTKILLER”라는 툴에서 GPT 사용률이 높게 나오면서 꽤 곤란한 상황에 부딪힌 적이 있었습니다. 이와 유사하게, 논문을 이미 통과했다고 하더라도 훗날 재검토가 이뤄지는 과정에서 “어떤 특정 구간이 AI로 생성된 흔적이 있다”라는 의혹이 제기될 수 있습니다.

인공지능으로 작성된 논문의 처리 방안이라는 논문에 따르면 생성형 인공지능이 연구의 표절(plagiarism), 저작권 침해(copyright infringement), 저자됨(authorship)에 윤리적, 법적 문제가 있을 수 있으며 연구자의 창작성과 독창성에 악영향을 끼칠 수 있다고 우려한다 는 점을 민감하게 지적하고 있습니다. 생성형 AI가 만든 문장은 겉보기엔 매끄러워 보이지만, 한 번 AI 생성 여부가 의심되면 그동안 쌓아온 연구자의 신뢰도가 단숨에 흔들릴 가능성이 있습니다. 또한, 조선일보가 보도한 기사(생성형 AI가 글 쓰는 과정 역 이용… AI가 표절 잡아낸다(링크))에서도 생성형 AI 검출 도구의 발전으로 인해 ‘94%의 정확도로 AI가 작성한 글을 찾아낼 수 있다' 언급하였습니다.

“그렇다면 이 부분을 어떻게 회피할 수 있을까?”라는 고민에서, 한편으론 “Human-Like Writing GPT”라는 GPTs를 만들어 회피하려는 시도를 하여보았습니다. 이 지침은 짧은 문장과 긴 문장을 의도적으로 섞고, 가벼운 오류나 구어체 등을 넣어 글을 좀 더 인간적으로 보이게끔 하는 방식으로 작성하는 GPTs입니다. (실패한 버전이니 사용하지 않는 것을 권합니다)

Human-Like Writing GPT의 지침

✔ 문장 길이와 구조의 조화
짧은 문장으로 명확하게 전달하고, 긴 문장으로 배경을 풍부하게 설명하며 리듬감을 살린다.

✔ 자연스러운 연결
접속사와 전환어를 활용해 문장이 부드럽게 이어지도록 한다. 예를 들어, "그러나," "따라서," "만약에" 같은 표현을 적절히 사용한다.

✔ 확정 대신 가능성 제시
"Should," "Could," "Might" 같은 표현을 사용해 확신보다는 가능성을 열어둔다.

✔ 다양한 문장 구조 활용
관계절, 부사절을 적극적으로 활용해 문장을 풍성하게 만들고, 분사구문은 최소화한다.

✔ 세련된 어휘 선택
반복되는 단어를 피하고, 생생한 표현으로 감각적인 묘사를 강화한다. 예: "사람이 많았다." → "거리는 활기로 가득 찼다."

✔ 자연스러운 흐름 유지
너무 규칙적인 패턴을 피하고, 약간의 비일관성을 추가해 인간적인 느낌을 살린다.

✔ 감정과 맥락 추가
독자가 공감할 수 있도록 감정적인 요소를 포함하고, 역사적·사회적 배경을 활용해 글에 깊이를 더한다.

✔ 구두점과 형식 조정
쉼표, 세미콜론을 적절히 사용해 가독성을 높이고, 문장 흐름을 자연스럽게 조정한다.

✔ AI가 많이 쓰는 금지 단어 피하기
일정한 단어(예: navigate, resonate, embrace)를 사용하지 않고, 보다 자연스러운 대체 표현을 활용한다.

하지만 실제로 써보면 일정 부분 효과는 있어도 ‘크게’ 상황을 바꿀 정도는 아니었습니다. 이미 고도로 정교해진 AI 검출 알고리즘은, 가벼운 변칙만으로는 완전히 속일 수 없기 때문입니다.

노란색이 AI가 작성하였다고 판정받은 문장이고 하얀색이 인간이 작성하였다고 판정 받은 문장입니다. 처음에는 100% AI가 작성한 문장으로 판정되었지만 위 지침을 통해 조금 개선되기는 하였습니다.

물론 글을 조금 더 ‘사람답게’ 만들어주는 유익한 요소도 있습니다—짧은 문장으로 독자에게 쉼을 주고, 긴 문장으로 풍부한 배경이나 맥락을 덧붙이는 방식이 그렇습니다. 그러나 논문과 같은 공식 문서라면, 이런 스타일 변화가 AI 사용의 “증거 감춤”이나 “글쓰기 혼란”과 연결된다는 의심을 받기 쉽습니다.
자칫 잘못하면 “의도적으로 오류를 넣었다”라는 흔적마저 추적당할 수 있습니다—이러한 상황을 떠올리면, 연구자 입장에서는 신중해질 수밖에 없겠지요.

개인적인 경험을 돌아보면, 작성된 문장을 조금 더 자연스럽게 다듬는 정도라면 생성형 AI가 어느 정도 도움이 되는 건 사실입니다. 다만, 이 도움을 공개적으로 밝히지 않고, 논문의 주된 내용 작성 자체를 AI에 맡기는 것은 별개의 문제입니다. 완성된 후에 재검토 과정에서 문제가 불거질 수도 있고, 학계에서 연구 윤리 위반으로 간주될 여지도 있습니다.

이처럼 생성형 AI를 적극적으로 사용하는 것이 달콤해 보이더라도, 공신력이 요구되는 문서에서는 여전히 ‘직접 쓴 흔적’이 중요하게 여겨집니다. 연구자가 실제로 시간을 들여 고민하고, 문장 하나하나에 의도를 담았다는 느낌이 담겨야 합니다. 설령 시간이 더 걸린다 해도, 스스로 글을 구성하고 수정하는 과정을 밟는 것이 안전합니다.

이 글을 마치며, 언젠가 AI와 함께 글쓰기가 당연한 시대가 도래할 수 있겠지만—아직은 위험 요소가 적지 않다고 판단됩니다. 그래서 “생성형 AI를 논문 등에 사용하는 것을 적극적으로 권하기엔 망설여진다”는 점, 꼭 기억하셨으면 합니다.