'AI 검색은 투자 고수라는데?'…진화하는 불법 리딩방

뉴스 내용을 보면 '김태철 웰스파고 CEO’라는 가상의 인물을 만들어 AI 검색 악용…수개월 전부터 허위정보 뿌려 '작업', 수개월간 인터넷 곳곳에 허위 정보를 뿌려놓고, 정보를 단순히 요약 정리해주는 AI 검색 결과를 내세워 투자자를 현혹하는 식의 수법들이 이루어지고 있다고 합니다.

정리하자면, AI가 요약해주는 정보를 통해 기존 검색보다도 신뢰를 더 얻은 사람들이 조작된 정보를 바탕으로 투자를 하게 된다는 것입니다. AI 열풍이 불면서 예전에 작성한 글 처럼 별별 AI 활용 사기 수법이 다 늘고 있긴하지만 (GPT로 투자, 무료로 돈 벌게 해주겠다... 믿지마세요 )

벌써 이 구글의 SGE라는 AI가 핵심 출처 3-4가지를 제시하고 이 내용들의 종합해 핵심 내용을 생성해주는 서비스를 악용한 사례가 늘고 있다고 해서 참 이런 쪽으로 사기치려는 사람들은 빠르구나 싶었습니다.

대충 이들이 사용한 수법의 개념을 설명드리고자합니다.

SGE (Search Generative Experience)

뉴스에서 저렇게 웰스파고 CEO에 대한 내용을 요약해서 알려준 기능은 구글이 이번에 검색 엔진에 새롭게 도입한 SGE입니다.

구글 서치랩스는 오른쪽 상단의 버튼을 누르거나 구글랩 에서 신청 가능하며, 신청하지 않아도 앞으로 순차적으로 사용 가능하게 할 수 있도록 도입 중입니다. 현재 신청하면, SGE (Search Generative Experience) 라는 기능을 먼저 사용해볼 수 있는데요.

• SGE는 사용자의 검색 쿼리에 대한 응답을 생성하고 전통적인 링크 목록 앞에 삽입하여 사용자가 질문이 있을 경우 챗봇과 유사한 인터페이스로 전환할 수 있게 한다.

• SGE는 웹의 출처를 일부 인용하며 생성 AI는 웹사이트 콘텐츠를 훈련하는데 사용되고 응답을 생성한다.

• 구글의 검색 엔진 + 생성형 AI의 요약 기능으로 정보 검색에 있어서 더 만족스러운 경험을 제공

REO (RAG Engine Optimization)

구글은 여전히 정보 검색 시에 가장 높은 비율로사용되고 있으며, 구글 등 검색 엔진에서 SEO(Search Engine Optimization)는 키워드를 검색창에 상위 노출 시키기 위해서 중요한 개념입니다. 그러나 AI로 만들어진 컨텐츠들이 생성되고 AI가 핵심적인 정보를 찾아오고 요약해 오기 시작하면서 SEO는 새로운 국면을 맞이하게 되었습니다. 구글은 구글 AI 스팸 콘텐츠를 걸러 내도록 SEO 랭킹 알고리즘 변경 발표 하였고 AI로 부터 정보를 추천이 되도록 최적화 하는 REO라는 개념이 새롭게 등장하였습니다.

혹은 개인화 된 추천에 초점을 맞추어 Recommendation Engine Optimization의 줄임말이기도 합니다. 여기서 REO의 주요 목표는 개인화된 추천을 제공하여 사용자 경험을 향상시키는 것입니다. 사용자의 선호도에 맞는 콘텐츠나 제품을 예측하고 제안하여 참여도와 만족도를 높이는 데 중점을 두고 있습니다.확실한 정의는 아니고 둘 다 이제 막 제안 된 개념으로 보입니다.

아무튼 REO는 구글 뿐 아니고 ChatGPT 등 대화형 AI나 챗봇, 지식 기반의 질의응답 시스템 등에서 활용될 수 있습니다. RAG 시스템은 먼저 주어진 질문이나 프롬프트와 관련된 정보를 대규모의 데이터셋이나 데이터베이스에서 검색하고, 이를 기반으로 사용자에게 유용하고 정확한 답변을 생성합니다.

RAG는 문장 생성 기술의 관점에서 Retrieval-Augmented Generation의 약자입니다. RAG를 사용하면 AI가 정확한 정보를 가져와서 답변을 생성하게 도와줄 수 있습니다. 즉, 검색 결과를 바탕으로 사용자의 질문과 결합하여 대답하기 용이하게 하는 기술이죠. RAG (retrieval augmented generation) 이란? 새로운 패러다임 : 검색 증강 생성

한 편, SEO는 검색어를 이용하여 검색 엔진에서 검색결과를 최적화하는 기술입니다. 예를 들어, 틸노트에 관해 ChatGPT에 대해 물었을 때, 어떤 블로그에서 틸노트에 대해 설명한 내용을 찾아와서 요약하거나 AI가 검색엔진 학습을 통해 좋은 내용만 나올 수 있도록 조정하는게 REO라고 할 수 있겠죠. 빙에 올라간 내용의 경우 ChatGPT가 주기적으로 검색 내용을 학습하는 것으로 보여 굳이 RAG를 사용하지 않아도 학습된 내용을 바탕으로 해당 내용을 최신으로 이야기도 해줍니다.

REO를 잘 시키기 위해서는 인공지능 기술과 추천 알고리즘에 이해가 필요합니다. 이전 SEO에서 통용 되던 규칙들이 잘 적용되지 않습니다. 이를 테면, SEO를 높이기 위해서는 블로그 작성시에 첫 문단이 제일 중요하다던지, 핵심 키워드를 5-6번 넣어야 한다던지 말이죠. (물론 사이트마다 규칙은 다르고 매번 달라집니다.)

REO는 현재 정의도 완전하진 못하고 계속 발전해 나가고 있지만, 상대적으로 AI가 질문과 일치하는 정확성과 품질이 높은 정보들만 뽑아서 가져오고 핵심 내용들을 알려주는 식이기에 검색 내용 중 사용자가 직접 제일 적합한 내용을 골라서 판단해야하는 시간을 아껴줍니다. 그래서 신뢰도가 갈수록 늘어나고 있습니다.

그래서 저는 📜GPT로부터의 추천서 작성 서비스 이런 것도 만들어 봤었는데요.

아무튼 이런 유형의 사기는 AI가 말한 내용에 대해서 사람들이 점차 높이 평가하고 신뢰하는 점을 노린 것 같습니다.

챗지피티에서 직접 실험해본 결과 챗지피티는 검색 결과를 종합하여 이렇게 말했습니다.

분명한 것은 이건 할루시네이션(Hallucination)과는 다른 개념입니다.

없는 정보를 만들어 내는 환각 현상이 아니라 끌어온 정보가 잘못 된 것이기 때문이죠.

사실 이미 기존에도 블로그나 여러 방면을 통해 거짓 된 사실을 유포하고 SEO 순위 조작등을 해서 공신력을 높이려는 시도들은 활발했고 이건 그냥 양념을 조금 더 한 것 뿐입니다.

SEO의 중요성이 당장 사라지지는 않을 것 같습니다. 아무튼 앞으로는 이렇게 REO를 활용한 홍보 전략을 많이들 고민하게 될 것 같습니다.

그리고 구글 SGE 는 챗지피티보다 어떤 면에서는 유용하니 꼭 사용해보시기를 추천드립니다.