Google Gemini API 및 AI Studio와 Google 검색의 결합

tilnote2024-11-02 09:00

개요

2024년 10월 31일, Google은 Gemini API와 AI Studio에 대한 새로운 기능을 발표했습니다. 이 새로운 기능은 Google 검색을 통해 더 정확하고 최신의 정보를 제공하는 '그라운딩'입니다. 이 글에서는 이 새로운 기능에 대해 자세히 알아보고, 어떤 방식으로 이를 사용할 수 있는지 설명합니다.

Google Gemini API와 AI Studio의 그라운딩 기능

Google의 그라운딩 기능은 AI 모델의 응답을 더욱 신뢰할 수 있도록 만들어줍니다. 이 기능은 모델이 생성하는 응답에 실제 데이터를 연결하여 잘못된 정보 생성을 방지합니다. 이를 통해 AI 응용프로그램 사용자들은 더 정확하고 최신의 정보를 얻을 수 있습니다.

무료 테스트는 AI Studio에서 제공되며, Gemini API 사용자들은 유료 계정을 통해 이 기능을 이용할 수 있습니다. Gemini API 사용자는 1000개의 그라운드된 쿼리당 35달러를 지불해야 합니다.

AI Studio에서는 그라운딩 기능을 통해 여러 설정을 쉽게 비교할 수 있습니다.

또한, Google 검색 데이터를 기반으로 한 추가 링크가 함께 제공되어 더 풍부한 정보를 확인할 수 있습니다. 이는 Gemini 라이선스의 요구사항입니다.

그라운딩 기능 사용 방법

그라운딩 기능을 사용하려면, AI Studio의 '도구' 섹션에서 그라운딩을 활성화할 수 있습니다. API의 경우, 'google_search_retrieval' 도구를 사용하여 이 기능을 활성화할 수 있습니다. 그라운딩이 활성화되면 모델은 최신 정보를 검색하여 제공합니다. 예를 들어, 최근의 스포츠 경기 결과나 최신 뉴스와 같은 정보는 기존 모델만으로는 정확한 답변을 제공하지 못할 수 있습니다. 이때, 그라운딩 기능이 유용하게 사용됩니다.

Google Gemini API 및 AI Studio와 Google 검색의 결합 image 1

우측 하단의 grounding 이 활성화 되어 있는 모습. 검색 결과는 구글 검색 결과를 그라운딩하여 표시한다.

동적 검색 설정

AI Studio와 Gemini API는 동적 검색 설정을 통해 그라운딩의 빈도를 조절할 수 있습니다. 이 설정을 통해 더 효율적으로 비용과 시간을 관리할 수 있습니다. 동적 검색 모드를 설정하면 모델이 어떤 프롬프트가 그라운딩을 필요로 하는지 자동으로 판단합니다. 예를 들어, 최근의 사건에 대한 질문이 높은 점수를 받게 되어 그라운딩이 필요하다고 판단될 수 있습니다.

주요 혜택

정확한 정보 제공: 실제 데이터 기반 응답 제공으로 잘못된 정보 생성을 방지합니다.
최신 정보 접근: 모델의 학습 종료 시점 이후의 최신 정보까지 접근할 수 있습니다.
투명성 향상: 응답 내에 제공되는 링크를 통해 사용자가 정보의 출처를 확인할 수 있습니다.

사용 예시

예를 들어, '올해 슈퍼볼 우승자는 누구인가요?' 라는 질문에 대해, 그라운딩 기능이 없는 경우 모델은 이전 정보에 기반한 답변을 제공합니다. 그러나 그라운딩 기능을 활성화하면, 모델은 최신 정보를 검색하여 정확한 답변을 제공합니다.

결론

Google의 Gemini API와 AI Studio에 새롭게 추가된 그라운딩 기능은 AI 응용프로그램의 정확성과 신뢰성을 크게 향상시킬 수 있습니다. 최신 정보를 제공함으로써 사용자의 만족도를 높이고, 개발자들이 신뢰할 수 있는 AI 서비스를 구축할 수 있도록 돕습니다. 앞으로도 다양한 분야에서 이 기능이 더욱 활발히 사용될 것으로 기대됩니다.

LLM은 아직도 모델 자체의 지식에 근거해서만 대답을 하면 할루시네이션으로 잘못된 정보를 출력하는 현상이 발생합니다. 그렇기 때문에 검색 기법 같은 것들이 필요합니다.

gemini api 에서는 그라운딩이 1회당 0.035 달러 (48.31원) 정도인데 저렴하지는 않은 것 같네요. 이것이 구글이 검색으로 얻을 수 있는 수익의 기준치에 맞춘 것이 아닐까 추측해 봅니다. 물론 이건 그냥 생각해 본 것일 뿐 참고할만한 것은 아닌 것 같습니다.