Perflexity.ai의 온라인 LLM 공개 - PPLX 7b, 70b

인공지능 검색으로 잘 알려진 스타트업 perflexity.ai가 인터넷의 최신 정보를 바탕으로 보다 정확한 답변을 제공하는 온라인 언어 모델을 공개했습니다. API를 통해 사용할 수 있습니다.

모델 명은 pplx-7b-online 과 pplx-70b-online 입니다. 아시다시피 LLM은 최신 정보를 제공하는데 어려움을 겪습니다.

퍼플렉시티의 온라인 LLM은 오픈소스인 mistral-7b와 llama2-70b 모델을 기반으로 관련성 높은 정보 증강을 위한 자체 검색, 인덱싱, 크롤링 인프라를 사용한다고 합니다.

성능으로는 GPT-3.5와 Llama2-70b 정도이지만 정보의 정확성, 정보의 최신성에 있어서 좋은 결과를 냈다고 합니다.

API는 일반 출시되었으며 7b와 70b 모두 사용할 수 있습니다.

요금제는 사용자가 사용한 만큼 지불하는 방식이며 perflexity 프로 사용자는 매월 5달러의 pplx 크레딧을 받는다고 합니다.

api 사용법 : Getting Started with pplx-api

퍼플렉시티 홈페이지 : https://www.perplexity.ai

퍼플렉시티는 AI 검색 및 생성으로 방향을 잡은 것 같습니다. 최신성, 사실성을 제공해서 AI 모델을 증강하려고 하네요. 오픈소스 모델을 사용한 것도 인상 깊습니다.