open assistant - 크라우드 소싱으로 LLM을 발전시키는 LAION의 AI 프로젝트

open assistant : 오픈 어시스턴트

모두를 위한 대화형 AI를 만드는 LAION-AI의 프로젝트

Stable diffusion이 오픈소스 이미지 모델을 발전시켰듯이 모두에게 large language model에 대한 접근권을 주고자 함.

GitHub - LAION-AI/Open-Assistant: OpenAssistant is a chat-based assistant that understands tasks, can interact with third-party systems, and retrieve information dynamically to do so.

open assistant 사이트에서 챗봇을 사용을 해 볼 수 있다. Open Assistant

영어는 잘 됐는데 한글은 데이터가 부족한지 잘 안됐다. 사용한 모델은 OA SFT Llama 30B 였다.

특이한 것은 사용자가 사이트에서 모델의 향상에 기여할 수 있다는 것이다.

프롬프트나 응답을 분류, Assistant로 응답하기, Assistant의 응답에 랭크 매기기, 유저로서 대답하기 등의 Task를 수행함으로써 모델을 훈련시키는데 도움이 될 수 있다.

크라우드 소싱을 활용해서 데이터를 수집하고 랭크를 매기는 방식을 취하고 있다.

이를 통해서 개인화되고 확장성 있는 인공지능을 모두에게 제공하는 것이 비전이라고 한다.