Show HN: AnythingLLM – 오픈소스, 올인원 데스크톱 AI 어시스턴트

• AnythingLLM: 다양한 AI 모델과 벡터 데이터베이스를 사용하는 올인원 AI 데스크탑 어시스턴트
• 문서, 리소스 또는 콘텐츠를 선택하여 LLM이 참조할 수 있는 컨텍스트로 변환, 멀티 유저 관리와 권한 관리 지원
• 다양한 문서 형식(PDF, TXT, DOCX 등) 지원, 드래그 앤 드롭 기능과 명확한 출처 표기 제공
• 상용 및 오픈소스 LLM, 벡터DB 솔루션과 호환, 로컬 및 원격 실행 가능
• 워크스페이스 개념을 도입하여 문서 관리, 각 워크스페이스는 독립적으로 컨텍스트 유지
• 멀티 모달 지원, 다중 사용자 인스턴스와 권한 관리, 웹 브라우징 및 코드 실행 에이전트 포함
• 웹사이트에 임베드할 수 있는 커스터마이징 가능한 채팅 위젯 제공
• 100% 클라우드 배포 가능, 대형 문서 관리에 비용 및 시간 절감 기능 포함
• 개발자 API 제공, 셀프 호스팅 지원 (Docker, AWS, GCP 등)

지원되는 LLM, 임베더 모델, 오디오 전사 및 음성 인식 모델:

• 주요 LLM 제공업체(OpenAI, Azure OpenAI, Google Gemini Pro 등)와 호환
• 다양한 임베더(OpenAI, Cohere 등) 및 오디오 전사 모델 지원
• 텍스트 음성 변환(TTS) 및 음성 텍스트 변환(STT) 지원
• 여러 벡터 데이터베이스(LanceDB, Pinecone, Chroma 등) 통합

기술 개요:

• 프론트엔드: viteJS + React 기반
• 서버: NodeJS express 서버, 벡터DB 관리 및 LLM 상호작용 처리
• 문서 수집기: UI에서 문서를 처리 및 파싱

텔레메트리 및 개인정보 보호:

• 익명 사용 정보 수집, DISABLE_TELEMETRY 설정으로 옵트아웃 가능, 자세한 정보는 로그에서 확인 가능

기여 방법:

• 이슈 생성, PR 생성, 핵심 팀의 LGTM 필요

추가 제품:

• VectorAdmin: 벡터 데이터베이스 관리 도구
• OpenAI Assistant Swarm: OpenAI 어시스턴트 라이브러리 통합 관리

Copyright © 2024 Mintplex Labs. MIT 라이선스 적용.