Show HN: Laminar – LLM 앱을 위한 DataDog + PostHog 오픈 소스, Rust로 구축됨
- 제목: "Show HN: Laminar – Open-Source DataDog + PostHog for LLM Apps, Built in Rust"
- Laminar: 복잡한 LLM 애플리케이션을 위한 오픈소스 관찰성, 분석, 평가 및 프롬프트 체인 제공
- OpenTelemetry 기반 계측: LLM 및 벡터 DB 호출을 자동으로 추적
- 의미 기반 이벤트 분석: LLM 파이프라인의 백그라운드 작업 큐를 호스팅하고, 이를 메트릭으로 변환
- 현대적 스택에 맞춰 설계: Rust로 작성, RabbitMQ를 메시지 큐로 사용, Postgres와 Clickhouse를 데이터베이스로 활용
- 심도 있는 빠른 대시보드 제공: 추적, 스팬, 이벤트 분석 가능
- 프로젝트 시작 방법:
- Laminar Cloud: 관리형 플랫폼의 무료 티어 사용 가능
- Docker compose를 통한 셀프 호스팅: 로컬 버전 시작
- git 클론 후 도커 컴포즈 명령 실행
- Python 코드 계측 방법:
- 프로젝트 생성하고 API 키 생성
- lmnr 라이브러리 설치 및 초기화
- 함수 입력/출력을 추적하기 위한 @observe() 데코레이터 제공
- 이벤트 전송 방법:
- .event(name, value): 즉시 이벤트 생성
- .evaluate_event(name, evaluator, data): 평가 파이프라인을 통한 이벤트 생성
- Laminar 파이프라인:
- UI에서 파이프라인 생성 및 관리
- Python 코드에서 몇 줄로 파이프라인 호출 가능
- 추가 학습 자료: 클라이언트 라이브러리, 문서 및 튜토리얼 제공
3github.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.