공개 노트

llm-openrouter 0.7, LLM 0.32에서 도구 실행이 쉬워졌다

2026-08-24Views 3약 3분생성형 AI 활용

Summary

llm-openrouter 0.7: LLM 0.32에서 달라진 OpenRouter 활용법

요약: llm-openrouter 0.7은 LLM 0.32와 호환되며, OpenRouter의 Responses API를 기본 호출 경로로 사용한다. 추론 흔적 표시와 서버 측 Shell, WebFetch, WebSearch를 지원해 모델 호출부터 검색·문서 수집·명령 실행까지 하나의 CLI 흐름으로 연결할 수 있다.

llm-openrouter는 OpenRouter에서 제공하는 여러 모델을 LLM CLI로 사용할 수 있게 해주는 플러그인이다. 이번 0.7 릴리스의 핵심은 모델 수가 아니라 작업 방식의 변화다. LLM 0.32 호환성을 바탕으로 모델의 응답을 받는 데서 나아가, 추론 과정을 확인하고 외부 도구를 호출할 수 있게 됐다.

Responses API로 바뀐 기본 호출 경로

llm-openrouter 0.7은 모델 호출에 OpenRouter의 Responses API 구현을 기본으로 사용한다.¹ 이를 통해 지원 모델의 추론 흔적을 표시하고, 추론 강도와 요약 관련 옵션을 지정할 수 있다.²

기존 Chat Completions API도 당분간 선택할 수 있다. 특정 프롬프트를 이전 방식으로 실행하려면 -o chat_completions 1 옵션을 사용하면 된다.² 기존 스크립트나 자동화가 있다면 먼저 Responses API 기반 동작을 검증하고, 호환 문제가 있는 경우에만 이 옵션을 임시로 적용하는 편이 좋다.

모델 호출에 검색과 실행 연결하기

새롭게 추가된 서버 측 도구는 Shell, WebFetch, WebSearch다. 예를 들어 다음과 같이 WebSearch를 활성화할 수 있다.

llm -T WebSearch

WebSearch는 모델이 검색 기능을 활용할 수 있게 하고, WebFetch는 웹 문서의 내용을 가져온다. Shell은 로컬 컴퓨터가 아니라 OpenRouter가 호스팅하는 격리 컨테이너에서 명령을 실행한다.¹²

이 기능들은 LLM CLI의 활용 범위를 단순한 답변 생성에서 최신 정보 검색, 웹 문서 수집, 명령 기반 검증으로 넓힌다. 다만 서버 측 도구를 사용할 때는 필요한 도구만 활성화하고, 실행 권한과 비용에 미치는 영향을 함께 검토해야 한다.

설치와 초기 설정

플러그인은 LLM과 같은 환경에 설치한다.

llm install llm-openrouter

OpenRouter API 키는 환경 변수로 설정할 수 있다.

export OPENROUTER_KEY="..."

또는 LLM의 키 관리 명령을 사용할 수 있다.

llm keys set openrouter

두 방식 중 기존 운영 환경과 비밀 정보 관리 정책에 맞는 방법을 선택하면 된다.²

모델 목록과 별칭 관리

OpenRouter 모델 목록은 1시간 동안 캐시된다. 새로 추가되거나 변경된 모델을 즉시 확인해야 한다면 캐시 만료를 기다리지 않고 다음 명령을 실행할 수 있다.

llm openrouter refresh

긴 OpenRouter 모델 ID를 반복해서 입력해야 한다면 llm aliases set으로 짧은 별칭을 지정할 수 있다. 이는 대화형 사용뿐 아니라 스크립트의 가독성과 유지보수성을 높이는 데도 유용하다.²

도입 전에 판단할 세 가지

llm-openrouter 0.7을 적용할 때는 다음 세 가지를 우선 확인하는 것이 좋다.

기존 자동화가 Responses API에서도 동일하게 작동하는가
Shell, WebFetch, WebSearch 가운데 실제로 필요한 도구는 무엇인가
도구 실행에 따른 권한과 비용을 어떻게 관리할 것인가

결국 llm-openrouter 0.7은 LLM 0.32에서 OpenRouter를 단순한 모델 게이트웨이가 아니라 검색과 실행을 연결하는 작업 환경으로 활용하게 해주는 업데이트다. 도입 여부는 지원 모델 수보다 Responses API 전환 영향과 서버 측 도구의 운영 범위를 기준으로 판단해야 한다.

¹Releases · simonw/llm-openrouter · GitHub

²GitHub - simonw/llm-openrouter: LLM plugin for models hosted by OpenRouter