검색 모델의 익숙한 출발점은 쿼리와 문서를 각각 벡터로 바꾼 뒤, 두 벡터의 내적으로 관련성을 계산하는 방식입니다. 이 접근은 단순하고 효율적이지만, 관련성 판단을 하나의 벡터 유사도 함수에 크게 의존하게 만듭니다.1
Hypencoder는 이 전제를 바꿉니다. 쿼리를 하나의 벡터로 압축하는 대신, 쿼리마다 작은 신경망을 생성합니다. 그리고 이 신경망이 문서 표현을 입력으로 받아 스칼라 관련성 점수를 출력합니다.1
핵심 변화는 “쿼리를 어떻게 표현할 것인가”에서 “쿼리별로 어떤 관련성 함수를 만들 것인가”로 초점이 이동한다는 점입니다.
Hypencoder의 핵심: 쿼리별 채점기를 만든다
Hypencoder는 하이퍼네트워크 기반 쿼리 인코더입니다. 하이퍼네트워크란 다른 신경망의 가중치를 생성하는 신경망을 뜻합니다.1
이 구조를 검색에 적용하면 다음과 같이 이해할 수 있습니다.
사용자의 쿼리를 입력한다.
쿼리 인코더가 그 쿼리에 맞는 작은 신경망을 생성한다.
생성된 신경망이 문서 표현을 받아 관련성 점수를 계산한다.
논문에서는 문서 표현으로 단일 벡터를 사용했습니다.1 즉, 문서를 벡터로 표현한다는 점은 dense retrieval과 이어지지만, 점수를 계산하는 방식은 다릅니다. dense retrieval이 주로 쿼리 벡터와 문서 벡터의 내적에 의존한다면, Hypencoder는 쿼리별로 생성된 신경망이 관련성을 평가합니다.
이 차이가 중요한 이유는 단순합니다. 같은 문서 벡터라도 어떤 쿼리에서 평가하느냐에 따라 더 다양한 판단 함수를 적용할 수 있기 때문입니다.
왜 내적 기반 검색의 한계를 겨냥하는가
대부분의 검색 모델은 쿼리와 문서 벡터의 내적을 사용해 관련성 점수를 계산합니다.1 이 방식은 대규모 검색에 적합하고 구현도 비교적 명확합니다. 하지만 논문은 이러한 내적 기반 점수화가 관련성 함수의 표현력을 제한한다고 설명합니다.1
예를 들어 사용자가 원하는 정보가 명확한 키워드나 짧은 질의로 표현될 때는 벡터 유사도만으로도 충분할 수 있습니다. 반대로 검색 의도가 길거나 애매하거나, 특정 지시를 따라야 하는 경우에는 단순한 “가까운 벡터 찾기”만으로 부족할 수 있습니다.
Hypencoder가 겨냥하는 지점은 바로 여기입니다. 검색을 단순 유사도 계산이 아니라, 쿼리의 성격에 따라 달라지는 평가 문제로 다룹니다.
성능 보고에서 주목할 부분
논문은 Hypencoder가 인도메인 검색 태스크에서 강력한 dense retrieval 모델보다 높은 성능을 보였다고 보고합니다.1 또한 일부 리랭킹 모델과 한 자릿수 규모가 더 큰 모델보다도 높은 지표를 보였다고 설명합니다.1
흥미로운 점은 평가 범위가 일반적인 검색에만 머물지 않았다는 것입니다. Hypencoder 평가는 tip-of-the-tongue 검색과 instruction-following 검색 같은 hard retrieval 태스크를 포함했습니다.2 이런 태스크는 사용자의 의도가 직접적이지 않거나, 문서가 단순히 비슷한지보다 지시 조건에 얼마나 맞는지가 중요합니다.
또한 논문은 Hypencoder가 아웃오브도메인 검색 태스크에서도 일반화 성능을 보였다고 보고합니다.1 이는 쿼리별 관련성 함수를 생성하는 방식이 특정 데이터셋 안에서만 작동하는 트릭이 아니라, 더 넓은 검색 상황에서도 가능성을 가진 접근임을 시사합니다.
실무적으로는 무엇을 봐야 하나
Hypencoder가 곧바로 모든 검색 시스템을 대체한다는 뜻은 아닙니다. 실제 적용에서는 검색 품질뿐 아니라 인덱싱 방식, 추론 비용, 지연 시간, 기존 벡터 검색 인프라와의 결합 가능성을 함께 봐야 합니다.
다만 실무자가 얻을 수 있는 메시지는 분명합니다. 검색 품질 개선은 더 큰 임베딩 모델을 쓰는 문제만이 아닙니다. 쿼리와 문서를 비교하는 함수 자체를 더 표현력 있게 만들 수 있다면, 검색 시스템은 단순한 유사도 기반 검색에서 의도 기반 평가로 확장될 수 있습니다.
Hypencoder의 가치는 이 관점 전환에 있습니다. 문서를 벡터로 표현하더라도, 그 문서를 어떻게 채점할지는 쿼리마다 달라질 수 있습니다. 복잡한 검색 의도와 어려운 검색 태스크를 다뤄야 한다면, 앞으로는 “어떤 임베딩을 쓸 것인가”뿐 아니라 “어떤 관련성 함수를 만들 것인가”도 중요한 판단 기준이 될 것입니다.
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.