Andrej Karpathy가 제시하는 LLM 환각에 대한 흥미로운 관점
- 인공지능 개발자 안드레이 카르파시(Andrej Karpathy)는 큰 언어 모델(Large Language Models, LLM)에서 생성되는 환상적인 내용이나 거짓 진술을 결함이 아닌 강점으로 본다.
- 카르파시는 LLM을 '꿈을 만드는 기계'라고 설명하며, 이들이 훈련 데이터를 기반으로 내용을 생성한다고 언급한다.
- LLM이 잘못된 방향으로 '꿈'을 꾸어 오도하는 내용을 생성할 때 이를 환상(hallucination)이라고 칭한다.
- 전통적인 검색 엔진과 비교하여 LLM은 창의성 측면에서 반대편에 위치하며, 검색 엔진은 기존 콘텐츠만 반환하는 '창의력 문제'를 가짐에 비해, LLM은 새로운 콘텐츠를 생성할 수 있는데, 이는 환상 문제로 이어질 수 있다.
- LLM이 개인 비서 같은 역할을 할 때, 환상은 문제가 될 수 있다는 점을 인정하면서, 카르파시는 이러한 문제를 해결하기 위해 retrieval augmented generation(RAG)과 같은 방법을 포함한 여러 방법을 연구 중이라고 말한다.
- 온라인 저널리스트 마티아스 바스티안(Matthias Bastian)은 THE DECODER의 공동 창업자이자 발행인이며 인공지능이 인간과 컴퓨터의 관계를 근본적으로 바꿀 것이라고 믿는다.
- THE DECODER는 인공지능과 관련된 뉴스, 비즈니스, 연구뿐만 아니라 VR, AR, MIXED Reality에 대한 새소식 및 보고서를 제공한다.
- 카르파시는 현재 OpenAI에서 일종의 'JARVIS'(개인 인공지능 비서)를 개발하고 있다고 언급한다.
4the-decoder.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.