AI에서 새로운 기술은 프롬팅이 아니라 컨텍스트 엔지니어링입니다.

제목: "AI의 새로운 기술은 프롬프트 설계가 아닌 컨텍스트 엔지니어링"

컨텍스트 엔지니어링: AI 세계에서 새롭게 주목받는 용어로, 프롬프트 설계에서 더 넓고 강력한 개념으로 관심이 이동 중.

Tobi Lutke의 정의: 작업을 가능하게 하도록 충분한 맥락(컨텍스트)을 제공하는 예술이라 표현.

중요성: 에이전트의 성공을 좌우하는 주요 요소는 주어진 컨텍스트의 품질. 실패의 주요 원인은 모델 실패가 아닌 컨텍스트 실패.

컨텍스트의 정의: LLM이 응답을 생성하기 전에 보는 모든 정보, 단순한 프롬프트 이상의 포괄적 개념.

컨텍스트 구성 요소:

• 초기 지침/시스템 프롬프트
• 사용자 프롬프트
• 상태/역사(단기 기억)
• 장기 기억
• 검색된 정보(RAG)
• 사용 가능한 도구
• 구조화된 출력.

중요성 증가: AI 에이전트의 효과적인 설계는 복잡한 코드보다 제공되는 컨텍스트의 품질에 좌우됨.

실제 사례:

• "저렴한 데모" 에이전트는 빈약한 컨텍스트 제공.
• "마법의" 에이전트는 풍부한 컨텍스트 제공.

컨텍스트 엔지니어링의 의미: 다이내믹 시스템을 설계하고 필요한 정보를 적절한 타이밍에 적합한 형식으로 제공하는 설계 기법.

특징:

• 시스템 전반 사례로서의 컨텍스트
• 다이내믹성과 즉각적 태스크에 맞춤
• 적절한 정보와 도구를 강조
• 잘 정리된 방식으로 제공하는 것의 중요성.

결론: 강력하고 신뢰할 수 있는 AI 에이전트를 구축하는 것은 프롬프트나 모델 업데이트보다 컨텍스트 엔지니어링에 달려있음.

참고자료: 토비 루트케의 트윗, Karpathy 트윗, 컨텍스트 엔지니어링의 부상 등 여러 자료에서 영감을 받음.