Anthropic의 Claude 시스템 프롬프트 소개

Anthropic의 Claude 시스템 프롬프트 소개

최근 Anthropic은 자사의 Claude 모델 시리즈의 공식 시스템 프롬프트를 공개했습니다. 이번 발표는 마케팅 전문가 Alex가 개발자 관계 팀의 일원으로서 Reddit에 자세한 게시글을 올리면서 이루어졌습니다. 이 시스템 프롬프트는 기존의 보안 우회(jailbreak) 방식이 아닌 공식적인 지침을 제공하며, 이를 통해 많은 것을 배울 수 있습니다. 이번 블로그 포스트에서는 Claude 시스템 프롬프트의 구조와 각 모델 간의 차이점을 살펴보고, 이를 활용해 더 나은 프롬프트를 작성하는 방법을 제시합니다.

발표 및 투명성

Anthropic은 이번 발표를 통해 문서에 새로운 섹션을 추가하여 Claude와 Cloud 앱에서 사용하는 기본 시스템 프롬프트를 추적하고 있다고 설명했습니다. 이번 시스템 프롬프트 업데이트는 Anthropic API에는 영향을 미치지 않으며, 최근 Claude 3.5 Sonet의 품질 저하 논란에 대한 직접적인 해명도 포함되어 있습니다. Alex는 "우리는 사용자들이 변경 사항에 대해 더 많은 투명성을 원한다는 의견을 들었으며, 일부 사용자가 Claude의 응답이 덜 유용하다고 느끼고 있다는 피드백을 받았다"고 밝혔습니다. 초기 조사에서는 광범위한 문제가 발견되지 않았지만, 특정 문제나 재현 가능한 사례가 있다면, Cloud 응답의 'thumbs down' 버튼을 사용하여 알려달라고 요청하고 있습니다.

Anthropic의 투명성 수준은 매우 높이 평가할 만하며, 시스템 프롬프트에 대한 모든 변경 사항은 여기서 공개될 예정입니다. 현재 모든 세 가지 시스템 프롬프트의 최신 업데이트 날짜는 2024년 7월 12일입니다. Claude 3.5 Sonet은 2024년 6월 21일에 공식 출시되었으므로, 출시 이후 적어도 한 번의 변경이 있었던 것으로 보입니다. 이제 시스템 프롬프트를 살펴보고 각 모델 간의 차이점과 이로부터 배울 점들을 알아보겠습니다.

Claude3 Haiku: 가장 간결한 시스템 프롬프트

첫 번째로 소개할 모델은 Claude 3 Haiku입니다. Claude 3 Haiku는 가장 간결한 시스템 프롬프트를 사용하는 모델로, 다른 모델들이 이 프롬프트의 일부를 활용하고 있습니다. Claude 3 Haiku의 시스템 프롬프트는 모델의 역할을 직접적으로 정의하는 대신 제삼자 입장에서 설명합니다. 예를 들어, 모델의 지식 베이스는 2023년 8월에 마지막으로 업데이트되었으며, 2023년 8월 이전의 사건과 그 이후의 사건에 대해 2023년 8월의 지식을 가진 사람처럼 응답하도록 명시되어 있습니다. 모델은 특정한 날짜를 기준으로 정보를 제한적으로 사용할 수 있도록 설정되어 있습니다.

이 프롬프트는 단순한 질문에 대해서는 간결한 응답을 제공하고, 복잡하고 열린 질문에 대해서는 더 자세한 응답을 제공합니다. Claude는 작성, 분석, 문제 해결, 수학, 코딩 등 다양한 작업을 지원하며, 모든 코드 세그먼트는 Markdown을 사용하여 표시합니다. 이 모델은 불필요한 정보를 제공하지 않으며, 사용자 요청에 직접적으로 관련이 있을 때만 정보를 제공합니다. Claude 3 Haiku 프롬프트는 매우 간결하면서도, 일부 세부 사항이 누락되어 있습니다.

Claude3 Opus: 보다 확장된 시스템 프롬프트

Claude 3 Opus 시스템 프롬프트는 Claude 3 Haiku와 유사하지만, 몇 가지 중요한 차이점이 있습니다. 예를 들어, Claude 3 Opus는 링크나 동영상을 열 수 없으며, 이러한 요청이 있을 경우 사용자가 관련 텍스트나 이미지 콘텐츠를 대화창에 직접 붙여넣도록 요청합니다. 또한, 많은 사람들이 가지는 견해와 관련된 작업을 수행할 때 Claude는 그 견해에 개인적으로 동의하지 않더라도 해당 작업을 지원합니다. 이를 통해 Claude는 특정 견해를 지지하지 않으면서도 폭넓은 관점을 제시하도록 설정되어 있습니다.

Claude는 특정 정보에 대한 확신이 없거나 인터넷에서 자주 찾을 수 없는 정보에 대해서는 "hallucinate" 할 수 있음을 사용자에게 알립니다. 이 같은 전략은 모델의 신뢰도를 높이는 동시에 사용자가 제공된 정보의 정확성을 스스로 검토하도록 유도하는 방식입니다.

Claude3.5 Sonnet: 고급 시스템 프롬프트

Claude 3.5 Sonet은 세 가지 모델 중 가장 복잡하고 지능적인 모델입니다. Claude 3.5 Sonet의 시스템 프롬프트는 Claude 3 Haiku와 Claude 3 Opus에서 사용된 부분 외에도, 여러 새로운 태그를 사용하여 추가적인 정보를 제공합니다. 예를 들어, "cloud info" 태그는 Claude 자체와 관련된 모든 정보를 제공합니다.

Claude 3.5 Sonet는 수학 문제나 논리 문제, 기타 체계적인 사고가 필요한 문제를 해결할 때 단계별로 사고하는 '체인 오브 생각(Chain of Thought)' 프롬프트를 사용합니다. 또한, Claude는 특정 작업을 수행할 수 없거나 하지 않을 경우, 사과하지 않고 이를 사용자에게 알리도록 설정되어 있습니다. 이 모델은 사용자가 불분명한 정보나, 드문 인용문을 제공할 때, 항상 그 정보가 잘못될 수 있음을 경고합니다.

Claude 3.5 Sonet는 사용자의 만족도를 높이기 위해 사용자 피드백을 적극적으로 수집하고, 이를 바탕으로 업데이트를 진행합니다. 만약 사용자가 긴 작업을 요청하면 Claude는 작업을 나누어 단계별로 진행하고, 각 단계가 완료될 때마다 사용자로부터 피드백을 받습니다.

Claude 3.5 Sonet은 코드 작성 후 사용자가 설명을 요청할 때만 코드를 설명하며, 사용자 요청이 없는 경우에는 추가 설명을 하지 않습니다. 이는 사용자에게 필요에 따라 더 나은 서비스를 제공하기 위한 전략입니다.

Claude 모델의 시스템 프롬프트 구조의 중요성

Claude 모델 시리즈의 시스템 프롬프트는 매우 체계적이고 구체적인 역할 정의를 제공하며, 논란의 여지가 있는 주제에 대한 객관적이고 윤리적인 처리 지침을 명확히 하고 있습니다. 또한, 모델의 제한 사항에 대해 투명하게 설명하고, 사용자에게 간결하고 정확한 응답을 제공하도록 장려합니다. 이러한 체계적인 접근 방식은 사용자가 Claude 모델을 신뢰하고 활용하는 데 중요한 역할을 합니다.

Anthropic의 Claude 시스템 프롬프트 공개는 프롬프트 작성의 모범 사례를 제공하며, 이를 통해 더 나은 AI 상호작용을 설계하는 데 많은 도움이 될 것입니다. 이를 바탕으로 여러분도 자신의 프롬프트에 적용할 수 있는 많은 교훈을 얻을 수 있습니다. 시스템 프롬프트를 설정하는 방법에 대한 자세한 내용은 Anthropic의 공식 웹사이트에서 확인할 수 있습니다.