IT 전문가 필독: 3가지 핵심! 생성형 AI 클라우드 56% 비용 절감

2025-03-08 20:40•조회수 55

클라우드 아키텍처 성공의 3요소

성공적인 클라우드 아키텍처는 클라우드 마이그레이션, 앱 현대화, 그리고 애플리케이션 개발 방식의 변화라는 세 가지 핵심 요소로 구성됩니다. 온프레미스 환경에서 클라우드로의 이전은 이제 더 이상 낯선 개념이 아니지만, 여전히 많은 워크로드가 클라우드 환경 외부에서 운영되고 있는 현실입니다. 시장 변화에 빠르게 대응하고 비용을 절감하기 위해서는 클라우드 이전이 필수적이며, 단순한 이전뿐만 아니라 클라우드에 최적화된 애플리케이션 아키텍처로 전환하는 앱 현대화 과정이 중요합니다. 최근에는 생성형 인공지능 기술이 개발 과정과 운영 방식에 혁신적인 변화를 가져오고 있습니다.

IT 전문가 필독: 3가지 핵심! 생성형 AI 클라우드 56% 비용 절감 image 1

본 글에서는 클라우드 마이그레이션, 앱 현대화, 그리고 생성형 AI를 활용한 애플리케이션 개발 방식의 변화를 중심으로, 각 단계에서 활용 가능한 기술과 AWS 서비스들을 자세히 살펴보겠습니다. 리프트 앤 시프트, 클라우드 네이티브 아키텍처, 플랫폼 엔지니어링, 데브옵스 문화, 프롬프트 엔지니어링, 검색 증강 생성(RAG)과 같은 핵심 키워드를 중심으로 내용을 상세하게 풀어낼 예정입니다. 먼저 클라우드 마이그레이션과 앱 현대화의 기본적인 개념을 간략하게 짚어보고, 최근 IT 업계의 화두인 생성형 AI에 대해 심층적으로 논의해 보겠습니다.

클라우드 마이그레이션 및 앱 현대화 여정

클라우드 이전과 앱 현대화는 단기간에 완료되는 일회성 프로젝트가 아니라, 지속적인 여정입니다. 현재 온프레미스 환경에서 운영 중인 레거시 애플리케이션들을 클라우드로 이전할 때, 어떤 애플리케이션은 리프트 앤 시프트 방식으로, 또 다른 애플리케이션은 클라우드 네이티브 방식으로 이전하는 전략적 선택이 필요합니다. 초기에는 리프트 앤 시프트 방식으로 빠르게 이전하더라도, 장기적으로는 클라우드 네이티브 아키텍처로 점진적인 전환을 추진하는 것이 바람직합니다.

하지만 기술적인 측면 외에도 고려해야 할 중요한 요소들이 있습니다. 바로 운영 조직, 기업 문화, 그리고 프로세스 혁신입니다. 단순히 아키텍처만 클라우드 네이티브로 전환하는 것에서 더 나아가, 데브옵스 방법론 도입, 자동화 시스템 구축, 그리고 제품 및 기능 중심의 자율 조직 문화 조성 등 조직 전체의 변화가 요구됩니다. 이러한 조직 문화 및 운영 방식 혁신에 대한 고민과 해결 사례는 잡코리아의 클라우드 전환 사례 강연에서 자세히 살펴볼 수 있습니다.

플랫폼 엔지니어링의 중요성

최근 클라우드 환경에서는 플랫폼 엔지니어링이라는 새로운 운영 방식이 부상하고 있으며 그 중요성이 점차 커지고 있습니다. 클라우드 환경에서는 개발팀이 개발과 운영을 모두 담당하는 데브옵스 문화가 확산되고 있습니다. 각 데브옵스 팀이 높은 신뢰성을 가진 서비스를 운영할 수 있도록 지원하기 위해, 모니터링과 같이 공통적으로 필요한 운영 기능을 중앙 집중화하여 SRE(Site Reliability Engineering) 조직을 구성하는 사례도 늘고 있습니다.

플랫폼 엔지니어링은 인프라 설정, 보안 정책 준수와 같이 여러 팀에서 중복적으로 수행하는 작업을 표준화하고 자동화하여, 개발자들이 공통으로 사용하는 개발 플랫폼을 구축하고 이를 셀프 서비스 형태로 제공하는 것을 목표로 합니다. 플랫폼 엔지니어링, 데브옵스, 그리고 SRE는 기업의 상황과 필요에 따라 선택적으로 도입할 수 있는 방법론입니다. 플랫폼 엔지니어링은 "만들고, 함께 실행한다(Build it, Run it)"는 슬로건처럼, 플랫폼 팀이 제공하는 가이드라인과 개발 플랫폼을 개발팀이 활용함으로써 초기 학습 비용을 절감하고, 사내 규정을 효율적으로 준수할 수 있도록 돕습니다. LG 그룹의 플랫폼 엔지니어링 도입 및 운영 사례는 기업들이 플랫폼 엔지니어링을 어떻게 실제 환경에 적용하고 있는지 이해하는 데 좋은 참고 자료가 될 것입니다.

다양한 마이그레이션 및 앱 현대화 경로

클라우드 마이그레이션 및 앱 현대화는 애플리케이션의 종류, 데이터베이스, 그리고 비즈니스 애플리케이션의 특성에 따라 다양한 경로를 통해 진행될 수 있습니다. 리프트 앤 시프트 방식으로 클라우드로 이전하는 경우, AWS 마이그레이션 허브 서비스를 활용하면 애플리케이션, 데이터베이스, 스토리지 등 다양한 IT 자산을 온프레미스 환경에서 AWS 클라우드로 쉽고 빠르게 이전할 수 있습니다. 일부 리소스를 클라우드 네이티브 환경으로 전환하는 경우에는 일반적으로 다섯 가지 대표적인 마이그레이션 경로를 고려할 수 있습니다.

지금부터 마이크로서비스 아키텍처, 이벤트 기반 아키텍처, 데이터 현대화, 그리고 비즈니스 애플리케이션 마이그레이션과 관련된 주요 내용을 자세히 살펴보겠습니다. 각 마이그레이션 경로는 특정 목표와 요구 사항에 맞춰 최적화되어 있으며, 기업은 자사의 상황과 목표에 가장 적합한 경로를 선택하여 클라우드 전환 및 현대화 전략을 수립할 수 있습니다.

마이크로서비스 아키텍처의 도입

마이크로서비스 아키텍처는 애플리케이션 현대화의 핵심적인 접근 방식 중 하나입니다. 기존의 모놀리식 애플리케이션을 독립적인 소규모 서비스 단위로 분할하고, 각 서비스가 API를 통해 통신하도록 구성하는 아키텍처 스타일입니다. 마이크로서비스 아키텍처의 장점은 각 서비스별로 독립적인 기능 업데이트 및 배포가 가능하다는 점입니다.

하지만 모놀리식 애플리케이션을 마이크로서비스 아키텍처로 전환하는 것은 복잡하고 어려운 작업일 수 있습니다. 따라서 처음부터 모든 기능을 마이크로서비스로 전환하기보다는, 분리가 비교적 용이한 기능부터 점진적으로 전환하는 것이 효과적입니다. 마이크로서비스 전환 시 고려할 수 있는 세 가지 주요 패턴은 다음과 같습니다.

스트랭글러 패턴 (Strangler Pattern): 기존 시스템을 점진적으로 마이크로서비스 기반으로 대체하는 방식입니다. 기존 모놀리식 애플리케이션은 그대로 유지하면서, 새로운 기능을 마이크로서비스 형태로 개발하고 기존 기능들을 점차적으로 마이크로서비스로 이전합니다.
도메인 기반 설계 (Domain-Driven Design): 애플리케이션의 핵심 비즈니스 로직을 기준으로 도메인 영역을 분리하고, 각 도메인별로 독립적인 마이크로서비스를 구축하는 방식입니다. 각 서비스는 특정 도메인 로직을 캡슐화하고, 다른 서비스와의 의존성을 최소화합니다.
이벤트 기반 분리 (Event-Driven Decomposition): 애플리케이션 내에서 발생하는 이벤트를 식별하고, 각 이벤트 처리 로직을 독립적인 마이크로서비스로 분리하는 방식입니다. 서비스들은 이벤트를 발행하고 구독하는 방식으로 상호 작용하며, 느슨하게 결합된 시스템을 구축할 수 있습니다.

많은 기업들이 마이크로서비스 아키텍처를 도입하면서 애플리케이션 개발 및 배포 방식으로 컨테이너 기술을 함께 채택하고 있습니다. 컨테이너는 마이크로서비스 아키텍처와 잘 부합하며, 지속적 통합/지속적 배포(CI/CD) 파이프라인을 구축하는 데 용이하기 때문입니다. AWS는 다양한 컨테이너 오케스트레이션 도구를 제공하며, 서비스 규모, 실행 방식, 그리고 위치 등 다양한 요소를 고려하여 최적의 도구를 선택할 수 있습니다. 최근 컨테이너 환경에서 쿠버네티스가 널리 사용되고 있지만, 모든 상황에 쿠버네티스가 최적의 선택은 아닐 수 있습니다. 따라서 기업은 자체적인 요구 사항과 환경을 고려하여 적합한 컨테이너 오케스트레이션 도구를 신중하게 선택해야 합니다. LG유플러스의 EKS 도입 사례는 쿠버네티스 기반 컨테이너 환경 구축에 대한 좋은 참고 사례가 될 수 있습니다.

이벤트 기반 아키텍처의 활용

이벤트 기반 아키텍처는 서버리스 환경에서 데이터를 처리하는 데 가장 효율적인 방식 중 하나입니다. 이벤트 기반 아키텍처는 시스템 내에서 발생하는 이벤트를 중심으로 애플리케이션을 구성하는 아키텍처 스타일입니다. 주요 이벤트 기반 아키텍처 패턴은 다음과 같습니다.

비동기 방식 (Asynchronous Pattern): 이벤트 발행 후 응답을 기다리지 않고 다음 작업을 진행하는 방식으로, 시스템 응답성을 향상시키고 서비스 간 의존성을 줄입니다.
이벤트 라우팅 (Event Routing): 펍/섭(Publish/Subscribe) 모델을 기반으로 데이터를 처리하는 방식으로, 이벤트 생산자와 소비자 사이의 결합도를 낮추고 유연성을 높입니다.
이벤트 스토어 (Event Store): 데이터를 큐에 저장해두었다가 서비스가 준비되면 순차적으로 처리하는 방식으로, 데이터 처리의 안정성과 순서를 보장합니다.

AWS는 다양한 서버리스 서비스들을 통해 이러한 이벤트 기반 아키텍처 패턴을 효과적으로 구현할 수 있도록 지원합니다. 보이스(VOICE)라는 번역 스타트업의 이벤트 기반 아키텍처 전환 사례는 이벤트 기반 아키텍처가 어떻게 실제 서비스에 적용될 수 있는지 보여주는 좋은 예시입니다.

데이터 현대화 전략

애플리케이션 현대화와 더불어 데이터 현대화 또한 매우 중요한 과제입니다. AWS는 다양한 목적에 특화된 완전 관리형 데이터 서비스를 제공하여, 분산된 애플리케이션 환경에서 요구되는 다양한 데이터 모델과 서비스 요구 사항을 충족시킬 수 있도록 지원합니다. 관계형 데이터베이스(DB), 키-값 DB, 문서 DB, 캐싱 DB, 그래프 DB, 시계열 DB, 컬럼형 DB, 인메모리 DB 등 다양한 데이터베이스 중에서 애플리케이션의 특성과 목적에 맞는 최적의 데이터베이스 서비스를 선택할 수 있습니다.

키-값 DB 및 캐싱 DB 활용 방법, 그리고 성능 개선을 위한 DB 현대화 전략과 생성형 AI 기법은 별도의 세션에서 더 자세하게 다뤄질 예정입니다. 데이터베이스뿐만 아니라 데이터 분석 분야에서도 AWS는 다양한 목적에 최적화된 분석 서비스를 제공합니다. 아마존 S3를 데이터 레이크로 활용하여 대용량 데이터를 저장하고, 대화형 질의, 빅데이터 분석, 실시간 분석, 데이터 웨어하우스 등 다양한 분석 기능을 완전 관리형 서비스 형태로 제공합니다.

AWS는 기업의 데이터 자산을 통합 관리하고 활용할 수 있도록 데이터 레이크 구축, 데이터 추출, 변환, 적재(ETL) 작업 자동화, 비즈니스 인텔리전스(BI) 도구 연동, 그리고 머신러닝 서비스 통합 등 포괄적인 데이터 분석 환경을 제공합니다. 아모레퍼시픽의 EMR on EKS 기반 빅데이터 분석 사례와 아마존 데이터존 및 세이지메이커를 활용한 통합 머신러닝 거버넌스 구축 사례는 AWS 데이터 분석 서비스를 실제 비즈니스에 어떻게 적용하고 효과를 창출할 수 있는지 보여주는 좋은 사례입니다.

비즈니스 애플리케이션 마이그레이션

일부 비즈니스 애플리케이션은 시스템 간 종속성이 매우 강하여 클라우드로 쉽게 이전하기 어려운 경우가 있습니다. 이러한 애플리케이션의 클라우드 이전을 지원하기 위해 AWS는 마이그레이션 엑셀러레이션 프로그램(Migration Acceleration Program, MAP)을 운영하고 있습니다. MAP는 포괄적인 마이그레이션 도구, 서비스 지침, 교육 프로그램, 그리고 추가적인 인센티브를 제공하여 기업의 클라우드 이전을 적극적으로 지원합니다.

실제로 윈도우 서버 기반 워크로드를 AWS로 이전하는 경우, 5년간 총 운영 비용을 56% 절감할 수 있다는 분석 결과가 있습니다. SAP HANA 워크로드의 경우, AWS 환경에서 50%의 성능 향상을 기대할 수 있습니다. 온프레미스 VM웨어 환경을 사용하는 고객의 95%가 2025년까지 클라우드로 이전을 고려하고 있으며, 가장 이전이 어렵다고 여겨지는 메인프레임 시스템 조차도 클라우드 이전 시 70%의 비용 절감 효과를 얻을 수 있다는 연구 결과도 있습니다. 만약 현재 SAP와 VM웨어를 사용하고 있거나 메인프레임 시스템을 운영하고 있다면, AWS 마이그레이션 섹션에서 제공하는 다양한 정보와 지원 프로그램을 적극적으로 활용해 볼 것을 추천합니다.

생성형 AI 기반 빌드 방식의 혁신

이제부터는 생성형 인공지능 기술을 활용한 애플리케이션 개발 방식의 혁신에 대해 자세히 알아보겠습니다. 특히 프롬프트 엔지니어링과 검색 증강 생성(Retrieval-Augmented Generation, RAG) 기법을 중점적으로 다루고, AWS에서 제공하는 생성형 AI 서비스인 아마존 베드락(Bedrock)과 아마존 Q에 대해서도 자세히 소개할 예정입니다. 2023년 6월, 리투(Reetu)라는 회사에서 750명의 기술 직무 종사자를 대상으로 설문 조사를 실시한 결과, 응답자의 85.5%가 생성형 AI 도구를 사용한 후 생산성이 향상되었다고 답했습니다.

생성형 AI는 소프트웨어 개발, 데이터 과학 분야뿐만 아니라 마케팅, 제품 개발, 영업, 고객 지원 등 다양한 업무 영역에서 활용되고 있으며, 그 활용 범위는 점차 확대되고 있습니다. 생성형 AI의 가장 큰 장점은 복잡한 과정 없이 간단한 단계를 거쳐 원하는 결과물을 빠르게 얻을 수 있다는 것입니다.

프롬프트 엔지니어링과 검색 증강 생성 (RAG)

생성형 AI 애플리케이션 개발은 매우 간단한 몇 단계를 통해 이루어집니다. 사용자는 프롬프트라는 간단한 질문 또는 지시어를 통해 작업을 시작합니다. 예를 들어, "휴대폰 해지를 요청하는 가입자를 유지하기 위한 효과적인 조치를 알려주세요"와 같은 프롬프트를 입력할 수 있습니다. 이때, 모델이 문맥을 이해하고 더 정확한 답변을 생성할 수 있도록, 현재 통화 기록이나 기존 고객 통화 기록과 같은 학습 데이터를 함께 제공할 수 있습니다.

다음으로, 사용 목적과 데이터 맥락에 적합한 파운데이션 모델(Foundation Model, FM)을 선택합니다. 프롬프트의 내용, 컨텍스트 데이터의 크기, 그리고 원하는 작업 유형을 고려하여 최적의 모델을 선택하는 것이 중요합니다. 선택된 파운데이션 모델은 프롬프트와 컨텍스트 데이터를 종합적으로 분석하여, 고객을 설득하고 가입 해지를 막기 위한 다양한 해결 방안을 제시합니다. 예를 들어, 단말기 보험 무료 제공, 요금 할인, 고객 맞춤형 서비스 강화 등 고객 경험을 향상시킬 수 있는 구체적인 전략을 제안할 수 있습니다.

아마존 베드락과 아마존 Q 소개

아마존 베드락은 다양한 파운데이션 모델을 손쉽게 사용하고 관리할 수 있도록 지원하는 완전 관리형 서비스입니다. 아마존 베드락 플레이그라운드에서 프롬프트를 직접 실행하여 파운데이션 모델의 성능을 테스트해볼 수 있습니다. 예를 들어, 앤트로픽(Anthropic)의 클로드 3.5 소넷(Claude 3.5 Sonnet) 모델을 선택하고, "고객이 휴대폰 가입 해지를 요청했을 때 어떻게 응대하는 것이 좋을까요?"라는 프롬프트와 함께 몇 가지 고객 정보를 입력하면, 모델은 풍부하고 상세한 응답을 생성합니다.

하지만 클로드 3.5 소넷 모델과 같은 고성능 모델은 토큰당 비용이 비싸다는 단점이 있습니다. 따라서 사용자는 AI 워크로드의 특성, 요구되는 성능 수준, 그리고 예산 등을 종합적으로 고려하여 최적의 모델을 선택해야 합니다. 실제로 생성형 AI에 연간 수백만 달러를 지출하는 대기업들을 대상으로 한 설문 조사 결과에 따르면, 97%의 기업이 두 개 이상의 모델을 조합하여 사용하고 있는 것으로 나타났습니다. 아마존 베드락은 30개 이상의 다양한 파운데이션 모델을 제공하며, 아마존 세이지메이커(SageMaker)나 허깅 페이스(Hugging Face)와 같은 플랫폼에서 제공하는 50개 이상의 상용 및 공개 모델을 가져와서 서버리스 환경에서 실행할 수 있도록 지원합니다. 특히, LG AI 연구원, NC소프트, 업스테이지와 같은 국내 기업들이 개발한 모델도 아마존 베드락에서 이용할 수 있습니다. 베드락 AI를 활용하여 친구를 만드는 앱 구현 사례는 별도 세션에서 더 자세히 다룰 예정입니다.

생성형 AI 애플리케이션 개발 단계

놀라운 성능을 가진 파운데이션 모델에도 몇 가지 한계점이 존재합니다. 대표적인 한계는 환각(Hallucination) 현상과 지식 단절(Knowledge Cutoff) 현상입니다. 환각 현상은 모델이 학습 데이터에 없는 내용을 마치 사실인 것처럼 생성하는 현상이며, 지식 단절 현상은 모델이 학습된 시점 이후의 최신 정보를 알지 못하는 현상입니다. 이러한 한계점들은 정확하고 신뢰할 수 있는 데이터 소스의 중요성을 강조합니다. 기업 내부의 고유한 지식이나 최신 정보를 파운데이션 모델에 제공하지 않으면, 사내 업무 규정이나 복잡한 프로세스 처리와 같은 특정 업무를 수행하기 어렵습니다.

이러한 문제점을 해결하고 기업 환경에서 생성형 AI를 효과적으로 활용하기 위해서는 파운데이션 모델이 맥락을 이해할 수 있도록 충분한 학습 데이터를 제공해야 합니다. 파운데이션 모델을 재학습시키는 것은 막대한 시간과 비용이 소요되므로, 일반적으로는 기존 모델을 개선하는 방향으로 접근합니다. 가장 대표적인 기법이 검색 증강 생성(RAG)입니다. RAG는 사내 데이터를 검색하여 답변 생성 과정에 활용하는 기법입니다. RAG를 사용하면 파운데이션 모델을 추가 학습시킬 필요 없이, 외부 지식 소스를 활용하여 답변의 정확성과 신뢰성을 높일 수 있습니다.

아마존 베드락은 에이전트(Agent) 기능과 난리지 베이스(Knowledge Base) 기능을 통해 RAG를 쉽게 구현할 수 있도록 지원합니다. 사용자가 프롬프트를 통해 작업을 요청하면, 베드락 에이전트는 난리지 베이스에서 관련 정보를 검색하고, 검색된 정보를 파운데이션 모델에 함께 제공하여 답변의 정확도를 높입니다. 또한 가드레일(Guardrails) 기능을 통해 유해하거나 부적절한 답변, 개인 정보 유출 가능성이 있는 답변 등을 사전에 차단할 수 있습니다.

아마존 베드락 데모 시연

검색 증강 생성(RAG) 기법을 좀 더 쉽게 이해하기 위해, "엄마, 저 핸드폰 해지해 주실 수 있나요?"라는 고객 문의에 대한 답변 과정을 예시로 살펴보겠습니다. 베드락 에이전트는 먼저 사내 휴대폰 가입 해지 관련 규정을 벡터 데이터베이스에 질의합니다. 관련 데이터가 존재하면, 해당 정보를 파운데이션 모델에 전달하여 증강된 프롬프트를 생성합니다. 예를 들어, "대리인 해지 제도에 대한 내용을 참고하여 고객에게 정확한 해지 절차를 안내해주세요"와 같이 프롬프트가 재구성됩니다. 파운데이션 모델은 증강된 프롬프트와 함께 검색된 사내 규정 정보를 바탕으로, 고객에게 정확하고 상세한 답변을 제공합니다.

검색 증강 생성 기법에 대한 더 자세한 내용은 "베드락 PDF 검색 구현 사례" 세션에서 심층적으로 다룰 예정입니다. 최근 아마존 베드락 플레이그라운드에 난리지 베이스, 가드레일과 같은 필수 기능을 통합하여, 생성형 AI 앱을 손쉽게 구현할 수 있는 베드락 스튜디오(Bedrock Studio) 기능이 미리보기 형태로 공개되었습니다. 베드락 스튜디오의 주요 기능을 간략하게 살펴보겠습니다.

베드락 스튜디오 미리보기

베드락 스튜디오는 플레이그라운드 환경에서 다양한 언어 모델을 직접 체험하고 비교해볼 수 있는 기능을 제공합니다. 예를 들어, 아마존 베드락의 신규 기능에 대해 질문했을 때, 모델이 최신 정보를 제대로 알지 못하는 경우가 있습니다. 이 때 검색 증강 생성 기법을 활용하면 답변의 정확도를 높일 수 있습니다. 베드락 스튜디오에서 미리 생성해둔 프로젝트를 선택하고, 난리지 베이스와 가드레일 기능을 활성화합니다.

난리지 베이스는 업로드된 AWS 신규 기능 문서를 임베딩(embedding)하여 오픈서치 벡터 DB에 저장하는 역할을 합니다. 가드레일 기능은 욕설 필터링, 답변 주제 제한 등 모델의 응답을 제어하는 역할을 합니다. 신규 기능 관련 앱을 실행하고, 예시 프롬프트와 함께 사용할 언어 모델, 난리지 베이스, 가드레일 설정을 지정합니다. "아마존 베드락 신규 기능 알려줘"와 같이 프롬프트를 입력하면, 모델은 난리지 베이스를 참조하여 최근 한 달 사이에 출시된 신규 기능에 대한 정보를 제공합니다. 미리 설정해둔 AWS 크레딧 관련 질문에 대해서도 정확한 답변을 얻을 수 있습니다. 이처럼 아마존 베드락 스튜디오를 활용하면 손쉽게 생성형 AI 앱을 개발하고 테스트할 수 있습니다.

아마존 Q: 업무용 생성형 AI 도우미

아마존 Q는 업무 효율성을 높여주는 생성형 AI 기반의 업무 도우미 서비스입니다. 아마존 Q는 크게 Q 비즈니스(Q Business)와 Q 디벨로퍼(Q Developer) 두 가지 버전으로 제공됩니다. Q 비즈니스는 일반 직원 및 비즈니스 분석가를 대상으로 하며, Q 디벨로퍼는 개발자 및 데이터 과학자를 대상으로 합니다. 두 서비스 모두 기업 보안 및 개인 정보 보호를 최우선으로 고려하여 설계되었으며, 비즈니스 목적에 맞는 맞춤형 기능을 제공하는 것이 특징입니다.

Q 비즈니스는 40개 이상의 다양한 데이터 소스 (문서 저장소, SaaS 애플리케이션 등)와 연동하여 기업 내 데이터를 통합적으로 활용할 수 있도록 지원합니다. 통합된 데이터 기반으로 대화형 검색 환경을 제공하며, 챗봇 기능뿐만 아니라 플러그인 기능을 통해 특정 워크플로우를 자동화할 수도 있습니다. 사용자 권한 기반 접근 제어 기능을 통해 세부적인 기능 접근 권한을 관리할 수 있으며, 가드레일 기능을 통해 부적절한 답변 생성을 방지하고 책임감 있는 AI 시스템을 구축할 수 있습니다. 특히 Q 앱스(Q Apps) 기능을 활용하면, 누구나 프롬프트 기반으로 업무용 앱을 손쉽게 개발하고 공유할 수 있습니다.

아마존 Q 비즈니스 기능 소개

아마존 Q 비즈니스는 관리자 모드와 사용자 모드로 구분됩니다. 관리자 모드에서는 데이터 소스 연동, 가드레일 설정, 플러그인 관리, Q 앱스 관리 등 전반적인 서비스 설정을 담당합니다. Q 비즈니스 관리자 화면에서 가장 먼저 해야 할 일은 사내 데이터를 Q 비즈니스와 연동하는 것입니다. "데이터 소스 추가" 버튼을 클릭하면, S3 버킷, 웹 크롤링, 파일 업로드, 마이크로소프트 365, 구글 드라이브, 세일즈포스, 슬랙 등 40개 이상의 다양한 데이터 소스를 선택하여 연동할 수 있습니다.

가드레일 설정에서는 민감 정보(Confidential Information)에 대한 응답 제한과 같은 다양한 제약 조건을 설정하여, 모델의 답변을 제어할 수 있습니다. 플러그인 메뉴에서는 세일즈포스 영업 정보 업데이트, 지라(Jira) 티켓 생성과 같은 플러그인을 추가하거나, 자체적으로 맞춤형 플러그인을 개발하여 연동할 수 있습니다. Q 앱스 메뉴에서는 직원들이 프롬프트 기반으로 개발한 업무용 앱을 조직 내에서 공유하고 관리할 수 있습니다.

사용자 모드는 간단한 채팅 인터페이스를 제공합니다. 예를 들어, "최근 제품 마케팅 담당자 채용 공고를 진행 중인데, 면접 질문을 만들어줘"와 같이 질문하면, Q 비즈니스는 연동된 회사 문서와 파운데이션 모델을 기반으로 상세한 답변을 제공합니다. Q 앱스 기능을 활용하여 면접 질문 생성 앱을 직접 만들어 볼 수도 있습니다. 앱 개발 시에는 앱의 기능, 입력 변수, 출력 형태 등을 자세하게 정의해야 합니다. 예시 프롬프트, 직무, 경력 조건, 그리고 원하는 질문 유형 등을 입력하면, Q 비즈니스는 입력 정보를 분석하여 면접 질문 생성 앱을 자동으로 만들어 줍니다. 생성된 앱은 직무와 경력 수준을 입력받고, 예상 면접 질문과 답변을 생성하는 프롬프트를 실행하여 결과를 보여줍니다. 프롬프트 수정 기능을 통해 답변 언어를 한국어로 변경할 수도 있습니다.

아마존 Q 앱스 활용

Q 앱스 기능을 통해 개발된 앱은 "라이브러리" 메뉴에서 확인할 수 있으며, 조직 내 다른 사용자와 공유할 수 있습니다. Q 앱스를 활용하면, 코딩 없이도 누구나 쉽게 업무용 앱을 만들고 공유하여 업무 효율성을 높일 수 있습니다. 예를 들어, HR(인사) 카테고리에 면접 질문 생성 앱을 게시하여, 인사 담당자들이 면접 준비에 활용할 수 있도록 할 수 있습니다.

아마존 Q 비즈니스는 이처럼 다양한 기능을 통해 기업의 데이터 활용도를 높이고, 직원들의 업무 생산성을 향상시키는 데 기여할 수 있습니다. 다음으로는 개발자들을 위한 아마존 Q 디벨로퍼 기능에 대해 자세히 살펴보겠습니다.

아마존 Q 디벨로퍼 기능 소개

최근 조사에 따르면 50% 이상의 개발자들이 생성형 AI 코딩 도구를 실제 업무에 활용하고 있는 것으로 나타났습니다. 아마존 Q 디벨로퍼는 IDE(통합 개발 환경)뿐만 아니라 AWS 콘솔, 문서 사이트, 모바일 앱 등 AWS를 사용하는 모든 환경에서 사용할 수 있습니다. AWS의 17년간 축적된 데이터를 기반으로 학습된 모델을 사용하여, 소스 코드 생성, 레거시 코드 변환, 인프라 코드 템플릿 생성 등 다양한 개발 작업을 지원합니다.

아마존 Q 디벨로퍼는 기업 보안 및 개인 정보 보호를 위한 강력한 가드레일 기능을 제공하며, 비즈니스 요구 사항에 맞는 맞춤형 기능을 제공하는 데 강점을 가지고 있습니다. 영국의 브리티시 텔레콤(British Telecom, BT)은 아마존 Q 디벨로퍼를 도입한 후 4개월 동안 10만 줄 이상의 코드를 생성하고, 개발자들이 반복적으로 수행하는 작업을 12% 자동화하는 효과를 거두었습니다. 또한 활성 사용자당 하루 평균 15~20개의 코드 제안을 제공했으며, 이 중 37%의 제안이 개발자들에 의해 채택되었습니다. 아마존 Q 디벨로퍼를 활용하면 소프트웨어 개발의 전 과정, 즉 기획, 설계, 코드 구현, 테스트, 배포, 유지보수 단계에서 생산성을 향상시킬 수 있습니다.

AWS 콘솔에서도 아마존 Q 디벨로퍼를 사용할 수 있습니다. 소프트웨어 기획 단계에서 어떤 AWS 서비스를 활용해야 할지 질문하면, 아마존 Q 디벨로퍼는 웹 애플리케이션 개발에 적합한 AWS 서비스 목록과 활용 방안을 제시합니다. 또한 슬랙 통합 기능을 통해 자바(Java) 앱을 AWS에 구축하는 단계별 가이드를 한국어로 제공받을 수도 있습니다.

아마존 Q 디벨로퍼 커스터마이징 기능

기획 및 설계 단계를 완료한 후, IDE 환경에서 아마존 Q 디벨로퍼를 활용하여 코드 구현 작업을 효율적으로 수행할 수 있습니다. 새로운 코드를 자동 생성하거나, 기존 코드에 대한 설명을 얻거나, 코드 주석 및 문서 작성을 자동화할 수 있습니다. 하지만 기업 환경에서 개발할 때는 회사 고유의 코딩 스타일이나 코딩 컨벤션을 준수해야 합니다. 생성형 AI 코딩 도구를 사용하는 개발자 중 27%는 회사 몰래 사용하고 있다고 응답했는데, 그 이유는 회사나 팀의 AI 도구 사용 정책이 명확하지 않거나, 회사 정책에 위배될 수 있다는 우려 때문입니다.

아마존 Q 디벨로퍼는 이러한 문제를 해결하기 위해, 내부 코드 및 모범 사례를 기반으로 개발자 맞춤형 코드 제안을 제공하는 커스터마이징 기능을 정식 출시했습니다. 커스터마이징 기능은 사내 코드 베이스와 작동 방식을 학습하는 채팅 기능을 통해 코드 검색 시간을 절약하고, 회사 규정에 맞는 코드를 생성할 수 있도록 지원합니다. 커스터마이징 기능은 검색 증강 생성(RAG) 기법과 유사한 방식으로 작동합니다. 사내 코드 및 관련 문서를 임베딩 모델을 통해 벡터 데이터베이스에 저장하고, 코드 추천 요청이 있을 때 임베딩 모델을 사용하여 가장 적절한 코드와 문서를 검색하여 맞춤형 코드를 추천합니다. 사내 데이터는 AWS 계정 내 벡터 스토어에 안전하게 저장됩니다.

호주의 대형 은행 NAB(National Australia Bank)는 아마존 Q 디벨로퍼 커스터마이징 기능을 도입한 후 코드 채택률이 50% 이상으로 증가했으며, 설문 조사에 참여한 개발자 중 40% 이상이 생산성 향상을 경험했다고 응답했습니다. 그 결과, NAB에서 개발 업무에 AI 도구를 사용하는 직원 수가 단 몇 달 만에 450명에서 1,000명 이상으로 두 배 이상 증가했습니다.

코드 테스트 및 배포 단계에서의 아마존 Q 활용

코드 테스트 단계에서 아마존 Q 디벨로퍼는 구현된 기능에 대한 단위 테스트 코드를 자동 생성하거나, 소스 코드 내 보안 취약점을 검사하고, 코드 품질 개선을 위한 제안을 제공합니다. 예를 들어, 자바 코드에서 데이터베이스 접속 정보(DB URL)가 하드코딩된 취약점을 발견하고, 이를 해결하기 위한 방안을 제시할 수 있습니다.

소프트웨어 배포 단계에서도 아마존 Q 디벨로퍼는 AWS 콘솔 환경에서 오류 진단 및 문제 해결을 지원합니다. 예를 들어, AWS 람다(Lambda) 함수 실행 시 발생하는 오류에 대한 트러블슈팅(Troubleshooting) 가이드를 제공하고, IAM(Identity and Access Management) 권한 설정 문제와 같은 근본적인 원인과 해결책을 제시할 수 있습니다. 또한 AWS 계정 내 리소스 검색, AWS Cost Explorer 연동을 통한 비용 데이터 분석 등 다양한 운영 관련 기능도 제공합니다.

코드 변환을 위한 에이전트 기능 (Agent for Code Transformation)

배포된 소프트웨어 운영 단계에서는 다양한 기술 부채(Technical Debt) 해소 작업이 필요합니다. 개발자 퇴사 후 신규 개발자가 기존 프로젝트를 유지보수해야 하는 경우, 보안 취약점 또는 성능 이슈 해결, 레거시 코드 업그레이드 등 다양한 과제에 직면하게 됩니다. 생성형 AI 기반 지식 DB를 활용하면 코드 변환 및 업그레이드 작업을 효율적으로 수행할 수 있습니다.

아마존 Q 디벨로퍼는 코드 변환 에이전트(Agent for Code Transformation) 기능을 정식 출시하여, 레거시 코드 현대화 작업을 획기적으로 단축시켰습니다. 과거 몇 주 또는 몇 달이 걸리던 코드 변환 작업을 단 몇 분 만에 완료할 수 있습니다. 현재 자바 8 기반 코드를 자바 11 또는 자바 17로 자동 변환하는 기능을 제공하며, 향후 리눅스 마이그레이션, 닷넷(.NET) 프레임워크 지원 등 지원 범위를 확대할 예정입니다. 레거시 자바 코드 변환 데모를 통해 아마존 Q 디벨로퍼의 코드 변환 기능을 자세히 살펴보겠습니다.

아마존 Q 코드 변환 기능을 사용하면 기존 자바 8 기반 애플리케이션을 자바 11 또는 자바 17 버전으로 손쉽게 업그레이드할 수 있습니다. 코드 변환 요청 시, 아마존 Q는 기존 자바 프로젝트의 소스 코드를 분석하고, 업그레이드에 필요한 변경 사항을 자동으로 적용합니다. 업그레이드가 완료된 후, 변경된 자바 소스 코드를 기존 코드와 비교하여 변경 내역을 확인할 수 있습니다. 예시 데모에서는 Base64 인코딩 관련 함수가 변경된 것을 확인할 수 있습니다. 코드 변경 내역에 대한 상세 보고서도 제공됩니다.

아마존 개발팀은 5명으로 구성된 팀으로 아마존 Q 코드 변환 기능을 활용하여 단 이틀 만에 1,000개의 프로덕션 애플리케이션을 자바 8에서 자바 17로 성공적으로 업그레이드했습니다. 애플리케이션당 평균 업그레이드 시간은 약 10분이었으며, 가장 규모가 큰 자바 프로젝트도 1시간 이내에 업그레이드가 완료되었습니다. 기존에 수작업으로 진행했을 경우 애플리케이션 하나당 2~3일이 소요되었던 점을 감안하면, 생산성이 획기적으로 향상된 것을 알 수 있습니다. 아마존은 사내 3만 개 이상의 자바 프로젝트를 아마존 Q 코드 변환 기능을 활용하여 업그레이드했으며, 총 4,500년의 개발 시간을 절약하고, 2억 6천만 달러, 한화 약 3,500억 원의 비용 절감 효과를 거두었습니다.

아마존 앱 스튜디오 미리보기

생성형 AI 코딩 도구 사용에 대한 불안감, 예를 들어 "단순 업무는 AI가 대체하고, 어려운 업무는 여전히 AI가 해결해주지 못한다"는 우려가 있을 수 있습니다. AI 코딩 도우미는 단순 반복적인 작업보다는 새로운 기능을 구현하거나, 새로운 언어나 API를 학습하는 데 유용하게 활용될 수 있습니다. 아마존 Q 디벨로퍼 활용 세션에서 AI 코딩 도구 활용 전략에 대한 더 자세한 정보를 얻을 수 있습니다.

AI 코딩 도구를 통해 절약된 시간을 활용하여 개발자들은 추가 프로젝트 참여, 취미 활동, 사이드 프로젝트, 새로운 기술 학습 등 보다 생산적인 활동에 집중할 수 있습니다. 하지만 여전히 기업 내 개발 자원은 부족한 상황이며, 사내 업무용 앱 개발 수요는 꾸준히 증가하고 있습니다. 아마존 Q 앱스와 같은 로우코드 플랫폼이 존재하지만, 여전히 학습 곡선이 높고 개발 장벽이 존재합니다. 생성형 AI 기술을 활용하면 이러한 문제점을 해결하고, 누구나 쉽게 앱 개발에 참여할 수 있도록 지원할 수 있습니다.

AWS 앱 스튜디오(App Studio)는 이러한 문제점을 해결하기 위해 미리보기 형태로 출시된 서비스입니다. AWS 앱 스튜디오를 사용하면 전문적인 소프트웨어 개발 기술 없이도 몇 분 안에 업무용 앱을 구축하고 운영할 수 있습니다. 개발자 없이 일반 사용자도 앱 개발이 가능하며, 사내 IT 부서의 가이드라인에 따라 안전하게 운영할 수 있습니다. 기존 로우코드 도구 대비 최대 80%의 비용 절감 효과를 기대할 수 있습니다.

AWS 앱 스튜디오에서 "Create app" 버튼을 클릭하고, 프롬프트 기반 앱 생성 옵션을 선택합니다. 관리자가 미리 구성해둔 회사 데이터베이스를 연동하거나, "Skip" 버튼을 눌러 초기화 과정을 완료합니다. 앱 초기화가 완료되면 채팅 인터페이스가 나타나고, 우측에 IT 재고 관리 앱, 인터뷰 질문 생성 앱 등 다양한 업무용 앱 템플릿 목록이 표시됩니다. "인터뷰 질문과 답변을 만들고 공유하는 앱"을 선택하고, 인터뷰 직무, 경력, 필수 질문 예시 등의 프롬프트를 입력합니다.

AWS 앱 스튜디오는 입력된 프롬프트를 분석하여 앱 요구 사항 (사용 사례, 사용자 인터페이스, 데이터 소스 등)을 자동으로 생성합니다. 잠시 후 앱 요약 정보, 주요 기능, 사용 방법 등이 포함된 간단한 문서가 생성됩니다. "Generate app" 버튼을 클릭하면 앱이 자동으로 생성됩니다. 생성된 앱은 사용자 인터페이스가 자동으로 구성되어 있으며, 앱 편집 기능을 통해 앱 제목과 같은 UI 요소를 수정할 수 있습니다. 예를 들어, 영어로 된 앱 제목을 한국어로 변경할 수 있습니다.

"앱 미리보기" 버튼을 클릭하면 실제 작동하는 앱을 웹 브라우저에서 체험해볼 수 있습니다. 마지막으로 "배포(Deploy)" 버튼을 클릭하여 앱을 다른 사용자들과 공유할 수 있습니다. 앱 배포는 테스트 스테이지를 거쳐 프로덕션 환경으로 배포하는 방식으로 진행됩니다. 테스트 단계를 거친 후, 일반 사용자들에게 앱을 공개하여 사용할 수 있도록 할 수 있습니다.

서비스 선택 가이드 및 추가 학습 리소스

지금까지 생성형 AI 서비스를 활용하여 일반 업무 및 개발 업무에 적용하는 다양한 방법을 살펴보았습니다. 마지막으로, 어떤 상황에서 어떤 서비스를 선택해야 할지 간략하게 정리해보겠습니다. 소프트웨어 코드 구현 기능이 필요한 경우, 아마존 Q 디벨로퍼와 앱 스튜디오를 고려할 수 있습니다. 사내 업무용 비즈니스 앱 개발이 필요한 경우, 아마존 Q 비즈니스와 Q 앱스를 활용하는 것이 좋습니다. 좀 더 자유롭고 맞춤화된 생성형 AI 모델 개발 및 활용을 원한다면, 아마존 베드락과 베드락 스튜디오를 선택할 수 있습니다. 만약 직접 생성형 AI 모델을 구축하거나 튜닝하고 싶다면, 아마존 세이지메이커를 사용하는 것이 적합합니다.

본 강연에서는 클라우드 마이그레이션, 앱 현대화, 생성형 AI 기반 빌드 방식 등 성공적인 클라우드 아키텍처 구축을 위한 세 가지 핵심 요소를 살펴보았습니다. 각 기업의 상황과 필요에 맞는 적절한 방식과 여정을 선택하여 클라우드 전환 및 현대화 목표를 성공적으로 달성하시기를 바랍니다. 강연 이후에는 앱 현대화, 데이터 현대화, 생성형 AI, 솔루션 등 4개의 트랙으로 나뉘어 더욱 심도 있는 세션들이 진행될 예정입니다. 마지막으로, 600개 이상의 무료 디지털 학습 콘텐츠를 제공하는 AWS 스킬 빌드(Skill Builder)를 소개해 드립니다. AWS 스킬 빌드는 30개 이상의 AWS 솔루션에 대한 디지털 셀프 학습 가이드, 다양한 학습 자료, 실습 환경 등을 제공하여, 클라우드 기술 역량 강화에 필요한 모든 것을 제공합니다. AWS 스킬 빌드를 통해 클라우드 전문가로 성장하는 발판을 마련하시기를 바랍니다. 오늘 강연이 여러분께 도움이 되었기를 바라며, 설문 조사에 참여하시어 소중한 의견을 남겨주시면 향후 더 유익한 콘텐츠를 준비하는 데 참고하겠습니다. 경청해주셔서 감사합니다.