배경 제거와 사진 합성

합성은 오려낸 뒤부터 시작된다

사진 합성은 피사체를 배경에서 떼어 내는 작업으로 시작합니다. 하지만 결과의 완성도는 오려내기보다 그 이후에 결정됩니다. 피사체의 크기, 위치, 빛의 방향, 색감, 그림자가 배경과 맞아야 하나의 장면처럼 보입니다.

초보자가 가장 많이 하는 실수는 피사체의 가장자리만 깨끗하게 만들면 합성이 끝났다고 생각하는 것입니다. 가장자리가 아무리 깔끔해도 피사체가 배경보다 너무 밝거나, 그림자가 없거나, 원근이 맞지 않으면 금방 어색해집니다.

이번 장에서는 다음 흐름으로 작업합니다.

1. 피사체를 분리한다.

2. 가장자리와 잔여 색을 정리한다.

3. 배경에 맞게 크기와 위치를 조정한다.

4. 밝기와 색을 통일한다.

5. 그림자와 반사광을 추가한다.

합성은 한 번에 완성하는 작업이 아닙니다. 작은 차이를 계속 줄여 가는 과정입니다.

피사체 분리하기

먼저 합성할 피사체 이미지를 엽니다. 작업을 시작하기 전에 원본 레이어를 복제하거나 스마트 오브젝트로 변환해 두면 좋습니다. 나중에 크기를 다시 조정하거나 마스크를 수정할 때 품질 손상을 줄일 수 있습니다.

기본 흐름은 다음과 같습니다.

1. 피사체 레이어를 선택합니다.

2. 선택 > 피사체 선택을 실행합니다.

3. 대략적인 선택 영역이 만들어지면 선택 및 마스크로 들어갑니다.

4. 가장자리를 확인하며 머리카락, 옷자락, 투명한 부분을 다듬습니다.

5. 출력 방식은 가능하면 레이어 마스크로 설정합니다.

레이어 마스크로 출력하면 선택되지 않은 부분이 삭제되지 않고 숨겨집니다. 이전 장에서 배운 것처럼 마스크의 검은색은 숨기고, 흰색은 드러냅니다. 합성 작업에서는 이 방식이 중요합니다. 배경을 지워 버리면 나중에 가장자리를 다시 살리기 어렵지만, 마스크라면 언제든 수정할 수 있습니다.

선택 및 마스크에서 가장자리 다듬기

피사체를 분리한 뒤에는 가장자리를 확대해서 확인해야 합니다. 전체 화면에서는 괜찮아 보여도 100% 이상 확대하면 하얀 테두리, 배경색 잔여물, 끊어진 머리카락이 보일 수 있습니다.

선택 및 마스크에서는 다음 항목을 주로 사용합니다.

• 반경: 가장자리 주변을 포토샵이 다시 계산하는 범위입니다. 머리카락처럼 복잡한 윤곽에 유용합니다.

• 가장자리 다듬기 브러시 도구: 머리카락, 털, 나뭇잎처럼 복잡한 부분을 문질러 다시 분석하게 합니다.

• 매끄럽게: 울퉁불퉁한 선택선을 부드럽게 만듭니다. 너무 높이면 윤곽이 뭉개집니다.

• 페더: 가장자리에 아주 약한 흐림을 줍니다. 배경과 살짝 섞이게 할 때 사용합니다.

• 대비: 흐릿한 가장자리를 조금 더 또렷하게 만듭니다.

• 가장자리 이동: 선택 영역을 안쪽이나 바깥쪽으로 밀어냅니다. 배경 테두리가 남을 때는 약간 안쪽으로 이동하면 도움이 됩니다.

인물 합성에서는 머리카락과 어깨선이 가장 중요합니다. 머리카락은 완벽하게 한 올씩 살리려고 하기보다, 전체 실루엣이 자연스러운지 보는 것이 좋습니다. 너무 날카로운 머리카락보다 약간 부드럽게 섞인 머리카락이 실제 배경 위에서는 더 자연스럽습니다.

가장자리 잔여 색 정리하기

피사체를 밝은 배경에서 떼어 내면 흰 테두리가 남고, 초록 배경에서 떼어 내면 초록빛이 윤곽에 남을 수 있습니다. 이것을 흔히 색 번짐, 색 오염, 프린지라고 부릅니다. 합성에서 가장 흔하게 보이는 어색함입니다.

가장자리 잔여 색을 정리하는 방법은 여러 가지입니다.

마스크를 안쪽으로 조금 줄이기

가장자리에 이전 배경색이 얇게 남아 있다면 마스크를 아주 조금 안쪽으로 줄입니다.

1. 레이어 마스크를 선택합니다.

2. 속성 패널에서 밀도와 페더를 확인합니다.

3. 필요하면 마스크 가장자리를 선택한 뒤 최소값 필터를 아주 약하게 적용합니다.

이 방법은 단순한 윤곽에 효과적입니다. 다만 머리카락처럼 섬세한 부분에 과하게 적용하면 자연스러운 끝부분이 사라집니다.

브러시로 마스크 직접 수정하기

가장 확실한 방법은 마스크를 직접 칠하는 것입니다.

• 검은색 브러시: 불필요한 가장자리를 숨깁니다.

• 흰색 브러시: 사라진 피사체를 다시 드러냅니다.

• 회색 브러시: 반투명하게 남깁니다.

브러시는 부드러운 원형 브러시를 사용하고, 불투명도는 20~50% 정도로 낮춰 여러 번 칠하는 편이 자연스럽습니다. 한 번에 강하게 칠하면 윤곽이 잘려 보입니다.

색상 보정으로 테두리 색 죽이기

배경색이 피사체 가장자리에 묻어 있다면 색 자체를 줄이는 방식도 좋습니다.

1. 피사체 레이어 위에 색조/채도 조정 레이어를 만듭니다.

2. 조정 레이어를 피사체에만 적용되도록 클리핑 마스크로 설정합니다.

3. 문제가 되는 색상 계열을 선택합니다. 예를 들어 초록색 번짐이면 녹색 계열을 선택합니다.

4. 채도를 낮추거나 색조를 주변 색에 가깝게 조정합니다.

5. 조정 레이어 마스크를 이용해 가장자리 부분에만 적용합니다.

이 방식은 배경색이 머리카락이나 옷 가장자리에 남았을 때 특히 유용합니다. 전체 피사체의 색을 바꾸지 말고, 문제가 되는 윤곽에만 적용해야 합니다.

배경 위에 피사체 배치하기

피사체를 분리했다면 이제 배경 이미지 위에 올립니다. 이때 가장 먼저 볼 것은 크기와 위치입니다. 사람이나 사물이 배경 위에 실제로 놓인 것처럼 보이려면 바닥과 시선 높이가 맞아야 합니다.

다음 순서로 맞춰 봅니다.

1. 배경 레이어 위에 피사체 레이어를 놓습니다.

2. 피사체 레이어를 스마트 오브젝트로 변환합니다.

3. Ctrl+T 또는 Command+T로 자유 변형을 실행합니다.

4. 배경 속 사물과 비교해 크기를 조절합니다.

5. 발, 바퀴, 물체의 바닥면처럼 실제로 닿는 부분을 기준으로 위치를 맞춥니다.

크기를 맞출 때는 피사체의 머리끝이나 물체의 윗면만 보지 말고, 바닥에 닿는 지점을 먼저 맞추는 것이 좋습니다. 합성에서 공간감은 대부분 접지점에서 결정됩니다. 사람이 바닥에 서 있는 사진이라면 발이 배경의 바닥면에 정확히 놓여야 합니다.

원근과 시선 높이 맞추기

원근은 가까운 것은 크게, 먼 것은 작게 보이는 규칙입니다. 원근이 맞지 않으면 아무리 색을 잘 맞춰도 피사체가 떠 보입니다.

배경을 볼 때는 먼저 수평선과 소실점을 찾습니다. 수평선은 카메라의 눈높이에 해당합니다. 거리 사진에서는 건물의 선이나 도로의 양쪽 선이 멀리서 만나는 방향을 보면 소실점을 추정할 수 있습니다.

피사체를 배치할 때는 다음을 확인합니다.

• 피사체의 눈높이가 배경의 시선 높이와 크게 어긋나지 않는가?

• 바닥에 닿는 부분이 배경의 바닥면 위에 있는가?

• 가까운 위치에 둔 피사체가 충분히 크게 보이는가?

• 먼 위치에 둔 피사체가 배경의 다른 사물과 비교해 너무 크지 않은가?

• 카메라가 내려다본 배경인지, 올려다본 배경인지 피사체와 일치하는가?

필요하면 편집 > 변형 > 왜곡 또는 원근을 사용해 피사체의 기울기를 조정합니다. 단, 사람 얼굴이나 몸을 과하게 왜곡하면 부자연스럽습니다. 원근 변형은 건물, 상자, 간판처럼 형태가 단단한 물체에 더 적합합니다.

빛의 방향 확인하기

색 보정보다 먼저 확인해야 할 것은 빛의 방향입니다. 배경에서는 왼쪽에서 빛이 들어오는데 피사체는 오른쪽이 밝다면 합성이 어색해집니다.

배경에서 다음을 살펴봅니다.

• 그림자가 어느 방향으로 떨어지는가?

• 밝은 면과 어두운 면이 어디에 있는가?

• 빛이 강한 직사광인지, 흐린 날의 부드러운 빛인지?

• 배경 전체의 대비가 강한가, 약한가?

피사체의 빛 방향이 배경과 반대라면 먼저 좌우 반전을 고려합니다. 편집 > 변형 > 가로로 뒤집기를 사용하면 빛 방향이 더 잘 맞을 때가 있습니다. 다만 글자, 로고, 사람의 익숙한 얼굴 방향이 있는 경우에는 반전이 어색할 수 있으니 주의합니다.

빛의 강도도 중요합니다. 맑은 야외 배경에는 그림자가 선명하고 대비가 강한 피사체가 어울립니다. 흐린 날이나 실내 배경에는 그림자가 부드럽고 대비가 낮은 피사체가 자연스럽습니다.

밝기와 대비 맞추기

피사체가 배경보다 너무 밝거나 어두우면 가장 먼저 티가 납니다. 이때는 색보다 밝기부터 맞춥니다.

가장 기본적인 방법은 곡선 조정 레이어입니다.

1. 피사체 레이어 위에 곡선 조정 레이어를 만듭니다.

2. 조정 레이어를 피사체에만 적용되도록 클리핑 마스크로 설정합니다.

3. 곡선의 가운데 부분을 올리면 중간 밝기가 밝아집니다.

4. 곡선의 가운데 부분을 내리면 중간 밝기가 어두워집니다.

5. 검은 점과 흰 점을 조절해 대비를 맞춥니다.

밝기 조정은 전체 화면을 보며 해야 합니다. 피사체만 확대해서 보면 맞는 것 같아도, 전체 장면에서는 여전히 튈 수 있습니다.

배경의 대비가 낮다면 피사체의 대비도 낮춰야 합니다. 검은 부분이 너무 진하면 곡선에서 어두운 영역을 살짝 올립니다. 반대로 배경이 강한 햇빛을 받은 장면이라면 피사체의 밝은 부분을 더 밝게 만들고, 어두운 부분을 조금 더 눌러 대비를 키웁니다.

색상 일치로 기본 톤 맞추기

서로 다른 사진은 촬영한 카메라, 조명, 장소가 다르기 때문에 색온도가 다릅니다. 어떤 사진은 노랗고, 어떤 사진은 푸르며, 어떤 사진은 녹색이 섞여 보입니다. 합성에서는 이 차이를 줄여야 합니다.

포토샵에는 색상 일치 기능이 있습니다. 이 기능은 한 이미지의 색 분위기를 다른 이미지에 맞추는 데 도움을 줍니다.

기본 사용 흐름은 다음과 같습니다.

1. 피사체 레이어를 선택합니다.

2. 필요하면 피사체 레이어를 복제해 보정용으로 둡니다.

3. 이미지 > 조정 > 색상 일치를 실행합니다.

4. 소스에서 현재 문서를 선택합니다.

5. 배경 레이어를 기준으로 지정합니다.

6. 광도, 색상 강도, 페이드 값을 조정해 자연스럽게 맞춥니다.

색상 일치는 한 번에 완벽하게 맞추는 기능이 아닙니다. 기본 방향을 잡는 도구로 생각하는 것이 좋습니다. 적용 후에는 곡선, 색상 균형, 색조/채도 같은 조정 레이어로 다시 다듬습니다.

색이 너무 강하게 변하면 페이드 값을 높이거나 색상 강도를 낮춥니다. 합성에서는 극적인 변화보다 덜 티 나는 변화가 더 좋습니다.

곡선으로 색을 세밀하게 조정하기

곡선은 밝기뿐 아니라 색도 조정할 수 있습니다. 곡선 패널에서 RGB 전체가 아니라 빨강, 초록, 파랑 채널을 따로 선택하면 색의 균형을 바꿀 수 있습니다.

예를 들어 배경이 따뜻한 노란빛인데 피사체가 차갑게 보인다면 다음처럼 조정할 수 있습니다.

• 빨강 채널을 조금 올려 따뜻함을 더합니다.

• 파랑 채널을 조금 내려 노란 느낌을 더합니다.

• 초록빛이 과하면 초록 채널을 살짝 내립니다.

반대로 배경이 차가운 새벽이나 그늘이라면 피사체의 붉은 기운을 줄이고 파란 기운을 조금 더할 수 있습니다.

곡선 색 보정은 아주 작은 조정으로도 차이가 큽니다. 그래프를 크게 움직이기보다 조금씩 조정하고, 조정 레이어의 눈 아이콘을 껐다 켜며 전후를 비교합니다.

색상 검색으로 전체 분위기 통일하기

피사체와 배경을 각각 맞춘 뒤에도 장면 전체가 따로 노는 느낌이 남을 수 있습니다. 이럴 때는 모든 레이어 위에 색상 검색 조정 레이어를 올려 전체 톤을 한 번 더 묶습니다.

색상 검색은 사진에 특정한 색 분위기를 입히는 기능입니다. 영화 같은 톤, 따뜻한 톤, 차가운 톤을 빠르게 적용할 수 있습니다.

사용 방법은 간단합니다.

1. 레이어 패널의 가장 위에 색상 검색 조정 레이어를 만듭니다.

2. 3D LUT 파일 목록에서 원하는 톤을 선택합니다.

3. 불투명도를 낮춰 효과를 약하게 적용합니다.

4. 필요하면 마스크로 특정 부분의 효과를 줄입니다.

색상 검색은 강하게 쓰면 사진이 과장되어 보입니다. 보통 10~30% 정도의 낮은 불투명도에서 시작하는 것이 안전합니다. 목적은 멋진 필터를 씌우는 것이 아니라, 서로 다른 이미지의 색을 하나의 공기감으로 묶는 것입니다.

피사체가 바닥에 닿게 만드는 접촉 그림자

그림자가 없으면 피사체는 배경 위에 붙인 스티커처럼 보입니다. 가장 먼저 만들어야 할 그림자는 접촉 그림자입니다. 접촉 그림자는 피사체가 바닥이나 물체와 닿는 부분에 생기는 짧고 진한 그림자입니다.

예를 들어 사람이 바닥에 서 있다면 발바닥 아래에 가장 어두운 그림자가 생깁니다. 컵이 책상 위에 있다면 컵 밑면 바로 아래가 가장 어둡습니다.

접촉 그림자를 만드는 방법은 다음과 같습니다.

1. 피사체 레이어 아래에 새 레이어를 만듭니다.

2. 레이어 이름을 접촉 그림자로 정합니다.

3. 부드러운 검은색 브러시를 선택합니다.

4. 불투명도를 10~30% 정도로 낮춥니다.

5. 피사체가 바닥에 닿는 부분을 짧게 칠합니다.

6. 레이어 혼합 모드를 곱하기로 설정합니다.

7. 필요하면 필터 > 흐림 효과 > 가우시안 흐림 효과로 살짝 부드럽게 만듭니다.

접촉 그림자는 작지만 매우 중요합니다. 이 그림자 하나만 추가해도 피사체가 바닥 위에 놓인 느낌이 훨씬 강해집니다.

길게 떨어지는 그림자 만들기

빛이 강하면 접촉 그림자뿐 아니라 길게 떨어지는 그림자도 생깁니다. 이 그림자는 빛의 반대 방향으로 뻗습니다.

만드는 방법은 다음과 같습니다.

1. 피사체 레이어를 복제합니다.

2. 복제한 레이어를 피사체 아래로 이동합니다.

3. 복제 레이어의 밝기를 완전히 어둡게 만듭니다. 예를 들어 색조/채도에서 명도를 낮추거나, 검은색으로 채웁니다.

4. Ctrl+T 또는 Command+T로 자유 변형을 실행합니다.

5. 그림자가 떨어지는 방향으로 눕히고 늘립니다.

6. 가우시안 흐림 효과를 적용해 가장자리를 부드럽게 합니다.

7. 불투명도를 낮춥니다.

8. 레이어 마스크를 추가해 멀어질수록 흐려지게 만듭니다.

그림자는 피사체에서 가까울수록 진하고, 멀어질수록 흐려집니다. 따라서 그림자 레이어에 마스크를 만들고 검정에서 흰색으로 이어지는 그라디언트를 적용하면 자연스럽습니다.

그림자의 색은 완전한 검정이 아닐 때가 많습니다. 야외에서는 주변 색이 섞이고, 실내에서는 조명 색이 섞입니다. 그림자가 너무 검게 보이면 불투명도를 낮추거나, 어두운 갈색·푸른색으로 바꿔 배경과 맞춥니다.

반사광 추가하기

실제 공간에서는 빛이 한 방향에서만 오지 않습니다. 바닥, 벽, 주변 물체에 반사된 빛이 피사체에 약하게 묻습니다. 이것을 반사광이라고 합니다.

예를 들어 푸른 벽 앞에 사람이 서 있다면 옷이나 피부의 그림자 부분에 약한 푸른빛이 섞일 수 있습니다. 붉은 노을 배경이라면 피사체의 가장자리에도 따뜻한 붉은빛이 닿을 수 있습니다.

반사광을 추가하는 간단한 방법은 다음과 같습니다.

1. 피사체 위에 새 레이어를 만듭니다.

2. 클리핑 마스크로 피사체에만 적용되게 합니다.

3. 배경에서 반사될 만한 색을 스포이드로 찍습니다.

4. 부드러운 브러시로 피사체의 어두운 면이나 가장자리에 살짝 칠합니다.

5. 혼합 모드를 부드러운 빛, 오버레이, 또는 색상으로 바꿔 봅니다.

6. 불투명도를 낮춰 자연스럽게 조절합니다.

반사광은 많이 넣으면 인위적입니다. 거의 보이지 않을 정도로 약하게 넣는 것이 좋습니다. 하지만 이 작은 색이 피사체와 배경을 연결해 줍니다.

반사 이미지 만들기

바닥이 유리, 물, 금속처럼 반사가 있는 재질이라면 피사체의 반사도 필요합니다. 반사가 없으면 피사체가 그 공간에 있는 느낌이 약해집니다.

간단한 반사 작업은 다음 순서로 만듭니다.

1. 피사체 레이어를 복제합니다.

2. 복제 레이어를 피사체 아래로 이동합니다.

3. 세로로 뒤집기를 적용합니다.

4. 바닥면에 맞게 위치를 조정합니다.

5. 필요하면 왜곡이나 원근으로 바닥 방향에 맞춥니다.

6. 불투명도를 낮춥니다.

7. 가우시안 흐림 효과를 적용합니다.

8. 레이어 마스크로 멀어질수록 사라지게 만듭니다.

반사는 원본보다 선명하면 안 됩니다. 바닥 재질에 따라 흐림과 불투명도를 조절합니다. 물 위 반사는 흔들림이 있고, 유리 위 반사는 비교적 선명하며, 거친 바닥에서는 거의 보이지 않습니다.

합성 실습: 인물을 거리 배경에 넣기

이제 전체 과정을 하나의 실습으로 정리해 보겠습니다. 인물 사진을 거리 배경에 합성한다고 가정합니다.

1단계: 인물 분리

인물 레이어를 선택하고 피사체 선택을 실행합니다. 선택 영역이 만들어지면 선택 및 마스크에서 머리카락과 어깨선을 다듬습니다. 출력은 레이어 마스크로 설정합니다.

마스크가 만들어지면 배경을 어두운색, 밝은색으로 번갈아 깔아 보며 윤곽을 확인합니다. 밝은 배경에서는 보이지 않던 흰 테두리가 어두운 배경에서 보일 수 있습니다.

2단계: 배경 위에 배치

거리 배경을 열고 인물 레이어를 가져옵니다. 인물을 스마트 오브젝트로 변환한 뒤 자유 변형으로 크기를 조절합니다. 발이 바닥에 닿는 위치를 먼저 맞추고, 주변 사람이나 문, 자동차 같은 기준물과 비교해 키가 자연스러운지 확인합니다.

3단계: 빛 방향 확인

배경의 그림자가 오른쪽으로 떨어진다면 빛은 왼쪽에서 오는 것입니다. 인물의 밝은 면도 왼쪽에 있어야 자연스럽습니다. 반대라면 인물을 좌우 반전할 수 있는지 검토합니다.

4단계: 밝기 맞추기

인물 위에 곡선 조정 레이어를 만들고 클리핑 마스크로 연결합니다. 배경보다 인물이 밝으면 곡선을 내려 어둡게 만듭니다. 배경의 검은 부분이 부드럽다면 인물의 검은 부분도 너무 진하지 않게 조정합니다.

5단계: 색 맞추기

인물이 차갑고 배경이 따뜻하다면 곡선의 빨강 채널을 약간 올리고 파랑 채널을 약간 내립니다. 필요하면 색상 일치 기능으로 기본 톤을 맞춘 뒤 세부 조정을 합니다.

마지막에는 모든 레이어 위에 색상 검색 조정 레이어를 올리고 불투명도를 낮춰 전체 색감을 묶습니다.

6단계: 그림자 추가

인물 레이어 아래에 새 레이어를 만들고 발 아래에 짧고 진한 접촉 그림자를 칠합니다. 빛의 반대 방향으로 길게 떨어지는 그림자가 필요하다면 인물 레이어를 복제해 검게 만든 뒤 눕히고 흐림을 적용합니다.

그림자 끝은 마스크로 흐리게 지웁니다. 그림자가 너무 진하면 불투명도를 낮춥니다.

7단계: 반사광 추가

거리 배경에 노란 조명이 있다면 인물의 한쪽 가장자리에 약한 노란빛을 더합니다. 주변이 푸른 그늘이라면 그림자 부분에 푸른빛을 아주 약하게 넣습니다. 이 작업은 과하면 티가 나므로 낮은 불투명도로 조금만 적용합니다.

합성 결과를 점검하는 방법

합성을 마친 뒤에는 다음 항목을 확인합니다.

• 피사체의 가장자리에 이전 배경색이 남아 있지 않은가?

• 피사체가 배경의 원근에 맞는 크기인가?

• 바닥에 닿는 부분이 자연스러운가?

• 빛의 방향이 배경과 같은가?

• 피사체의 밝기와 대비가 배경과 어울리는가?

• 색온도가 지나치게 따로 놀지 않는가?

• 접촉 그림자가 있는가?

• 그림자의 방향과 부드러움이 배경의 그림자와 비슷한가?

• 전체에 같은 톤이 적용되어 하나의 사진처럼 보이는가?

점검할 때는 화면을 축소해서 보는 것이 좋습니다. 확대 상태에서는 세부만 보이지만, 축소하면 전체 장면의 어색함이 잘 보입니다. 잠시 작업을 멈췄다가 다시 보는 것도 도움이 됩니다. 눈이 익숙해지면 어색한 부분을 놓치기 쉽기 때문입니다.

자연스러운 합성을 위한 핵심 원칙

배경 제거는 합성의 시작일 뿐입니다. 자연스러운 합성은 네 가지를 맞추는 작업입니다.

첫째, 원근입니다. 피사체가 그 공간 안에 들어갈 수 있는 크기와 위치여야 합니다.

둘째, 빛입니다. 밝은 면, 어두운 면, 그림자 방향이 배경과 맞아야 합니다.

셋째, 색입니다. 서로 다른 사진의 색온도와 채도를 하나의 분위기로 묶어야 합니다.

넷째, 접촉감입니다. 그림자와 반사광이 있어야 피사체가 배경 위에 실제로 놓인 것처럼 보입니다.

합성은 화려한 효과보다 관찰력이 중요합니다. 배경을 먼저 보고, 그 배경 안에서 피사체가 어떤 빛을 받고 어떤 그림자를 만들지 생각해야 합니다. 이 기준으로 작업하면 단순히 오려 붙인 이미지가 아니라 하나의 장면처럼 보이는 합성을 만들 수 있습니다.