7. 한계와 윤리 — 정직하게 알아두기

2026-04-28Views 22약 9분생성형 AI 활용

7. 한계와 윤리 — 정직하게 알아두기

프롬프트를 잘 짜는 법만 배우면 절반만 배운 셈이다. 이미지 AI는 놀라울 만큼 똑똑하지만, 중요한 순간에는 아주 사소한 곳에서 무너진다. 손가락 하나, 간판 글자 하나, 숫자 하나가 전체 결과의 신뢰를 무너뜨린다. Nano Banana 계열 역시 미세 디테일, 장기 일관성, 반복 편집 안정성에서 한계가 알려져 있다.¹

이 장의 목적은 겁을 주는 것이 아니다. 오히려 반대다. 어디까지 믿고, 어디서부터 사람이 다시 잡아야 하는지를 알면 훨씬 안전하고, 훨씬 프로답게 쓸 수 있다.

한계와 윤리 — 정직하게 알아두기

7.1 Nano Banana가 여전히 못 하는 것 — 손가락, 작은 얼굴, 미세한 텍스트, 일부 마스킹 편집

먼저 오해부터 풀자. 최신 모델은 예전처럼 무조건 손을 망치지는 않는다. 독립 테스트에서는 단순한 손 제스처나 짧은 표지판 문구를 제법 잘 처리한 사례도 확인된다.² 문제는 "가끔 된다"와 "항상 믿어도 된다" 사이의 거리가 여전히 멀다는 점이다. Google의 안내 문서도 손, 치아, 작은 배경 요소, 깨진 텍스트, 이상한 그림자 같은 부분을 AI 이미지의 대표적인 오류 지점으로 꼽는다.³

특히 손은 장면이 어려워질수록 급격히 흔들린다. 손가락이 서로 얽히거나, 유리잔처럼 얇은 물체를 쥐거나, 악세서리와 겹치거나, 프레임 가장자리에서 잘릴 때 오류가 늘어난다. 사람 눈은 손의 해부학을 아주 빨리 눈치채기 때문에, 얼굴이 멀쩡해도 손 하나가 그림 전체를 가짜처럼 보이게 만든다.

작은 얼굴도 비슷하다. 정면 클로즈업은 꽤 그럴듯한데, 군중 장면이나 전신 와이드 샷으로 가면 멀리 있는 얼굴이 밀랍처럼 녹거나, 눈·입의 위치가 살짝 어긋나기 쉽다. 이런 오류는 썸네일에서는 안 보이다가 확대하는 순간 들킨다. 광고 배너, 상세페이지, 인쇄물에서 특히 치명적이다.

텍스트는 더 교묘하다. 큰 제목 한 줄은 잘 들어갈 수 있다. 하지만 작은 본문, 표 안의 숫자, 병 라벨의 성분표, 배경 포스터의 보조 문구처럼 정보 밀도가 올라가면 정확도가 급격히 떨어진다. 겉보기에 "그럴싸한 글자 모양"을 만들 수는 있어도, 사람이 실제로 읽고 검수해야 하는 문장까지 늘 믿을 수준은 아니다.³

마지막으로, Nano Banana의 강점 중 하나가 자연어로 하는 국소 편집이지만, 이것이 곧 픽셀 단위로 완벽하다는 뜻은 아니다. 얇은 안경테, 머리카락 경계, 반투명 유리, 귀걸이, 손가락 사이 공간처럼 경계가 복잡한 부분은 편집 범위가 넓게 번지거나 가장자리가 흐려질 수 있다. 또한 여러 차례 대화형 편집을 이어가면 얼굴 비율, 물체 위치, 전체 구도가 조금씩 떠밀리듯 변하는 일도 있다.⁴

실무에서는 이렇게 생각하면 편하다.

AI는 큰 덩어리인 구도, 무드, 배경, 스타일을 빠르게 잡는 데 강하다.
사람은 작은 덩어리인 손, 글자, 숫자, 로고, 경계선을 최종 확정하는 데 강하다.
결과가 돈과 신뢰에 직결될수록 마지막 10퍼센트는 반드시 사람이 책임져야 한다.

7.2 인포그래픽의 함정 — 모델이 숫자를 지어내는 순간

인포그래픽은 이미지 AI가 가장 유능해 보이는 분야이면서, 동시에 가장 위험한 분야다. Nano Banana Pro는 읽을 수 있는 타이포그래피와 설명용 그래픽, 다이어그램, 현지화된 포스터를 강점으로 내세운다.⁵ 여기까지만 들으면, 이제 차트와 표도 AI에게 맡겨도 될 것처럼 느껴진다.

하지만 인포그래픽은 예쁜 그림이 아니라, "맞는 정보"가 핵심인 장르다. 구름 모양이 조금 이상한 건 웃고 넘어갈 수 있어도, 매출 37억을 73억으로 잘못 넣으면 그건 단순한 미학의 문제가 아니라 사실 오류다. 축 레이블 하나가 바뀌고, 범례 색 하나가 엇갈리고, 연도 숫자 하나가 틀리면 전체 문서의 신뢰가 무너진다.

이미지 모델은 본질적으로 기호를 "의미"보다 "모양"으로 다루는 경향이 있다. 그래서 잘 나온 인포그래픽은 매우 설득력 있어 보이지만, 그 설득력이 바로 함정이 된다. 보기 좋을수록 사람은 덜 의심한다.

가장 안전한 방법은 역할을 분리하는 것이다.

숫자와 문장은 스프레드시트나 원문 자료에서 확정한다.
AI에는 레이아웃 초안, 컬러 방향, 아이콘 분위기, 시각적 비유를 맡긴다.
최종 수치, 캡션, 범례, 단위는 Figma·Slides·Illustrator 같은 도구에서 사람이 다시 넣는다.
마지막 검수에서는 "읽히는가"보다 먼저 "맞는가"를 확인한다.

한마디로, AI에게는 포스터 감각을 맡기고, 숫자 책임은 넘기지 않는 것이 좋다. 인포그래픽에서 숫자는 장식이 아니라 계약서에 가깝다.

7.3 SynthID와 C2PA — AI 이미지임을 표시하는 기술

이제 투명성 이야기를 해보자. 잘 만드는 기술만큼 중요한 것이 "이게 AI로 만들어졌다는 사실을 어떻게 남길 것인가"다. Google은 자사 AI가 생성하거나 편집한 이미지에 SynthID 워터마크와 C2PA 메타데이터를 함께 넣는 방향으로 확대 적용하고 있다. 적용 범위에는 Gemini 앱, Nano Banana Pro, Vertex AI, Google Ads가 포함된다.⁶

둘은 비슷해 보이지만 역할이 다르다. SynthID는 이미지 픽셀 안에 보이지 않는 신호를 심는 방식이다. 사람 눈에는 거의 티가 나지 않지만, 크롭·압축·필터 같은 일반적인 변형 이후에도 남도록 설계됐다.⁷ 반면 C2PA는 콘텐츠의 출처와 편집 이력을 설명하는 서명된 메타데이터에 가깝다. 쉽게 말해 SynthID가 "이미지 안쪽의 투명 지문"이라면, C2PA는 "파일 바깥쪽의 신분증"이다.⁶

사용자 입장에서는 이것이 어떤 의미일까. Gemini 앱에서는 이미지, 영상, 오디오를 올리고 Google AI로 생성되었는지 물어보는 방식으로 SynthID 검증을 할 수 있다. 다만 결과는 흑백논리가 아니다. 워터마크가 검출되면 Google AI가 생성하거나 편집했을 가능성이 높지만, 검출되지 않았다고 해서 사람이 만든 진짜라는 뜻은 아니다. 다른 회사의 AI일 수도 있고, 너무 많이 변형되어 신호가 약해졌을 수도 있으며, 아예 워터마크가 잘 들어가기 어려운 단순한 콘텐츠였을 수도 있다.⁸

그래서 워터마크와 메타데이터는 안전벨트이지 판사가 아니다. 도움이 되지만 만능은 아니다. 특히 C2PA 메타데이터는 스크린샷, 재업로드, 일부 플랫폼의 압축 과정에서 사라질 수 있고, SynthID도 극단적인 변형에서는 검출력이 낮아질 수 있다.⁶⁸

실무 기준은 간단하다. AI 이미지를 공개적으로 쓰는 사람일수록 "숨기는 기술"보다 "설명하는 습관"을 먼저 가져야 한다. 내부 문서, 고객 납품, 광고 소재, 보도용 그래픽일수록 생성 과정과 편집 이력을 남겨두는 편이 좋다.

7.4 저작권: 누구의 그림인가 — 학습 데이터, 출력물 소유권, 상업 이용 가이드

저작권 문제는 종종 한 문장으로 너무 쉽게 정리된다. "AI가 만들었으니 내 것 아닌가요?" 혹은 반대로 "AI가 만들었으니 다 불법 아닌가요?" 둘 다 너무 단순하다.

현실에서는 적어도 세 가지 질문을 따로 봐야 한다. 첫째, 입력에 무엇을 넣었는가. 둘째, 결과가 무엇을 얼마나 닮았는가. 셋째, 그것을 어디에 어떻게 쓰는가다.

여기서 중요한 실무 감각은 이것이다. "상업적으로 쓸 수 있다"와 "법적으로 완전히 안전하다"는 같은 말이 아니다. 모델이 거절하지 않았다고 허용된 것도 아니고, 결과가 조금 변형되었다고 권리가 깨끗해지는 것도 아니다.

안전하게 가려면 몇 가지 원칙이 필요하다.

입력 이미지의 권리를 먼저 확인한다. 고객 사진, 스톡 이미지, 사내 자산인지부터 분명히 한다.
살아 있는 작가나 특정 브랜드의 시그니처 스타일을 그대로 베끼려 하지 않는다.
로고, 마스코트, 패키지 디자인은 AI 시안으로 끝내고, 최종본은 디자인 도구에서 다시 제작하는 편이 안전하다.
캠페인용 결과물은 프롬프트, 입력 자료, 수정 이력을 남겨둔다.
분쟁 가능성이 있는 상업물은 출고 전에 법무나 브랜드 담당자의 검토를 거친다.

이미지 생성 능력이 좋아질수록, 저작권은 기술 문제가 아니라 운영 문제로 바뀐다. 즉 "만들 수 있느냐"보다 "써도 되느냐"를 먼저 묻는 습관이 더 중요해진다.

7.5 하지 말아야 할 것 — 유명인 합성, 타 브랜드 무단 사용, 딥페이크

Nano Banana의 "일관성" 기능은 브랜딩과 스토리보드에는 축복이지만, 악용하면 딥페이크의 진입장벽을 크게 낮춘다. 한 번 잡은 얼굴을 여러 장면에 유지하는 능력은, 곧 한 사람을 여러 거짓 장면에 반복해서 등장시키는 능력이기도 하다.¹⁰

이 말은 무섭게도 현실적이다. 누군가의 셀카 한 장으로 가짜 광고를 만들 수 있고, 공인의 얼굴을 합성해 사건 현장처럼 꾸민 시퀀스를 만들 수도 있으며, 실제로 하지 않은 말과 행동을 "있었던 일처럼" 연출할 수도 있다.¹⁰ 기술적으로 쉬워졌다는 말은, 윤리적으로 더 엄격해야 한다는 뜻이다.

특히 다음은 넘지 말아야 할 선이다.

동의 없는 얼굴 합성
유명인을 실제 협찬한 것처럼 보이게 만드는 가짜 광고
타 브랜드 로고·패키지·캐릭터를 무단으로 끌어온 상업 시안
복수, 조롱, 따돌림을 목적으로 한 이미지 편집
성적 맥락의 딥페이크, 특히 미성년자 관련 생성물

한국에서는 이 선이 단순한 예의가 아니라 법의 문제이기도 하다. 2024년 개정으로 성적 딥페이크의 소지·구입·저장·시청까지 처벌 대상에 포함되었고, 제작·유포 관련 규정도 강화됐다.¹¹¹² 또한 피해자 삭제 지원과 일상 회복 지원을 국가와 지방자치단체의 책무로 넓히는 방향도 함께 추진됐다.¹²

그러니 "장난"이라는 말은 더 이상 면죄부가 아니다. AI가 사진을 쉽게 바꿔준다는 사실은, 사람의 삶도 쉽게 망가뜨릴 수 있다는 사실과 붙어 있다.

7.6 한국 법규 관점에서 짚어볼 것

한국에서 생성형 이미지와 딥페이크를 다룰 때 특히 기억해야 할 것은, 피해의 맥락을 매우 무겁게 본다는 점이다. 성적 딥페이크는 제작과 유포뿐 아니라 시청·소지까지 처벌 범위가 넓어졌고, 선거 영역에서도 규제가 이미 강화되어 있다.¹¹¹²¹³

특히 공직선거법과 관련해서는 선거 90일 전부터 딥페이크와 조작 매체를 금지하는 방향의 규제가 반영되었고, 선거 캠페인에서 AI 생성 콘텐츠의 사용 사실을 공개하도록 요구하는 흐름도 확인된다.¹³ 다시 말해 정치, 공익, 사회적 신뢰가 얽힌 이미지일수록 "재미있는 합성"으로 봐주지 않는다는 뜻이다.

실무적으로는 아래 네 가지를 습관으로 들이면 좋다.