서론: 모델링은 똑같은데, 왜 다르게 보일까요?

3D 모델링을 처음 시작하는 분들이 가장 많이 하는 오해가 있습니다. “더 부드러운 곡면을 만들려면 면(Polygon)을 무조건 많이 써야 한다.”
물론 지브러시(ZBrush) 스컬핑 단계에서는 맞는 말입니다. 하지만 게임이나 실시간 렌더링 환경은 다릅니다. 우리는 “최소한의 데이터로 최대한 부드럽고 자연스럽게” 보여줘야 하는 숙명을 가지고 있죠.
이때 사용하는 3D 기술이 바로 스무딩 그룹(Smoothing Groups)입니다.
이걸 잘 쓰면 적은 폴리곤으로도 매끈한 도자기 피부를 만들 수 있지만, 잘못 쓰면 멀쩡한 모델링이 각진 기계처럼 변해버립니다. 오늘은 스무딩 그룹의 작동 원리와, 실무에서 가장 중요한 UV 자르기 공식까지 완벽하게 파헤쳐 보겠습니다.
1. 스무딩 그룹은 ‘빛의 눈속임’이다
스무딩 그룹을 이해하려면, 컴퓨터가 3D 물체를 어떻게 바라보는지 알아야 합니다. 컴퓨터는 모델링의 형태(Mesh)보다 “빛이 어디로 튀는지(Normal)”를 더 중요하게 생각합니다.
상상해 보세요. 모든 점(Vertex)에는 ‘빛을 반사하는 화살표’가 꽂혀 있습니다. 이 화살표가 어디를 가리키느냐에 따라 우리 눈에 보이는 질감이 달라집니다.

상황 A: 화살표가 서로 등질 때 (Hard Edge)
- 상태: 모서리에 있는 화살표 두 개가 서로 반대 방향을 보며 벌어져 있습니다. (실제로 점이 2개는 아니지만, 컴퓨터는 빛 계산을 위해 2개처럼 따로 인식합니다.)
- 결과: 컴퓨터는 *”아, 여기는 빛이 끊기는 절벽이구나”*라고 판단합니다.
- 보이는 모습: 모서리가 칼로 자른 듯 날카롭고 각지게 보입니다. (책상 모서리, 기계 부품, 상자 등)
상황 B: 화살표가 하나로 모일 때 (Soft Edge / Smoothing)
- 상태: 모서리의 화살표들이 가운데로 모여서 ‘평균값’을 가진 하나가 됩니다.
- 결과: 컴퓨터는 “어? 각진 줄 알았는데 빛이 부드럽게 이어지네? 여기는 둥근가 보다”라고 생각합니다.
- 보이는 모습: 각진 폴리곤도 매끈한 곡면처럼 보입니다. (공, 얼굴, 컵 등)
⚠️ 주의할 점: 스무딩 그룹은 빛을 속여서 면을 부드럽게 보여주는 것일 뿐입니다. 실제 모델링의 외곽선(실루엣)은 여전히 각져 있습니다. 따라서 외곽 라인이 중요한 부분은 실제로 폴리곤을 늘려줘야 합니다.
2. 실무 공식: Hard Edge = UV Split
이론은 이해되셨나요? 이제 가장 중요한 실무 이야기입니다. 특히 서브스턴스 페인터(Substance Painter)에서 작업을 하다 보면, 각지게 만든 곳에 베이크가 이상하게 되거나 하는 문제도 전부 스무딩과 관련된 문제입니다.
❌ 나쁜 예: 각진 곳(끊어진 곳)인데 UV를 붙여놨다
- 모델링: 화살표가 90도로 꺾여서 “우린 서로 남남이야!”라고 선언했습니다. (빛 방향 정보가 완전히 다름)
- UV(지도): 그런데 정작 맵(지도)은 하나로 붙어 있습니다.
- 사고 발생: 경계선에 있는 픽셀들이 대혼란에 빠집니다.
- “야! 왼쪽 모델링은 빛이 위쪽이라는데?”
- “무슨 소리야! 오른쪽 모델링은 빛이 옆쪽이라는데?”
- 결과: 픽셀들이 서로 옳다고 싸우다가 데이터가 터져버립니다. 이게 바로 모서리에 생기는 검은 줄(Artifact)과 그라데이션 깨짐의 정체입니다.
😸 좋은 예: 각진 곳이니까 UV도 잘랐다
- 모델링: 화살표가 90도로 꺾여 있습니다. (Hard Edge)
- UV(지도): 지도도 가위로 싹둑 잘라서 서로 멀리 떨어뜨려 놨습니다. (공간 격리)
- 평화:
- 왼쪽 픽셀: “나는 내 구역 빛만 신경 쓸래.”
- 오른쪽 픽셀: “나도 내 구역만 챙길게.”
- 결과: 싸움이 일어나지 않아 베이크가 아주 깔끔하고 선명하게 나옵니다.
한 건 다 잊어도, 아래 공식만큼은 구구단처럼 외우셔야 합니다. 이 규칙을 어기면 100% 확률로 섭페에서 베이크 오류가 발생합니다.
📌 한 줄 요약 공식
- 각진 모서리 (Hard Edge) ➡ ✂️ 무조건 UV도 자른다! (Split)
- 둥근 면 (Soft Edge) ➡ 🔗 UV를 붙여도 된다! (Sew)
90도로 꺾이는 모서리에 하드 엣지(맥스에선 스무딩 그룹 분리)를 줬다면? UV 언랩을 할 때도 그 모서리를 가위(Seam/Break)로 잘라서 떼어놓으세요. 이것이 프로 모델러의 마감 방식입니다.
3. 실무 꿀팁: 언제 합치고, 언제 끊어야 할까?
그렇다면 무조건 UV를 자르는 게 정답일까요? 아니면 무조건 합치는 게 좋을까요? 정답은 “각도(Angle)를 보고 결정한다”입니다. 상황에 맞지 않는 스무딩은 오히려 모델링을 망칠 수 있거든요.

1) 90도로 꺾인 곳 (박스, 기계 모서리)
- 상황: 90도 직각인 모서리를 억지로 부드럽게(Soft Edge/스무딩 그룹 1개) 묶으면 어떻게 될까요?
- 문제: 컴퓨터는 “90도 각도지만 부드럽게 보여줘야 해!”라고 억지로 빛을 계산합니다. 그 결과 면 표면에 시커먼 그라데이션(Shading Artifact)이 생겨버립니다. 소위 ‘면이 탄다’고 표현하죠.
- 해결: 이런 곳은 과감하게 하드 엣지(Hard Edge)로 끊어주고, UV도 잘라주는 것(Split)이 쉐이딩 오러 없이 깔끔합니다.
2) 완만하게 꺾인 곳 (원기둥 옆면, 자동차 보닛)
- 상황: 부드럽게 이어져야 할 곡면을 하드 엣지로 끊으면 어떻게 될까요?
- 문제: 매끈해야 할 표면에 칼자국이 남아서 각져 보입니다.
- 해결: 이런 곳은 스무딩을 하나로 묶고(Soft Edge), UV도 붙여주는 것(Sew)이 데이터 효율도 좋고 보기에도 자연스럽습니다.
🐶 심화 팁: 만약 90도 모서리지만 부드럽게(Soft) 보이게 만들고 싶다면? 스무딩 그룹만으로 해결하려 하지 말고, 베벨(Bevel)이나 챔퍼(Chamfer)를 줘서 면(Support Loop)을 추가해야 합니다. 그래야 검은 그라데이션 없이 예쁘게 스무딩이 먹힙니다.
4. 노말 호환성 문제 (맥스 ↔ 블렌더)
맥스에서 작업하다가 블렌더로 옮기면 스무딩 그룹이 안먹어요!
이건 프로그램마다 ‘충전기 규격’이 달라서 생기는 문제입니다. 옛날에는 핸드폰 충전기가 다 달라서(24핀, 5핀…) 서로 꽂으면 고장 났었죠?
3D 툴들도 예전엔 빛을 계산하는 공식(알고리즘)이 제각각이었습니다.
😸 규격품: MikkTSpace (USB-C 타입)
그래서 3D 업계가 “우리 노말 법칙을 이걸로 통일하자!”라고 약속한 국제 표준 규격이 바로 [MikkTSpace]입니다. 마치 USB-C 타입처럼요.
- 행동 요령: 베이크 하거나 엔진으로 넘길 때 옵션에
MikkTSpace가 보이면? 고민하지 말고 체크하세요. 그게 정신건강에 좋습니다.
🤔 그래도 해결이 안 된다면?
맥스와 블렌더를 오갈 때 노말(법선) 데이터가 꼬이는 경우가 있습니다. 이때는 노말 정보를 초기화해주는 과정이 필요합니다. 자세한 해결법은 아래 글에 정리해 두었습니다.
🔗 [해결법] 3ds Max와 Blender 간의 노말(Normal) 깨짐 현상 완벽 해결
마치며: “왜?”를 알면 응용이 보입니다
오늘 스무딩 그룹에 대해 좀 이해가 되셨나요? 😊
단순히 “버튼을 누르면 부드러워진다”라고 외우는 것보다, 원리를 이해하는 것이 중요합니다.
이 개념만 확실히 잡고 있어도, 나중에 어떤 3D 툴을 쓰든, 어떤 엔진(언리얼, 유니티)을 만나든 당황하지 않고 문제를 해결할 수 있을 겁니다.
개념을 알면 이유가 보이고, 이유를 알면 적재적소에 쓸 수 있습니다. 여러분의 모델링이 한 층 더 단단해지길 바랍니다!