순열과 조합은 학교에서 한 번쯤은 배우는 개념이지만, 막상 시간이 지나 다시 떠올려보면 많은 사람들이 두 개를 뒤섞어 기억한다. 공식은 어렴풋이 남아 있는데, 언제 무엇을 써야 하는지는 흐려져 있는 경우가 많다. 이러한 이유는 대부분의 설명이 공식을 먼저 보여주고, 개념은 나중에 붙이기 때문이다. 하지만 순열과 조합은 계산보다 개념이 먼저다. 무엇을 세고 있는지 이해하지 못하면 공식은 외워도 소용이 없다. 반대로 개념을 정확히 이해하면 공식은 오히려 자연스럽게 따라온다.
이 둘을 이해하는 가장 좋은 출발점은 ‘경우의 수를 세는 일’이 무엇인지부터 생각해보는 것이다. 경우의 수란 어떤 조건 아래에서 가능한 결과가 몇 가지인지를 세는 일이다. 예를 들어 동전 두 개를 던질 때 나올 수 있는 결과는 몇 가지인가, 세 명 중 두 명을 뽑는 방법은 몇 가지인가, 네 자리 비밀번호를 만드는 방법은 몇 가지인가 같은 질문이 모두 경우의 수의 문제다. 그런데 이런 문제들은 겉으로는 비슷해 보여도, 실제로는 서로 다른 기준으로 세어야 한다. 어떤 문제는 순서가 중요하고, 어떤 문제는 순서가 중요하지 않다. 순열과 조합은 이 차이에서 갈라진다.
먼저 순열부터 보자. 순열은 순서를 고려하여 나열하는 경우의 수다. 여기서 핵심 단어는 나열과 순서다. 같은 대상들이라도 놓이는 자리가 달라지면 다른 경우로 본다. 예를 들어 A, B, C 세 사람이 있고, 이 세 사람을 한 줄로 세운다고 하자. A-B-C로 서는 경우와 C-B-A로 서는 경우는 같은 세 사람이 등장하지만 분명히 다른 배열이다. 앞에 누가 서는지, 중간에 누가 서는지, 뒤에 누가 서는지가 다르기 때문이다. 이처럼 ‘누가 포함되었는가’만이 아니라 ‘어떤 순서로 놓였는가’까지 중요할 때 그것이 순열이다.
반면 조합은 순서를 고려하지 않고 선택하는 경우의 수다. 여기서 핵심 단어는 선택이다. 예를 들어 A, B, C 세 사람 중 두 명을 뽑아 팀을 만든다고 하자. A와 B가 뽑힌 경우와 B와 A가 뽑힌 경우를 따로 세지 않는다. 어차피 선택된 사람은 동일하기 때문이다. 팀이라는 관점에서는 이름을 부르는 순서가 결과를 바꾸지 않는다. 이처럼 무엇이 선택되었는지만 중요하고, 그 안에서의 순서는 의미가 없을 때 그것이 조합이다.
많은 사람들이 이 차이를 알면서도 막상 문제를 만나면 헷갈리는 이유는 순열과 조합을 ‘문제 유형’으로만 기억하기 때문이다. 하지만 더 본질적으로 말하면, 순열은 자리가 있는 문제이고, 조합은 자리가 없는 문제라고 볼 수 있다. 순열에서는 1등, 2등, 3등처럼 위치가 존재한다. 혹은 첫 번째 칸, 두 번째 칸, 세 번째 칸처럼 자리 자체가 구분된다. 그래서 그 자리에 누가 들어가느냐가 중요하다. 반면 조합에서는 그런 자리가 없다. 단지 무엇이 뽑혔는지만 남는다. 이 관점으로 보면 문제를 훨씬 쉽게 구분할 수 있다.
예를 들어 학생 다섯 명 중 세 명을 뽑아 대표를 세운다고 해보자. 여기서 단순히 대표단 세 명을 뽑는다면 조합이다. 세 사람이 누구인지만 중요하지, 이름을 어떤 순서로 적었는지는 중요하지 않다. 하지만 회장, 부회장, 총무를 각각 한 명씩 뽑는다면 이는 순열이 된다. 같은 세 사람이 뽑혀도 누가 회장인지에 따라 결과가 달라지기 때문이다. 결국 사람은 같아도 역할이라는 자리가 생기면 순열로 바뀐다.
이제 왜 이런 차이가 계산법의 차이로 이어지는지 천천히 살펴볼 필요가 있다. 우선 가장 기본적인 순열부터 보자. 서로 다른 세 사람 A, B, C를 한 줄로 세우는 방법은 몇 가지일까. 첫 번째 자리에 누가 올 수 있는지를 생각해보면 세 명 중 아무나 올 수 있으므로 3가지다. 첫 번째 자리가 정해지고 나면 두 번째 자리에는 남은 두 명 중 한 명이 오므로 2가지다. 마지막 자리는 남은 한 명이 자동으로 들어가므로 1가지다. 따라서 전체 경우의 수는 3×2×1=6이 된다. 이 계산 방식은 자리를 하나씩 채워 넣는 방식이다. 순열은 대체로 이런 식으로 이해하면 쉽다. 자리가 있고, 그 자리를 차례대로 채운다.
이 3×2×1이라는 곱셈은 수학에서 3!라고 쓴다. 느낌표는 팩토리얼이라고 읽는다. 3!은 3부터 1까지 차례로 곱한 값이다. 따라서 3!=3×2×1=6이다. 마찬가지로 4!=4×3×2×1, 5!=5×4×3×2×1이 된다. 팩토리얼은 순열을 계산할 때 매우 자주 등장한다. 왜냐하면 순열은 보통 ‘자리를 채워 가며 남은 선택지를 곱하는 구조’를 가지기 때문이다.
예를 들어 네 명 A, B, C, D를 일렬로 세우는 경우의 수는 4!이므로 24가지다. 첫 번째 자리에 4명 중 1명, 두 번째 자리에 남은 3명 중 1명, 세 번째 자리에 남은 2명 중 1명, 마지막 자리에 남은 1명이 들어간다고 생각하면 바로 이해된다. 여기까지는 전체를 전부 배열하는 경우다.
그렇다면 다섯 명 중 세 명만 뽑아 줄을 세우는 경우는 어떨까. 이것도 순열이다. 세 자리가 있고, 다섯 명 중에서 그 세 자리를 채우는 문제이기 때문이다. 첫 번째 자리는 5가지, 두 번째 자리는 4가지, 세 번째 자리는 3가지이므로 경우의 수는 5×4×3=60가지다. 이걸 일반화하면 n명 중 r명을 뽑아 순서를 두고 배열하는 순열의 공식은 다음과 같은 형태가 된다: ‘nPr = n × (n-1) × (n-2) × … × (n-r+1)’
이 식은 사실 어려운 공식이 아니다. 자리를 채우는 과정을 짧게 적은 것에 불과하다. 다섯 명 중 세 명을 줄 세우는 5P3는 5×4×3이고, 여섯 명 중 두 명을 순서 있게 뽑는 6P2는 6×5다. 앞자리, 뒷자리라는 구분이 있는 순간 곱셈 구조가 생긴다.
이제 조합으로 넘어가 보자. 조합은 선택만 하고 순서는 무시한다. 예를 들어 A, B, C 세 사람 중 두 명을 뽑는 경우를 생각해보자. 가능한 선택은 A와 B, A와 C, B와 C, 이렇게 세 가지다. 그런데 순열 방식으로 접근하면 A-B, B-A, A-C, C-A, B-C, C-B처럼 여섯 가지가 나온다. 왜 이런 차이가 생길까. 이유는 아주 단순하다. 순열은 같은 선택을 순서만 바꿔 여러 번 세기 때문이다. A와 B를 뽑는 하나의 선택이 A-B와 B-A, 이렇게 두 번 계산된 것이다.
바로 이 지점에서 조합의 계산 원리가 나온다. 조합은 순열에서 ‘순서 때문에 중복해서 센 것’을 제거한 값이다. 세 명 중 두 명을 뽑는 경우를 순열로 세면 3P2=6이다. 그런데 두 명을 뽑았을 때 한 조합은 순서만 바꾸면 2!=2가지 방식으로 표현된다. 즉 A-B와 B-A는 같은 조합 하나를 두 번 센 셈이다. 따라서 6을 2로 나누면 3이 된다. 이것이 조합의 원리다.
일반적으로 n명 중 r명을 뽑는 조합은 nPr에서 r!을 나눈 값이 된다. 왜냐하면 r명을 뽑아 나열한 순열 하나하나는, 사실 같은 사람들을 뽑은 조합 하나를 r!가지 순서로 반복한 것이기 때문이다. 따라서 공식은 다음처럼 나온다: nCr = nPr / r! = n! / (r!(n-r)!)
이 공식 역시 외울 대상이라기보다, 왜 나누는지 이해하는 것이 더 중요하다. 조합은 순열에서 순서를 지운 값이다. 그래서 순열에서 순서의 개수만큼 나눠주는 것이다.
이 원리를 아주 쉬운 예시로 다시 보자. 네 명 A, B, C, D 중 두 명을 뽑는다고 하자. 순열로 세면 4P2=4×3=12가지다. 실제로 쓰면 A-B, A-C, A-D, B-A, B-C, B-D, C-A, C-B, C-D, D-A, D-B, D-C다. 그런데 조합으로 보면 A-B와 B-A는 같은 경우고, A-C와 C-A도 같고, 이런 식으로 두 개씩 짝이 생긴다. 결국 12를 2로 나눈 6가지가 조합이 된다. 실제 조합은 A-B, A-C, A-D, B-C, B-D, C-D다.
여기까지 보면 순열과 조합의 관계는 꽤 분명해진다. 순열은 자세한 버전이고, 조합은 압축된 버전이다. 순열은 누가 어디에 있는지까지 구분한다. 조합은 그 정보 중 순서 정보를 버리고, 구성 정보만 남긴다. 순열이 더 많은 정보를 담고 있으므로 경우의 수가 더 크고, 조합은 정보를 줄였으므로 경우의 수가 더 작다.
이제 현실의 예시를 통해 이 차이가 얼마나 자주 등장하는지 살펴보자. 먼저 시험 성적을 생각해보면, 1등, 2등, 3등을 정하는 것은 순열이다. 같은 세 학생이 상위권에 들어도 누가 1등이냐에 따라 결과가 완전히 다르다. 반면 장학금 대상자 세 명을 단순히 선발하는 것이라면 조합이다. 세 명이 누구냐만 중요하고, 그 안의 순서는 중요하지 않다.
스포츠에서도 비슷하다. 축구 대표팀 11명을 선발하는 것만 놓고 보면 조합적 요소가 있다. 누가 출전 명단에 포함되느냐가 중요하다. 하지만 포지션까지 정해지면 순열적 요소가 강해진다. 같은 11명이라도 누가 공격수인지, 누가 미드필더인지, 누가 수비수인지는 경기력에 큰 영향을 주기 때문이다. 즉 선발 자체는 조합에 가깝고, 배치는 순열에 가깝다.
요리도 좋은 예시다. 재료를 고르는 것은 조합이다. 양파, 감자, 고기, 당근 중 어떤 재료를 쓸지 선택하는 단계에서는 순서가 중요하지 않다. 하지만 요리 과정은 순열적이다. 무엇을 먼저 볶고, 무엇을 나중에 넣고, 언제 간을 맞추는지에 따라 결과가 달라진다. 같은 재료로도 전혀 다른 음식이 나오는 이유는 순서와 과정 때문이다.
컴퓨터에서는 비밀번호와 장바구니를 비교해 보면 된다. 네 자리 숫자 비밀번호는 순열적 사고가 필요하다. 1234와 4321은 전혀 다른 암호다. 자리마다 의미가 있기 때문이다. 반면 온라인 쇼핑 장바구니에 사과, 우유, 빵이 담겨 있을 때는 보통 조합적이다. 담긴 상품의 순서는 큰 의미가 없다. 무엇이 들어 있느냐가 핵심이다. 물론 주문 처리 과정에서는 다시 순서가 중요해질 수도 있지만, 장바구니 자체는 대체로 조합이다.
언어학에서도 순열과 조합이 등장한다. 단어를 만드는 글자의 선택은 조합처럼 보일 수 있지만, 실제 단어는 글자의 순서가 바뀌면 완전히 달라진다. ‘나무’와 ‘무나’는 같은 글자 둘을 썼어도 다른 말이 된다. 문장 역시 단어의 순서에 민감하다. 따라서 언어는 강한 순열적 특성을 갖는다. 반면 어떤 글에 어떤 핵심 개념들이 들어 있는가만 볼 때는 조합적 접근도 가능하다. 예를 들어 특정 논문이 에너지, 인플레이션, 공급망이라는 세 키워드를 포함하는지는 조합적 정보다. 하지만 그 논지가 어떻게 전개되는가는 순열적 구조다.
음악은 더 흥미롭다. 어떤 음들을 사용할 것인가만 보면 조합적인 요소가 있다. 하지만 실제 멜로디는 음의 순서가 거의 전부라고 해도 과장이 아니다. 같은 음 몇 개라도 배열 순서가 달라지면 완전히 다른 곡이 된다. 악보는 본질적으로 순열적 구조를 가진다. 반면 코드 진행을 분석할 때 특정 코드 집합이 반복된다는 식으로 볼 때는 조합적 요소도 일부 나타난다.
생물학에서는 DNA가 대표적이다. DNA는 A, T, G, C 네 종류의 염기가 어떤 순서로 배열되는가에 따라 유전 정보가 달라진다. 즉 생명체의 설계도는 순열적 구조를 가진다. 같은 염기들이 들어 있어도 순서가 달라지면 완전히 다른 결과가 나온다. 반면 어떤 유전자 세트가 존재하는가를 분류하는 단계는 조합적으로 볼 수 있다. 생명 현상도 결국 구성과 배열이 동시에 작동하는 세계라는 뜻이다.
화학에서도 비슷하다. 어떤 원소들이 모여 있는지를 보는 것은 조합이다. 하지만 원자들이 어떻게 연결되어 있는지는 구조의 문제이고, 이는 순열보다 더 복잡한 배열의 문제로 확장된다. 같은 원소 조합이라도 구조가 다르면 성질이 달라지는 이성질체 현상은 이를 잘 보여준다. 결국 조합만으로는 설명이 부족하고, 배열과 구조를 봐야 실제 세계를 이해할 수 있다.
경제와 경영에서도 이 개념은 매우 자주 등장한다. 인재를 채용하는 단계는 조합이다. 누가 팀에 들어오는가를 결정하는 문제이기 때문이다. 하지만 조직 안에서 그 인재들을 어떤 역할에 배치하고, 어떤 보고 체계를 만들고, 어떤 순서로 의사결정을 내리게 할 것인가는 순열의 문제다. 훌륭한 사람들만 모아도 성과가 보장되지 않는 이유는 조합이 좋다고 해서 순열까지 좋은 것은 아니기 때문이다. 구성은 훌륭한데 배치가 엉망이면 결과는 좋지 않다.
현실의 대인관계도 비슷하다. 여행을 같이 갈 사람 네 명을 고르는 것은 조합이다. 하지만 여행 중 누가 운전하고, 누가 예약하고, 누가 일정 조율을 맡는지는 순열적 요소가 있다. 구성원은 같아도 역할 분담 순서와 구조가 다르면 경험 전체가 달라진다.
투자에서도 조합과 순열은 함께 나타난다. 어떤 종목을 포트폴리오에 넣을 것인가를 결정하는 것은 조합의 문제다. 하지만 매수 순서, 비중 조절, 자금 배치 순서, 익절과 손절의 순서는 순열적 성격을 가진다. 같은 다섯 종목을 들고 있어도 언제 어떤 비중으로 들어갔는지에 따라 전혀 다른 성과가 난다. 그래서 현실의 투자 문제는 단순한 조합이 아니라, 조합 위에 순열이 덧붙은 형태인 경우가 많다.
이제 다시 개념 쪽으로 돌아와, 실제 문제를 풀 때 어떻게 구분하면 좋은지 정리해보자. 가장 좋은 질문은 이것이다. ‘순서를 바꾸면 다른 경우가 되는가?’ 이 질문에 예라고 답하면 순열일 가능성이 크다. 아니라고 답하면 조합일 가능성이 크다. 예를 들어 세 명을 뽑아 발표 순서를 정한다면 순서를 바꾸면 다른 경우가 되므로 순열이다. 세 명을 뽑아 단체 사진에 같이 넣기만 한다면 보통 조합이다. 물론 사진에서 자리가 지정된다면 다시 순열이 된다. 결국 문제의 핵심은 대상이 아니라 기준이다.
또 하나 유용한 질문은 ‘자리 또는 역할이 존재하는가?’다. 자리가 있으면 순열 쪽으로 기울고, 자리가 없으면 조합 쪽으로 기운다. 회장, 부회장, 총무처럼 역할이 다르면 순열이다. 단순위원 세 명을 뽑는 것이면 조합이다. 비밀번호는 각 자리가 다르므로 순열이고, 로또 번호는 보통 선택된 숫자 집합만 중요하므로 조합이다. 이런 식으로 생각하면 문제를 훨씬 정확하게 읽을 수 있다.
여기서 더 깊이 들어가 보면, 순열과 조합은 사실 수학을 넘어 사고의 방식과도 연결된다. 어떤 문제를 볼 때 우리는 늘 ‘무엇을 구분할 것인가’를 결정해야 한다. 미세한 차이까지 모두 중요하게 보면 순열적 사고에 가깝다. 반대로 차이를 무시하고 핵심 구성만 보면 조합적 사고에 가깝다. 예를 들어 역사 연구에서는 사건의 발생 순서가 매우 중요하다. 같은 사건들이 있어도 어떤 순서로 일어났는지에 따라 해석이 바뀐다. 반면 사회 집단의 구성 비율을 분석할 때는 순서보다 어떤 집단이 포함되어 있는지가 더 중요할 수 있다. 학문마다, 문제마다, 어떤 정보를 남기고 어떤 정보를 버릴지가 달라진다.
이 점은 현실 판단에서도 중요하다. 사람들은 종종 조합으로 봐야 할 문제를 순열로 지나치게 복잡하게 보거나, 반대로 순열로 봐야 할 문제를 조합처럼 단순화해 버린다. 예를 들어 채용에서 학력, 경력, 자격증 같은 요소만 보고 좋은 조합이라고 판단할 수 있다. 하지만 실제 성과는 팀 안에서 누가 누구와 어떻게 배치되는지라는 순열적 구조에 더 크게 좌우될 수 있다. 반대로 지나치게 세부 순서와 디테일에 집착하면, 정작 중요한 구성 자체를 놓칠 수 있다. 결국 순열과 조합을 구분하는 능력은 단순한 계산 문제가 아니라, 현실에서 무엇을 본질로 볼지 판단하는 능력과도 닿아 있다.
정리하자면, 순열은 순서를 고려하는 경우의 수이고, 조합은 순서를 고려하지 않는 경우의 수다. 순열은 자리가 있는 문제이고, 조합은 선택만 있는 문제다. 순열은 자리를 채우며 곱해서 세고, 조합은 순열에서 순서 때문에 중복된 부분을 나눠서 제거한다. 순열은 더 자세한 정보이고, 조합은 더 압축된 정보다. 그리고 현실의 많은 문제는 먼저 조합으로 구성되고, 그 위에 순열로 배치되는 형태를 가진다.
이 개념을 완전히 자기 것으로 만들고 싶다면 공식을 먼저 외우기보다, 문제를 볼 때마다 스스로 이렇게 물어보는 습관을 들이는 것이 좋다. 내가 지금 세려는 것은 선택인가, 배치인가. 순서를 바꾸면 다른 결과가 되는가. 자리가 존재하는가. 같은 구성인데 순서만 다른 경우를 하나로 볼 것인가, 따로 볼 것인가. 이 질문들이 머릿속에 자리 잡으면 순열과 조합은 더 이상 암기 과목이 아니라, 아주 직관적인 도구가 된다.
순열과 조합은 경우의 수를 세는 기술인 동시에, 세상을 분류하는 언어이기도 하다. 어떤 상황에서는 구성만 보면 충분하고, 어떤 상황에서는 배열까지 봐야 진실이 드러난다. 이 차이를 이해하는 순간, 수학 문제뿐 아니라 현실의 많은 문제도 조금 더 선명하게 보이기 시작한다.
PS – 결국 모든 구조는 조합으로 만들어지고, 순열로 작동한다.
같이 보면 좋은 글
–베이지안 업데이팅이란?, 수학이 알려주는 유연한 사고
–란체스터의 법칙, 전투와 경쟁
–정규 분포를 배워야 하는 이유, 다양한 예시와 한계점
–켈리 공식, 승률 60% 게임에서 20%만 걸어야 하는 이유
–두꺼운 꼬리란 무엇인가?, 평균이 놓친 세계의 구조