Circuit Lower Bounds와 Proof Complexity 정리
계산 복잡도 이론(Computational Complexity Theory)에서 가장 어려운 문제 중 하나는 어떤 계산이 얼마나 작은 회로로 구현될 수 있는가를 분석하는 것이다.
특히 Circuit Lower Bounds와 Proof Complexity는 복잡도 이론의 핵심 연구 분야이며, 궁극적으로 다음과 같은 근본적인 문제와 연결된다.
- $P \stackrel{?}{=} NP$
- $NP \stackrel{?}{=} coNP$
이번 글에서는 다음 두 가지 주제를 중심으로 정리한다.
- Circuit Lower Bounds
- Proof Complexity
1. Circuit Complexity란 무엇인가
Boolean Circuit은 입력 비트를 받아 논리 연산을 수행하는 계산 모델이다.
회로는 보통 다음과 같은 gate들로 구성된다.
입력 크기를 $n$이라 할 때, 어떤 Boolean 함수 $f$를 계산하는 데 필요한 최소 gate 수를 Circuit Size라고 한다.
이를 수식으로 표현하면 다음과 같다.
$$
size(f)
$$
복잡도 이론에서는 다음과 같은 질문을 한다.
어떤 함수는 최소 얼마 크기의 회로가 필요할까?
만약 어떤 문제에 대해 다음을 증명할 수 있다면
$$
NP \not\subseteq P/poly
$$
즉 NP 문제는 polynomial size circuit으로 계산할 수 없다는 의미이며, 이는 곧
$$
P \neq NP
$$
를 의미하게 된다.
하지만 현재까지 일반적인 circuit lower bound는 거의 알려져 있지 않다.
이 때문에 이 분야는 종종
Complexity theory의 Waterloo
라고 불린다.
2. AC⁰와 Switching Lemma
Circuit complexity 연구에서 가장 중요한 결과 중 하나는 AC⁰ circuit에 대한 lower bound이다.
AC⁰는 다음과 같은 특징을 가진 회로이다.
- constant depth
- AND, OR, NOT gate 사용
- fan-in 제한 없음
즉 매우 얕은 회로 구조이다.
Parity 함수
대표적인 Boolean 함수 중 하나는 Parity 함수이다.
Parity 함수는 다음을 계산한다.
$$
Parity(x_1, x_2, ..., x_n) =
\begin{cases}
1 & \text{if the number of 1s is odd} \
0 & \text{otherwise}
\end{cases}
$$
놀랍게도 이 함수는 AC⁰ 회로로 효율적으로 계산할 수 없다.
즉 다음과 같은 lower bound가 존재한다.
$$
AC^0 \text{ circuit size} \geq \exp(n^{c})
$$
이 결과는 Switching Lemma를 이용하여 증명된다.
Switching Lemma의 아이디어
Switching Lemma는 다음과 같은 아이디어를 사용한다.
입력 변수 일부를 랜덤하게 고정(random restriction)하면 복잡한 Boolean 식이 단순한 형태로 바뀌게 된다.
이를 반복적으로 적용하면
- AC⁰ 회로는 매우 단순한 구조로 변한다.
- Parity 함수는 여전히 복잡한 구조를 유지한다.
따라서
$$
Parity \notin AC^0
$$
임을 증명할 수 있다.
3. ACC Circuit
AC⁰보다 조금 더 강력한 모델이 ACC이다.
ACC 회로는 다음 gate를 사용할 수 있다.
MOD gate는 입력 비트 합의 나머지를 계산한다.
예를 들어
$$
MOD_k(x_1, ..., x_n) = (\sum x_i) \bmod k
$$
특히
$$
MOD_2
$$
는 Parity 계산과 동일하다.
ACC는 AC⁰보다 훨씬 강력한 모델이지만 여전히 많은 lower bound 문제가 해결되지 않았다.
최근 중요한 결과 중 하나는 다음과 같다.
$$
NEXP \not\subseteq ACC
$$
이는 일부 매우 어려운 문제들은 ACC 회로로 계산할 수 없다는 의미이다.
4. Monotone Circuit Lower Bounds
Monotone Circuit은 다음과 같은 제약을 가진 회로이다.
즉 입력이 증가하면 출력도 증가해야 한다.
이 모델에서는 강력한 lower bound 결과가 알려져 있다.
대표적인 예는 Clique 문제이다.
Clique 문제는 그래프에서 완전 연결된 정점 집합을 찾는 문제이다.
이 문제에 대해 다음 결과가 증명되었다.
$$
\text{Monotone circuit size for Clique} \geq 2^{\Omega(n)}
$$
즉 monotone circuit으로는 clique 문제를 효율적으로 계산할 수 없다.
하지만 일반 circuit에서는 더 작은 회로가 가능할 수도 있다.
이 결과는 monotone circuit과 일반 circuit의 차이를 보여주는 중요한 사례이다.
5. Circuit Complexity의 현재 상황
현재 circuit complexity 연구는 다음과 같은 상태이다.
우리가 알고 있는 것
- AC⁰ lower bound
- monotone circuit lower bound
- 일부 restricted circuit 결과
하지만 여전히 해결되지 않은 문제는 다음과 같다.
$$
P \stackrel{?}{=} NP
$$
또는
$$
NP \stackrel{?}{\subseteq} P/poly
$$
즉 일반적인 circuit lower bound는 아직 거의 증명되지 않았다.
6. Communication Complexity 접근
Circuit lower bound 연구에서는 Communication Complexity라는 도구도 사용된다.
여기서는 다음 상황을 생각한다.
Alice는 $x$를 가지고 있고 Bob은 $y$를 가진다.
그리고 두 사람은 다음 함수를 계산하려고 한다.
$$
f(x,y)
$$
이때 질문은 다음과 같다.
최소 얼마나 많은 정보를 교환해야 할까?
이 문제는 circuit complexity와 연결된다.
특히 다음 관계가 알려져 있다.
$$
\text{Circuit Depth} \leftrightarrow \text{Communication Complexity}
$$
이 관계는 Karchmer–Wigderson game을 통해 연구된다.
7. Proof Complexity
Proof Complexity는 다음 질문을 다루는 분야이다.
어떤 명제를 증명하려면 얼마나 긴 증명이 필요한가
즉 증명의 길이를 계산 복잡도 관점에서 연구한다.
8. Resolution Proof System
가장 유명한 propositional proof system 중 하나는 Resolution이다.
Resolution rule은 다음과 같다.
두 clause가 있을 때
$$
(A \lor B)
$$
$$
(\neg A \lor C)
$$
이 두 식에서 다음을 유도할 수 있다.
$$
(B \lor C)
$$
이 규칙을 반복적으로 적용하면 결국
$$
\Box
$$
(empty clause)을 얻을 수 있다.
이는 해당 formula가 unsatisfiable이라는 의미이다.
9. Proof Size Lower Bounds
Proof complexity에서 중요한 문제는 다음이다.
어떤 명제는 매우 긴 증명이 필요하다.
예를 들어 일부 formula에 대해 다음이 증명되었다.
$$
\text{Resolution proof size} \geq 2^{\Omega(n)}
$$
즉 지수 길이의 증명이 필요하다.
이 결과는 SAT solver의 성능 한계를 이해하는 데도 중요하다.
10. Proof Complexity와 Complexity Theory
Proof complexity 연구는 결국 다음 문제와 연결된다.
$$
NP \stackrel{?}{=} coNP
$$
그 이유는 다음과 같다.
Tautology problem은 다음 클래스에 속한다.
$$
TAUT \in coNP
$$
만약 모든 tautology가 polynomial size proof를 가진다면
$$
NP = coNP
$$
가 된다.
따라서 proof complexity는 복잡도 이론의 핵심 문제와 직접 연결된다.
정리
Circuit lower bounds와 proof complexity는 다음 질문을 연구한다.
Circuit Complexity
어떤 계산은 작은 회로로 불가능한가?
Proof Complexity
어떤 명제는 짧은 증명이 불가능한가?
이 두 분야는 다음과 같은 근본적인 문제를 이해하기 위한 핵심 연구 분야이다.
- $P$ vs $NP$
- $NP$ vs $coNP$
하지만 현재까지 일반적인 circuit lower bound는 거의 알려져 있지 않으며, 이 때문에 이 분야는 여전히 복잡도 이론에서 가장 어려운 연구 영역으로 남아 있다.