$i$가 계층(class)을 나타내는 지표라고 하고, $ik$는 그 계층 $i$ 안에서 유전형 $k$를 가지는 구성원들을 가리키는 지표라고 하자. 예를 들어 $q_i$가 계층 $i$의 존재비(abundance)이고 $p_{ik}$는 계층 $i$ 안에서 유전형 $k$의 존재비이다. 정규화는 $\sum_{ik} q_{ik} = 1$과 $\sum_k p_{ik} = 1$이다. $q_{ik} = q_i p_{ik}$는 계층 $i$에 속한 유전형 $k$의 빈도를 의미한다.

계층 $i$ 안 유전형 $k$가 다음 세대에 기여하는 정도를 $w_{ik}$라고 하고, 계층 $i$ 내 한 개인이 가지는 번식 가치(reproductive value)를 $v_i$라고 하자. 번식 가치란, 개인이 미래의 군집에 얼마를 기여할지 기대되는 값이다. 병약한 개체는 낮은 번식 가치를 가질 것이다. $w_{ik} = v_i W_{ik}$로서 이때 $W_{ik}$는 계층 $i$ 내 유전형 $k$가 갖는 번식 성공(reproductive success)을 나타내고, 특정 계층 $i$ 안에서 평균한 값이 $W_i = \sum_k p_{ik} W_{ik}$이다. 그러면 전체 적합도는 다음처럼 표현된다: \begin{eqnarray*} W &=& \sum_{ik} q_{ik} w_{ik}\\ &=& \sum_{ik} q_{ik} v_i W_{ik}\\ &=& \sum_i q_i v_i \sum_k p_{ik} W_{ik}\\ &=& \sum_i c_i W_i. \end{eqnarray*} 이때 $c_i \equiv q_i v_i$이며 $\sum_i c_i = 1$로 정규화된다.

친족선택에서 본 프라이스 방정식의 한 형태처럼 $$\Delta \langle g \rangle \propto \text{Cov}(w, g')$$ 인데 여기에서의 표기법을 따르면 \begin{eqnarray*} \text{Cov}(w,g') &=& \sum_{ik} q_i p_{ik} w_{ik} \left( g_{ik}' - \tilde{g}' \right)\\ &=& \sum_{ik} q_i p_{ik} \left( v_i W_{ik} \right) \left( g_{ik}' - \tilde{g}' \right) \end{eqnarray*} 로서 \begin{eqnarray*} \tilde{g}'&=& \sum_{ik} q_{ik} g_{ik}'\\ &=& \sum_i q_i \sum_k p_{ik} g_{ik}'\\ &=& \sum_i q_i \tilde{g}_i' \end{eqnarray*} 이다.

회귀방정식을 다음처럼 적자: \begin{eqnarray*} W_{ik} &=& \alpha_w + \sum_j \beta_{ij} z_{ijk} + \epsilon_w\\ z_{ijk} &=& \alpha_z + \rho_{ij} g_{ik}' + \epsilon_z. \end{eqnarray*} 여기에서는 후손 세대의 육종가 $g_{ik}'$에서 시작하여 특성 $z_{ijk}$를 기술하고, 이 특성을 통해 번식 성공을 기술하고 있다.

$\epsilon_w$와 $\epsilon_z$ 사이에 상관관계가 없다면 $$\text{Cov}(w, g') = \sum_i q_i \left( v_i \sum_j \beta_{ij} \rho_{ij} \right) \sum_k p_{ik} g_{ik}' \left( g_{ik}' - \tilde{g}' \right)$$ 이며 이 중 뒤의 부분을 다시 적어보면 이러하다: \begin{eqnarray*} \sum_k p_{ik} g_{ik}' \left( g_{ik}' - \tilde{g}' \right) &=& \sum_k p_{ik} g_{ik}' \left( g_{ik}' - g_i' + g_i' - \tilde{g}' \right)\\ &=& g_i' \left( g_i' - \tilde{g}' \right) + \sum_k p_{ik} g_{ik}' \left( g_{ik}' - g_i' \right)\\ &=& g_i' \left( g_i' - \tilde{g}' \right) + \sigma_i. \end{eqnarray*} $\sigma_i$는 계층 $i$의 후손들 간의 분산을 나타낸다 (빈도 $p_{ik}$는 부모 세대의 값이다). 계층들 사이에 차이가 없다고 보아 $g_i' - \tilde{g}' = 0$으로 놓자. $c_i = q_i v_i$를 사용하면 $$\text{Cov} (w,g') = \sum_i c_i \sum_j \beta_{ij} \rho_{ij} \sigma_i$$ 이다. 적합도를 계층들로 분할하는 것과 유전형의 분포가 상관이 없다면 $\sigma_i$는 상수이다. 그러면 진화의 방향은 아래처럼 주어진다: $$\text{sign} \left( \text{Cov}(w,g') \right) = \text{sign} \left( \sum_i c_i \sum_j \beta_{ij} \rho_{ij} \right)$$

$\rho_{ij} = \tilde{\tau}_{ij} d_{ij} + \pi_{ij}$를 도입하여 회귀방정식을 아래처럼 적는다: \begin{eqnarray*} z_{ijk} &=& \alpha_z + d_{ij} g_{ijk} + \pi_{ij} g_{ik}'+ \epsilon_z\\ g_{ijk} &=& \alpha_g + \tilde{\tau}_{ij} g_{ik}' + \epsilon_g. \end{eqnarray*} $\epsilon_z$와 $\epsilon_g$는 독립적이라고 가정한다. 처음의 회귀방정식에 등장했던 $\rho_{ij}$는 특성 $z_{ijk}$가 후손의 유전형 $g_{ik}'$와 통계적으로 어떻게 연관되는지 말해줄 뿐이고 표현형이 어떻게 결정되는지에 대해서는 말하지 않는다. 이제 표현형 $z_{ijk}$를 조종하는 유전형 $g_{ijk}$를 통해 식을 적고 싶다. 조금 전에 적었던 회귀방정식은 먼저 후손의 유전형 $g_{ik}'$에서 시작해, 조종하는 유전형 $g_{ijk}$를 중간 변수로 사용해 특성 $z_{ijk}$로 가는 순서이다. 이와는 다르게 $g_{ijk}$의 관점에서 $g_{ik}'$와 $z_{ijk}$를 모두 기술하는 것이 포괄적합도의 방법이다.

먼저 $z$와 $g'$을 직접 연관시켜주는 외부 요인인 $\pi_{ij}$를 생략하자. 그리고 $g_{ijk}$와 $g_{ik}'$ 사이의 회귀 방향을 뒤집어서, $g_{ik}'$을 $g_{ijk}$로 기술하는데, 그 회귀계수가 $\tau_{ij}$여서 $$g_{ik}' = \alpha_{g'} + \tau_{ij} g_{ijk} + \epsilon_{g'}$$ 이다. $\tau_{ij}$는 친족선택 계수 혹은 유전율(heritability)로 불린다. 이를 이용해서 $\tilde{\tau}_{ij} \sigma_i = \tau_{ij} \psi_{ij}$로 적자. $\psi_{ij} \equiv \text{Var}(g_{ij})$로서, 계층 $i$와 표현형 $j$가 주어져 있을 때 개인 $k$에 대해 계산한 분산이다.

$\pi_{ij}$를 생략했기 때문에 앞의 직접적합도에서 얻은 식에 따르면 $$\text{sign}\left( \text{Cov}(w,g') / \langle w \rangle \right) = \text{sign} \left( \sum_i c_i \sum_j \beta_{ij} \rho_{ij} \sigma_i \right) = \text{sign} \left( \sum_i c_i \sum_j \beta_{ij} d_{ij} \tilde{\tau}_{ij} \sigma_i \right)$$ 이다. 그러면 $$\text{sign}\left( \text{Cov}(w,g') / \langle w \rangle \right) = \text{sign} \left( \sum_i c_i \sum_j \beta_{ij} d_{ij} \tau_{ij} \psi_{ij} \right)$$ 이며, 여기에서 $\psi_{ij}$가 $i$와 $j$에 상관없는 상수라고 하면 진화의 방향은 다음처럼 주어진다: $$\text{sign}\left( \text{Cov}(w,g') / \langle w \rangle \right) = \text{sign} \left( \sum_i c_i \sum_j \beta_{ij} d_{ij} \tau_{ij} \right).$$

• 프라이스 방정식
• 친족선택

• Steven A. Frank, Foundations of Social Evolution (Princeton University Press, Princeton, NJ, 1998).