해밀턴에 따르면, 다음 조건이 만족될 때에 이타적인 특성이 퍼져나갈 수 있다: $$rB - C > 0.$$ 이때 $r$은 행위자와 수혜자 사이의 근연도(relatedness)이고, $B$는 행위자가 수혜자에게 주는 번식상의 편익, $C$는 행위자가 그 편익을 제공하기 위해 지불해야 하는 비용을 의미한다.

$i$번째 개인이 어떤 특성 $z_i$를 가지고 있다고 하자. 잠재적인 예측변수들을 $x_{ij}$라 부르고 회귀계수들을 $b_j$, 설명되지 않는 잔차(residual)들을 $\delta_i$라고 하자. $$z_i = \sum_j b_j x_{ij} + \delta_i = g_i + \delta_i$$ 로서, $g_i \equiv \sum_j b_j x_{ij}$를 육종가(breeding value)라고 부르자. 육종가는 평균적인 효과들의 합으로서, 잔차와는 상관관계를 가지지 않는다.

적합도가 다음의 회귀 방정식으로 기술된다고 하자: $$w = \alpha_w + \beta_{wg\cdot G} g + \beta_{wG\cdot g}G + \epsilon_w.$$ 이때 $g$는 개인의 육종가, 그리고 $G$는 한 개인이 상호작용하는 무리의 평균 육종가를 의미한다. $\beta_{wg\cdot G}$는 $G$를 고정한 상태에서 $g$의 영향을 보여주는 회귀계수이고, $\beta_{wG\cdot g}$는 $g$를 고정한 상태에서 $G$의 영향을 보여주는 회귀계수이다. $\alpha_w$는 상수이고, $\epsilon_w$은 이 회귀분석에서 설명되지 않는 부분으로서 $g$나 $G$와는 상관관계를 가지지 않는다.

개인의 육종가 $g$가 적합도에 미치는 직접적인 영향을 보여주는 $\beta_{wg\cdot G}$는 표현형의 번식에 드는 비용을 결정한다. 따라서 $\beta_{wg\cdot G} = -C$라고 부르자. 상호작용하는 무리가 이 개인의 적합도에 미치는 영향인 $\beta_{wG\cdot g}$는 표현형이 이웃에 주는 편익을 나타내기 때문에 $\beta_{wG\cdot g} = B$라고 놓자. 그러면 회귀 방정식이 다음처럼 되고 $$w = \alpha -Cg + BG + \epsilon$$ 이를 프라이스 방정식에 대입하면, \begin{eqnarray*} \langle w \rangle \Delta \langle g \rangle &=& \text{Cov}(w,g) + \langle w\Delta g\rangle\\ &=& -C \text{Cov}(g,g) + B\text{Cov}(G,g) + \langle w\Delta g\rangle \end{eqnarray*} 이다. 여기에서 $\text{Cov}(g,g)$를 $g$의 분산인 $V_g$로 적고 항을 정리하면, $\langle w \rangle \Delta \langle g \rangle >0$으로부터 다음의 식을 얻는다: $$rB - C > -\frac{\langle w\Delta g\rangle}{V_g}.$$ 이때 $r$은 근연도(relatedness)로서 다음처럼 정의된다: $$r = \frac{\text{Cov}(G,g)}{\text{Cov}(g,g)}.$$ $\langle w\Delta g\rangle = 0$이면 해밀턴의 결과를 얻는다.

다르게 표현해서, $G$와 $g$를 연결하는 회귀식을 다음처럼 적으면 $$G = \alpha_G + \beta_{Gg} g + \epsilon_G$$ $w$와 $g$를 연결하는 식은 \begin{eqnarray*} w &=& \alpha + \left( \beta_{wg\cdot G} + \beta_{wG\cdot g} \beta_{Gg} \right) g + \epsilon\\ &=& \alpha + \beta_{wg} g +\epsilon \end{eqnarray*} 으로서, $w$와 $g$를 연결해주는 회귀계수가 $\beta_{wg} = \beta_{wg\cdot G} + \beta_{wG\cdot g} \beta_{Gg}$이다. $r = \beta_{Gg} = \text{Cov}(G,g) / \text{Cov}(g,g)$이므로, $\beta_{wg}>0$은 $rB-C>0$임을 의미한다.

이배체(diploid) 생물에서 한 유전자자리(locus)에 자리한 두 대립유전자(allele)의 효과를 나타내는 확률변수 $x$와 $y$를 생각하자. 개인의 육종가는 $g=x_1+x_2$이고, 무리 안 다른 개인의 육종가는 $G=y_1+y_2$이다. 같은 군집에서 추출되었기 때문에 $\text{Var}(x) = \text{Var}(y) = \sigma^2$이다. 그러므로 \begin{eqnarray*} \text{Cov}(g,g) &=& \text{Cov}(x_1+x_2, x_1+x_2)\\ &=& 2\sigma^2 + 2\text{Cov}(x_1,x_2)\\ &=& 2\sigma^2 (1+F) \end{eqnarray*} 이고, 이때 $F \equiv \text{Cov}(x_1, x_2)/\sigma^2 = \text{Corr}(x_1, x_2)$로서, 한 개인 안에서 대립유전자 사이의 상관도를 의미한다. 마찬가지로 다른 개인 사이의 상관도를 $f \equiv \text{Corr}(y,x)$라고 하면, $\text{Cov}(G,g) = 4\sigma^2 f$이다. 따라서 이 경우 근연도는 다음처럼 계산된다: $$r = \frac{2f}{1+F}.$$

할데인이 “나는 두 명의 형제나 여덟 명의 사촌을 위해 기꺼이 죽을 수 있다”고 농담한 이야기가 널리 퍼져 있지만, 계보를 공유한다는 것은 통계적인 연관성을 만들어내는 과정 중의 하나일 뿐이다. 위 유도과정은 상호작용 대상이 친족에 속해야 한다고 요구하지 않으며, 설령 다른 종 사이의 상호작용이라고 해도 같은 유도과정이 성립할 것이다.

평균 $g$ 변화량을 아래처럼 기술하는 것도 유용하다(Frank, 1997): \begin{eqnarray*} \Delta \langle g \rangle &\equiv& \sum_i q_i' g_i' - \sum_i q_i g_i\\ &=& \sum_i \left( q_i \frac{w_i}{\langle w \rangle} \right) g_i' - \sum_i q_i g_i\\ &=& \sum_i \left( q_i \frac{w_i}{\langle w \rangle} \right) g_i' - \sum_i q_i g_i' + \sum_i q_i g_i' - \sum_i q_i g_i\\ &=& \frac{\sum_i q_i w_i g_i' - \langle w \rangle \sum_i q_i g_i' }{\langle w \rangle} + \sum_i q_i \left( g_i' - g_i \right)\\ &=& \frac{\text{Cov}(w,g')}{\langle w\rangle} + \sum_i q_i \left( g_i' - g_i \right)\\ &=& \frac{\beta_{wg'} V_{g'}}{\langle w \rangle} + D_g. \end{eqnarray*} 여기에서 $g_i'$은 타입 $i$인 부모로부터 이전된 육종가를 그 자식들에서 측정한 것이다. 첫 번째 항은 적합도 차이를 설명하고 $D_g \equiv \langle \Delta g \rangle$는 부모와 자식 간 육종가의 차이이다.

이제 $w= \alpha_w + \beta_{wg} g + \epsilon$과 $g' = \alpha_{g'} + \beta_{g'g} g + \gamma$로 회귀분석을 시행하고 $\epsilon$과 $\gamma$ 사이에 상관관계가 없다고 한다면 \begin{eqnarray*} w g' &=& \alpha_w g' + \beta_{wg} g g' + \epsilon g' \\ &=& \alpha_w g' + \beta_{wg} g \left( \alpha_{g'} + \beta_{g'g} g + \gamma \right) + \epsilon \left( \alpha_{g'} + \beta_{g'g} g + \gamma \right) \\ \end{eqnarray*} 으로부터 $$\beta_{wg'} V_{g'} = \beta_{wg} V_g \beta_{g'g}$$ 이고, 이를 위의 식에 대입하면 다음을 얻는다: $$\Delta \langle g\rangle = \frac{\beta_{wg} \beta_{g'g} V_g}{\langle w \rangle} + D_g.$$ 이제 $\Delta \langle g \rangle >0$일 조건은 다음처럼 얻어진다. $$(rB - C) \frac{\beta_{g'g}}{\langle w \rangle} > -\frac{D_g}{V_g}$$

이타적인 형질이 부모에서 자식으로 전달된다고 하자. 그 과정에서 자식이 $\mu$의 확률로 부모와 반대되는 행동을 가질 수도 있다. 편의상 무성생식을 가정하여 하나의 자식은 부모 하나만을 가진다고 하자. $p$는 이타적인 형질의 빈도를 나타낸다. 육종가 $g$는 이 형질이 존재하면 $1$이고 없으면 $0$이라고 정의한다. 따라서 $p = \langle g \rangle = \langle G \rangle$이다. 부모와 자식 간 평균 육종가의 변화는 $\Delta g = g' - g$로서, 만일 부모 세대에서 $g = 0$이면 $\Delta g = \mu$이고 $g=1$이면 $\Delta g = -\mu$이다. 이제 각 변수들을 계산할 수 있다: \begin{eqnarray*} \beta_{wg} &=& rB-C\\ \beta_{g'g} &=& 1-2\mu\\ \langle w \rangle &=& \alpha + p (B-C)\\ D_g &=& \mu (1-2p)\\ V_g &=& p(1-p). \end{eqnarray*} 이 값들을 대입하고 부등식을 등호로 바꾸어 $p$에 대해서 풀 수 있다. 특히 $\alpha = 0$이고 $rB-C>0$이라면 평형 상태에서 $p$의 값은 다음과 같다: $$p^\ast = \frac{(rB-C) (1-2\mu) + \mu(B-C)}{(rB-C)(1-2\mu) + 2\mu(B-C)}.$$

$y$가 개인의 표현형, $z$가 이웃의 표현형이라고 하고 대립유전자의 값이 $x$라고 하자. 적합도 $w$가 $y$와 $z$의 함수 $w(y,z)$라고 할 때, 이를 $x$로 미분할 수 있다고 해보자. 편미분의 규칙에 의해 다음이 성립한다: $$\frac{dw}{dx} = \frac{\partial w}{\partial y} \frac{dy}{dx} + \frac{\partial w}{\partial z} \frac{dz}{dx}.$$

$dy/dx$와 $dz/dx$를 회귀 계수로 바꾸어 적는다면 이렇게 될 것이다: $$\frac{dw}{dx} = \frac{\partial w}{\partial y} \beta_{yx} + \frac{\partial w}{\partial z} \beta_{zx}.$$

양변을 $dy/dx$로 나눈다면 \begin{eqnarray*} \frac{dw}{dy} &=& \frac{\partial w}{\partial y} + r \frac{\partial w}{\partial z}\\ &=& -C_m + r B_m \end{eqnarray*} 으로서 $r = \text{Cov}(z,x) / \text{Cov}(y,x)$는 개인 $x$가 이웃 $y$와 가지는 근연도를 나타낸다. $C_m \equiv -\partial w / \partial y$는 한 개인의 행동이 자신의 번식에 미치는 한계 비용을, $B_m \equiv \partial w / \partial z$는 행동이 이웃에 미치는 한계 편익을 뜻한다. $dw/dy\ge0$이려면 $rB_m \ge C_m$이어야 한다.

꼭 친족을 식별해내지 않더라도 제한적 분산(limited dispersal)을 통해 친족선택이 일어날 수 있다. 예를 들어 새에게는 “둥지 안에서 짹짹거리는 존재에게 먹이를 주어라” 정도의 규칙만 주어져도 그럭저럭 효과를 볼 수 있을 것이다. 이 기작은 공간 상호성(spatial reciprocity)을 암시한다.

부모 세대가 많은 수의 자손을 남긴 후 죽는 생활사를 생각하자. 그들의 서식지는 많은 수의 따로 떨어진 지점들로 구성되어 있으며, 모든 지점들은 우리가 고려 중인 종에 의해 점유된다. 태어난 곳으로부터 다른 패치로 떠날 확률이 $g$, 태어난 패치 내의 평균 표현형이 $g_p$, 그리고 군집 내 평균 표현형이 $G$라고 하자. 개인의 적합도는 이 세 변수의 함수로 주어진다: $$w\left( g, g_p, G \right) = (1-g) p\left( g_p \right) + g (1-c) p\left(G\right).$$ 만일 $1-g$의 확률로 패치 안에 머무른다면 그 자리에서 $N$개의 번식지 가운데 하나를 차지하기 위해 경쟁해야 한다. $c$는 흩어지는 과정에서 죽을 확률이어서, 흩어진다면 $1-c$의 확률로 다른 패치에 도달한 후 그 곳의 번식지 중 하나를 차지하기 위해 경쟁한다. 이때 $$p(\alpha) = \frac{1}{N \left[ 1-\alpha + G (1-c) \right]}$$ 는 표현형이 $\alpha$인 패치에서 경쟁하는 후손이 한 번식지를 획득할 확률이다.

$g_p$는 $g$에 의존하며, 근연도를 $r \equiv dg_p / dg$라고 정의하자. 그러면 $$N\frac{dw}{dg} = \frac{1-c}{1-G+(1-c)G} - \frac{1}{1-g_p + (1-c)G} + \frac{(1-d)r}{\left[ 1-g_p + (1-c)G \right]^2}$$ 이고, 평형에서 $g = g_p = G$라고 하면 $$N\frac{dw}{dg} = -\frac{c}{1-cg} + r \frac{1-g}{(1-cg)^2}$$ 이다. 앞의 항을 $-C$, 뒤의 항을 $rB$로 간주하면 해밀턴의 규칙에 대응된다. 평형에서 $dw/dg$를 $0$으로 만들어야 하므로 방정식을 $g$에 대해 풀어보면 다음과 같은 해를 얻는다: $$g^\ast = \left\{ \begin{array}{ll} \displaystyle \frac{r-c}{r-c^2} & \text{if }0<c<r\\ 0 & \text{if }r<c<1. \end{array} \right. $$ 무성생식의 경우 패치 안 생물들의 근연도는 $r=1$이다. 유성생식의 경우에도 자손의 표현형을 모계 쪽에서 좌우한다면 여전히 $r=1$이다. 반면 자손들 스스로 표현형을 결정한다면 (그리고 이계교배의 결과물이라면), 이들은 같은 부모 밑에서 난 동기간이므로 $r=1/2$이다. 어미가 짝짓기를 여러 번 하는 경우 패치 안의 새끼들은 의붓형제자매들로 다시 절반의 근연도만을 가지므로 $r=1/4$이다.

프라이스 방정식

피셔의 원리

포괄적합도

• Steven A. Frank, Foundations of Social Evolution (Princeton University Press, Princeton, NJ, 1998).
• Steven A. Frank, The Price equation, Fisher's fundamental theorem, kin selection, and causal analysis, Evolution 51, 1712 (1997).
• Bruce Walsh and Michael Lynch, Evolution and Selection of Quantitative Traits (Oxford University Press, Oxford, 2018).
• Richard Dawkins, Twelve misunderstandings of kin selection, Zeitschrift für Tierpsychologie 51, 184 (1979).
• Stuart A. West, Claire El Mouden, and Andy Gardner, Sixteen common misconceptions about the evolution of cooperation in humans, Evolution and Human Behavior 32, 231 (2011).