러더퍼드 산란 실험의 기본 구조는 다음과 같다. 헬륨의 원자핵인 $\alpha$입자를 원자살 형태로 상대적으로 원자번호가 큰 금속으로 만든 얇은 박막에 쏘아준다.

러더퍼드의 산란 실험 이전의 원자 모형으로는 톰슨의 원자 모형이 가장 널리 받아들여지는 모형이었다. 톰슨은 원자가 중성일 것이라 생각하였다. 원자 내부에 양전하들이 고르게 분포되어 있고 그 사이에 음전하가 건포도처럼 박혀 있을 것이라 생각하였다. 이렇게 전하들이 분포되어 있으면 원자가 전기적으로 중성일 것이라 생각할 수 있다. 톰슨의 원자 모형에 따르면 위의 러더퍼드 산란 실험에서 $\alpha$ 입자가 금속 박막을 통과한 뒤의 경로는 처음 들어가는 경로에서 크게 벗어나지 않을 것이라 예측할 수 있다.