Очень часто результат одиночного опыта, произведенного с достаточно сложной системой, не может быть предсказан с полной определенностью, т.к. зависит от ряда случайных факторов и является случайной величиной. Несмотря на это, мы можем сделать важные выводы о поведении системы производя большое число идентичных опытов. В таком случае мы говорим о статистическом описании системы и используем для такого описания методы теории вероятностей. Статистическая теория позволяет предсказать не результат конкретного опыта, а вероятность появления каждого из возможных результатов опыта. Предсказанные вероятности можно сравнить с вероятностями, измеренными на опыте с большим числом одинаковых систем (ансамблем). Если состояние системы не зависит от времени, то с равным успехом можно многократно повторить один и тот же опыт над одной системой. Статистический подход оказался чрезвычайно плодотворным в физике при рассмотрении таких проблем как радиоактивный распад, падение космических лучей на Землю, испускание электронов и фотонов, при квантовомеханическом описании атомов и молекул.