История обработки воды относился ко времени приблизительно тринадцатого столетия до н.э., и впервые это произошло в Египте. Однако современная фильтрация началась намного позже. Гравитационный песочный фильтр Джона Гиббса, сооруженный в 1804 году в Шотландии, был первым фильтром, используемым для того, чтобы фильтровать пригодную для питья воду в больших количествах. Гравитационные песочные фильтры распространялись быстро, и первый такой фильтр в Соединенных Штатах был построен в Ричмонде, Вирджиния, в 1832 году. Ряд гравитационных песочных фильтров, сооруженных на основании английских проектов, было построено в 1870 году в Пугкипси, в Нью-Йорке, и они находятся все еще в использовании.

Спустя несколько десятилетий после того, как первые гравитационные песчаные фильтры были построены в США, первые быстродействующие песочные фильтры были установлены также. Появление быстродействующей песочной фильтрации связано с открытием коагуляции. Добавляя определенные химикаты (коагулянты) к мутной воде, посторонний материал в воде взаимодействовал с ними и быстро оседал. Используя коагуляцию, чистая вода для фильтрации могла быть произведена из мутных, загрязненных потоков.

К концу девятнадцатого столетия было в десять раз больше быстродействующих песочных фильтров, чем фильтров гравитационного типа. В настоящее время, гравитационную песочную фильтрацию считают экономичной и используют в определенных случаях.

Диатомовый земной фильтр был развит армией США во время Второй Мировой Войны. Армия нуждалась в фильтре, который был транспортабелен, легок в сборке, и был в состоянии произвести чистую питьевую воду. Диатомовый земной фильтр используется в меньших системах, но не является обычно частью заводов по очистке воды.