Руководящий документ РД 52.24.622-2001 Методические указания. Проведение расчетов фоновых концентраций химических веществ в воде водотоков.

РД 52.24.622-2001

РУКОВОДЯЩИЙ ДОКУМЕНТ

МЕТОДИЧЕСКИЕ УКАЗАНИЯ

Проведение расчетов фоновых концентраций

химических веществ в воде водотоков

Дата введения 2002-01-01

Предисловие

1 РАЗРАБОТАН Гидрохимическим институтом

2 РАЗРАБОТЧИКИ О.А.Клименко, канд. хим. наук; В.Ф.Геков, канд. техн. наук; Р.С.Пятницына, О.В.Сергеева

3 УТВЕРЖДЕН Федеральной службой России по гидрометеорологии и мониторингу окружающей среды

4 ЗАРЕГИСТРИРОВАН ЦКБ ГМП за номером РД 52.24.622-2001

5 ВЗАМЕН "Временных методических указаний по расчету фоновых концентраций химических веществ в воде водотоков" (Л.: Гидрометеоиздат, 1983)

      1 Область применения

Настоящие методические указания устанавливают методы проведения расчетов фоновых концентраций химических веществ в воде водотоков в заданных створах.

Методические указания предназначены для оперативно-производственных подразделений Росгидромета, осуществляющих обработку результатов наблюдений на водных объектах, а также проектных организаций министерств и ведомств и других заинтересованных организаций, имеющих лицензии на проведение расчетов фоновых концентраций химических веществ в воде водотоков или разработку проектов предельно допустимых сбросов вредных веществ в поверхностные водные объекты.

Фоновые концентрации химических веществ, рассчитанные в соответствии с настоящими методическими указаниями, могут быть использованы для нормирования сброса сточных вод для проектируемых, реконструируемых и действующих предприятий, а также при проектировании и осуществлении забора воды из водотоков на различные хозяйственные нужды.

     2 Нормативные ссылки

     В настоящих методических указаниях использованы ссылки на следующие стандарты:

     ГОСТ 17.1.1.02-77. Охрана природы. Гидросфера. Классификация водных объектов

     ГОСТ 17.1.1.01-77. Охрана природы. Гидросфера. Использование и охрана воды. Основные термины и определения

     ГОСТ 19179-73. Гидрология суши. Термины и определения

     ГОСТ 27065-86 (СТ СЭВ 5184-85). Качество вод. Термины и определения

      3 Определения

В настоящих методических указаниях использованы следующие термины.

Вертикаль в створе водотока - условная отвесная линия от поверхности воды (или льда) до дна в водотоке, используемая для описания места отбора проб воды в створе или оценок и прогноза качества воды в нем.

Водоток - водный объект, характеризующийся движением воды в направлении уклона в углублении земной поверхности (ГОСТ 19179).

Загрязняющее вещество - вещество в воде, вызывающее нарушение норм качества воды (ГОСТ 17.1.1.01).

Качество воды - характеристика состава и свойств воды, определяющая пригодность ее для конкретных видов водопользования (ГОСТ 17.1.1.01).

Максимально загрязненная струя в створе водотока - масса воды с наиболее высоким содержанием загрязняющих веществ, занимающая определенную часть поперечного сечения водного потока.

Нормы качества воды - установленные значения показателей качества воды для конкретных видов водопользования (ГОСТ 27065).

Предельно допустимый сброс - масса вещества в сточных водах, максимально допустимая к отведению с установленным режимом в данном пункте (створе) водного объекта в единицу времени с целью обеспечения норм качества воды в контрольном пункте (ГОСТ 17.1.1.01).

Самоочищение воды - совокупность природных процессов, направленных на восстановление экологического благополучия водных объектов (ГОСТ 27065).

Створ водотока (реки) - условное поперечное сечение водотока, используемое для оценок и прогноза качества воды.

Сточные воды - воды, отводимые после использования в бытовой и производственной деятельности человека (ГОСТ 17.1.1.01).

Фоновая концентрация химического вещества - расчетное значение концентрации химического вещества в конкретном створе водного объекта, расположенном выше одного или нескольких контролируемых источников этого вещества, при неблагоприятных условиях, обусловленных как естественными, так и антропогенными факторами воздействия.

      4 Общие положения

4.1 Расчет количественных значений показателей химического состава и свойств воды водотоков выше проектируемого или действующего выпуска сточных вод (далее для указанных величин используется термин "фоновые концентрации химических веществ") должен периодически проводиться с целью установления оптимальной степени очистки, режима и условий сброса сточных вод, при которых качество воды водотока ниже выпуска сточных вод будет удовлетворять установленным нормам.

4.2 Фоновые концентрации химических веществ рассчитываются для конкретного, задаваемого проектными или другими заинтересованными организациями створа водотока и являются количественной характеристикой содержания веществ в этом створе при наиболее неблагоприятных ситуациях, обусловленных как естественными условиями формирования химического состава и свойств воды, так и влиянием всех источников загрязнения, расположенных выше рассматриваемого створа.

4.3 За фоновую концентрацию вещества

принимается статистически обоснованная верхняя доверительная граница возможных средних значений концентраций этого вещества, рассчитанная по результатам гидрохимических наблюдений для наиболее неблагоприятных гидрологических условий или наиболее неблагоприятного в отношении качества воды периода (сезона) в годовом цикле.

Значение фоновой концентрации вещества

рассчитывается для конкретных створов водотоков и считается статистически обоснованным, если оно определено с доверительной вероятностью

.

4.4 В целях возможности осуществления контроля, проверки и корректировки рассчитанных значений фоновой концентрации вещества

, а также увеличения запаса надежности расчетов разбавления загрязненных вод створ, задаваемый для определения фоновой концентрации вещества

, должен располагаться выше рассматриваемого проектируемого или действующего выпуска сточных вод на 1 км для больших и средних рек*, на 500 м для малых рек.

________________

     * Имеется в виду классификация рек в соответствии с ГОСТ 17.1.1.02.

Если между створом, для которого рассчитываются фоновые концентрации, и створом, где планируется осуществление сброса сточных вод, имеются притоки, то для устьевой части этих притоков фоновые концентрации рассчитываются отдельно.

4.5 Перечень веществ, для которых требуется рассчитать фоновую концентрацию вещества

, определяется организацией-заказчиком.

4.6 В соответствии с правилами [1] (приложение Д) наиболее неблагоприятными расчетными гидрологическими условиями следует считать:

а) для незарегулированных водотоков - наименьший (минимальный) среднемесячный расход воды года 95%-й обеспеченности по данным органов Росгидромета;

б) для зарегулированных водотоков - установленный гарантированный расход воды ниже плотины (санитарный попуск) при обязательном исключении возможности обратных течений в нижнем бьефе. В том случае, если систематические наблюдения не проводились, то сначала, пользуясь [2], определяют среднегодовой расход 95%-й обеспеченности. Затем, учитывая внутригодовое распределение стока реки-аналога или пользуясь схемами внутригодового распределения стока по районам, устанавливают расчетный среднемесячный минимальный расход для этого характерного года.

4.7 Определение фоновой концентрации для любого вещества заключается в нахождении

, соответствующей вышеуказанным расчетным гидрологическим условиям. Для периодически пересыхающих и перемерзающих участков водотоков, а также в том случае, если отсутствует достаточно надежная статистическая связь между концентрацией вещества и расходом речной воды, рассчитывается значение фоновой концентрации вещества

за наиболее неблагоприятный в отношении качества воды период в годовом цикле.

4.8 В случае неравномерного распределения концентрации вещества в сечении заданного створа водотока (например, в зоне неполного смешения речной воды со сточной водой или водой притока) наиболее важным параметром является та

, которая рассчитана отдельно для струи с наиболее высокой концентрацией этого вещества (далее эту струю будем называть контрольной струей или, если речь идет о влиянии на химический состав речной воды конкретного сброса сточных вод, максимально загрязненной струей). Значение фоновой концентрации вещества, полученное в контрольной струе заданного створа водотока, представляют как конечный результат расчета.

4.9 Для расчета фоновой концентрации вещества

используют результаты систематических наблюдений, при получении которых не изменялись:

- методика отбора и анализа проб воды;

- водный режим водотока (зарегулирование, забор воды и т.п.);

- характер поступления рассматриваемых химических веществ на вышерасположенном участке водотока.

4.10 При расчете фоновой концентрации вещества

следует учитывать только те створы наблюдений, где имеются данные не менее чем за один год - при ежемесячной, ежедекадной или еще более дробной системе отбора проб воды; не менее чем за двухлетний период при 6-11- разовом отборе проб воды в год; не менее чем за трехлетний период при 4-5-разовом отборе проб воды в год. Основное условие - чтобы наблюдения проводились во все характерные сезоны не менее одного года и минимальное число данных в каждом сезоне за расчетный период было не менее трех.

Результаты гидрохимических наблюдений на средних и больших реках в створах, расположенных примерно на 500 м ниже контролируемого выпуска сточных вод, разрешается использовать для расчета только в том случае, если отбор проб воды в них осуществлялся с учетом местоположения максимально загрязненной струи.

Характер наблюдений и состояние водного объекта за выбранный период должны соответствовать требованиям, указанным в 4.9.

4.11 При отсутствии на водотоке створов наблюдений, удовлетворяющих 4.9 и 4.10, расчет возможен только после проведения необходимых дополнительных наблюдений.

Отбор и анализ проб воды водотока проводится в соответствии с требованиями, изложенными в [3, 4].

4.12 Расчетные значения фоновой концентрации

действительны в течение трех лет со дня выдачи официального ответа на запрос, после чего подлежат пересмотру (порядок запросов и ответов рассмотрен в разделе 6). В случае значительного изменения водного режима водотока, а также ввода, закрытия или реконструкции крупных предприятий, сбрасывающих сточные воды на вышерасположенных участках водотока, значения фоновой концентрации вещества

независимо от сроков их установления обязательно корректируются.

     5 Методы расчетов фоновых концентраций химических веществ в воде водотоков

5.1 Заданный для расчета фоновой концентрации вещества створ водотока может быть расположен ниже, выше или совпадать со створом, результаты наблюдений в котором соответствуют 4.9, 4.10.

5.2 По специфике вычислительных операций для заданного химического вещества условно можно выделить пять методов расчета, связанных с определением фоновой концентрации вещества

:

1) выделение в заданном створе максимально загрязненной струи;

2) оценка достоверности статистической связи между концентрацией вещества и расходом воды в водотоке (отдельно для максимально загрязненной струи и остальной массы воды в водотоке); расчет фоновой концентрации вещества при наличии достоверной статистической связи между указанными параметрами;

3) расчет фоновой концентрации вещества для случая, когда систематические наблюдения в течение последних трех лет проводились не реже чем один раз в месяц;

4) расчет фоновой концентрации вещества для случаев, когда наблюдения проводились реже чем один раз в месяц;

5) пересчет фоновой концентрации вещества, полученной в створе систематических гидрохимических наблюдений, на другой заданный створ водотока.

5.3 Выделение в заданном створе максимально загрязненной струи проводится только в том случае, если число точек контроля состава воды в рассматриваемом створе превышает единицу* и объем наблюдений в каждой точке контроля соответствует 4.9, 4.10.

________________

* Сведения об организации гидрохимических наблюдений в створах водотоков приведены в работах [3-5].

5.3.1 Для каждой точки контроля в створе водотока рассчитывается среднее значение концентрации рассматриваемого вещества по формуле

,                                     (1)

где

- средняя концентрация вещества в рассматриваемой точке контроля;

     

-

-е значение концентрации вещества в этой точке;

     

- число значений

, взятых для определения

.

Перед расчетом

из рядов концентраций вещества должны быть удалены аномально высокие или низкие значения концентрации, появление которых может быть связано только с грубыми ошибками при получении информации или аварийными ситуациями на водном объекте.

5.3.2 Точка контроля, для которой полученное значение средней концентрации наибольшее, принимается за основную (опорную). Если концентрация вещества в основной точке контроля существенно отличается от концентраций этого вещества в "соседних" (справа, слева, выше, ниже) точках, то следует считать, что результаты наблюдений в основной точке контроля характеризуют качество воды в максимально загрязненной струе (методы сопоставления выборочных рядов данных указаны в 5.3.3).

Если концентрация вещества в основной вертикали отличается от концентраций этого вещества в одной или нескольких соседних (справа, слева, выше, ниже) точках контроля несущественно, то следует считать, что все эти точки расположены в одной контрольной струе. Для получения единого ряда концентраций, характеризующих состав воды в этой струе, результаты наблюдений, полученные в указанных точках контроля за расчетный период, объединяют и усредняют.

Аналогичное усреднение результатов наблюдений выполняют и для точек контроля, не вошедших в контрольную струю.

Если известно, что происходит периодическое поступление рассматриваемого вещества от какого-либо источника, расположенного выше заданного створа водотока, то следует попытаться выделить контрольную струю путем аналогичного анализа данных, но с учетом только тех периодов, когда может происходить выпуск рассматриваемого вещества из этого источника.

В заданном створе следует выделять не более двух условно изолированных масс воды: контрольную струю и остальную часть речной воды с более низкими концентрациями загрязняющего вещества.

Для каждой выделенной массы воды определяют примерную долю расхода воды водотока в меженный период. Определение последней осуществляют совместно с гидрологами посредством анализа распределения расхода воды в поперечном профиле створа водотока и анализа местоположения в этом створе точек отбора проб воды, отнесенных к контрольной струе*.

________________

* Возможные ошибки при таком ориентировочном выделении расхода воды, относимого к контрольной струе, как правило, полностью компенсируются запасом надежности используемых методов расчета смешения и разбавления загрязненных масс воды в реке. Однако при вновь организуемых исследованиях следует иметь в виду, что правомерность отнесения получаемых значений концентраций ко всей выделяемой относительно однородной по химическому составу массе речной воды будет наиболее высока в тех створах, где отбираются усредненные (составные) пробы воды по всему сечению этой выделенной массы.

5.3.3 Оценку значимости отличия сравниваемых выборок концентраций вещества следует осуществлять с помощью непараметрического статистического критерия Вилькоксона-Манна-Витни (критерий

) [6].

Сущность данной методики заключается в следующем.

Значения концентраций обеих выборок располагают в общую возрастающую последовательность, например в виде

 

 

 

 

 

 

 

 

 

,

где

,…,

- концентрации первой выборки;

     

,…,

- концентрации второй выборки.

     Каждому значению концентрации в общей возрастающей последовательности присваивается ранг, например:

                                  (2)

Если в первой и второй выборках имеются равные значения концентрации, то каждому из них приписывается среднее значение ранга. Например, если

, то для рассмотренной последовательности будем иметь:

                                  (3)

При

получим:

                                (3a)

     Далее отдельно для каждой выборки подсчитывается сумма рангов. Например, для последовательности (3) получим:

     - для первой выборки

сумма рангов равна 22,5;

     - для второй выборки

сумма рангов равна 32,5.

     Значения критерия

определяют по формулам

,                                                                 (4)

,                                                                 (5)

где

- меньшая сумма рангов в сравниваемых выборках;

     

- число значений концентраций в выборке с суммой рангов

;

     

- большая сумма рангов в сравниваемых выборках;

     

- число значений концентраций в выборке с суммой рангов

.

     Например, для последовательности (3) получим

.                                                           (6)

Если число данных в большей из сравниваемых выборок

менее или равно восьми (

), то рассчитывается теоретическое (критическое) значение критерия

по формуле

,                                      (7)

где

- число данных в меньшей из сравниваемых выборок.

Примечание - Результат, полученный по формуле (7), округляется до первого знака после запятой.

В том случае, если рассчитанное значение

больше

, то отличие между сравниваемыми выборками принимается незначимым.

Например, для последовательности (3)

;

;

;

. Следовательно, отличие сравниваемых выборок концентраций принимается незначимым (при

).

Если число данных в большей выборке более восьми (

), то оценка отличия сравниваемых выборок концентраций проводится по критерию

, который представляет собой приближенно нормированную величину, распределенную по нормальному закону:

.                                       (8)

В том случае, если рассчитанное значение

попадает в интервал

, отличие между двумя сравниваемыми выборками концентраций принимается незначимым (при

).

5.4 Оценку возможности установления и использования для расчетов фоновых концентраций статистических связей между концентрацией вещества

и расходом воды в водотоке

осуществляют в том случае, если на дату отбора проб представлены значения расхода речной воды.

5.4.1 Корреляционный анализ для оценки статистической связи типа

желательно проводить с использованием ПЭВМ. Если данный анализ выполняется "вручную", то для выяснения вида статистической связи (прямолинейная, логарифмическая, экспоненциальная) вначале анализируют характер распределения точек на графике связи

. После выбора вида связи проводится корреляционный анализ линеаризованной статистической связи. При использовании ПЭВМ для анализа линеаризованных связей

рекомендуется использовать следующие уравнения регрессии:

,                                                

,

     

,                                              

,

     

,                                                 

,    

     

,                                           

,                        

,                                               

,

(9)

,                                           

,

     

,                                               

,

     

,                                          

.

Статистическая связь принимается значимой, если она удовлетворяет параметрам, приведенным в таблице 1.

Таблица 1 - Критерии оценки качества статистических связей

Число членов ряда	Коэффициент корреляции		Категория качества
			Хорошая
	0,80-0,70	0,41-0,70	Удовлетворительная
			Хорошая
	0,88-0,66	0,46-0,75	Удовлетворительная
			Хорошая
	0,86-0,60	0,51-0,80	Удовлетворительная

     В таблицу 1 включены параметры:

- среднеквадратическое отклонение, определяемое для анализируемого ряда значений концентрации вещества по формуле

;                                                 (10)

- среднеквадратичная погрешность результатов проверочных расчетов значений концентрации вещества по найденному уравнению регрессии, определяемая по формуле

;                                                   (11)

где

- значение концентрации вещества, полученное по уравнению регрессии по тем данным расхода воды в водотоке, при которых была зафиксирована

:

- коэффициент корреляции линейной связи между параметрами

и

, определяемый по формуле

,                                            (12)

где

,

- наблюденные

-е значения коррелируемых параметров;

     

,

- среднеарифметические значения этих параметров.

Если при линеаризации статистической связи параметры

и

использовались в измененном виде (например,

;

;

;

), то в формулу (12) их

-e значения следует подставлять в том же измененном виде.

     В случае наличия достоверной статистической связи

составляют необходимые расчетные зависимости (уравнения регрессии)*.

________________

     * Способы упрощенного установления статистических связей можно найти в работах [7-10].

     5.4.2 Значение фоновой концентрации вещества определяют по формуле*

,                                                     (13)

где

- рассчитанная по уравнению регрессии средняя концентрация вещества, соответствующая условиям расчетного минимального расхода воды в водотоке согласно 4.6;

     

- возможная погрешность определения

.

________________

     * При определении

для растворенного в воде кислорода используется формула

.                                                   (13а)

     Значение параметра

вычисляют по формуле

,                                                                (14)

где

- коэффициент Стьюдента при

(значения коэффициента приведены в приложении В).

Примеры расчетов фоновых концентраций представлены в приложении Г.

5.4.3 В створах водотока, в которых с увеличением расхода воды увеличивается концентрация рассматриваемого вещества, помимо фоновой концентрации при минимальном расчетном расходе воды, по уравнению регрессии рассчитывают фоновую концентрацию вещества, соответствующую как среднемноголетнему расходу воды

, так и наибольшему (максимальному) среднемесячному расходу воды года 5%-й обеспеченности

.

5.5 Расчет фоновой концентрации вещества при отсутствии достоверной статистической связи типа

и наличии ежемесячных наблюдений за химическим составом воды не менее трех лет должен выполняться с выделением наиболее неблагоприятных условий в отношении качества воды в годовом цикле по рассматриваемому веществу. Ниже показана последовательность этапов расчета.

5.5.1 В рассматриваемом диапазоне лет из результатов наблюдений исключают непоказательные экстремальные значения. Для этого рассчитывают величины

и

по формулам

,                                                      (15)

,                                                     (16)

где

,

,

- соответственно средняя, максимальная и минимальная концентрации вещества за рассматриваемый период;

- среднеквадратическое отклонение значений концентрации вещества.

В том случае, если

или

(где

- нормативное значение, определяемое по таблице 2), то взятое для анализа экстремальное значение концентрации вещества исключается из рассматриваемого ряда данных.

Таблица 2 - Предельные значения

3	1,150
4	1,460
5	1,670
6	1,820
7	1,940
8	2,030
9	2,110
10	2,180
11	2,230
12	2,290
13	2,330
14	2,370
15	2,410
16	2,440
17	2,480
18	2,500
19	2,530
20	2,560
25	2,635
30	2,696
40	2,792
50	2,860
200	3,076
250	3,339
500	3,528

5.5.2 Последний год наблюдений следует принимать за основной. Из предыдущих лет берут данные только за те годы, в которых значения концентрации рассматриваемого вещества несущественно отличаются от значений концентрации за основной год (правила сравнения двух выборок приведены в 5.3.3).

Если для определения фоновой концентрации вещества

выделена контрольная струя, то выбор числа лет для статистической обработки проводят отдельно по данным, характеризующим содержание вещества в контрольной струе, и данным, характеризующим его содержание в остальной массе воды водотока.

5.5.3 Выбранные для расчета фоновой концентрации вещества

данные сводятся в градации по месяцам (число градаций - 12).

Если хотя бы в одном месяце число данных оказалось менее трех, то продолжение расчета возможно только в соответствии с 5.6.

Далее из каждой выделенной градации исключают непоказательные экстремальные значения концентрации согласно 5.5.1.

5.5.4 В выделенных градациях рассчитывают среднюю концентрацию вещества. Месяц с наибольшим значением концентрации вещества принимают за основной (опорный). Если значение концентрации вещества в этом месяце существенно отличается от значений концентрации в остальных месяцах, то верхняя доверительная граница средней концентрации вещества в основном месяце принимается за искомое значение фоновой концентрации вещества

. Формула для расчета фоновой концентрации вещества

имеет вид*:

,                                                   (17)

где

- средняя концентрация вещества в основном месяце;

- среднеквадратическое отклонение значений концентрации в этом месяце;

     

- число данных в градации.

________________

* Для растворенного кислорода в формуле (17) знак "+" следует заменить на "-".

Если отличие данных в основном месяце от данных в одном или нескольких других месяцах несущественно, то результаты наблюдений, попавшие в несущественно отличающиеся градации, объединяются с результатами наблюдений в основной градации. Для вновь составленной (увеличенной) градации определяют среднюю концентрацию. Верхняя доверительная граница, определяемая по формуле (17), составит искомое значение фоновой концентрации вещества

*.

________________

* Если полученное значение фоновой концентрации

превышает максимальное наблюденное значение

, то это означает, что либо были неправильно выбраны градации (или периоды) временных изменений концентрации вещества, либо при действительно высокой изменчивости значений концентрации вещества в выделенном периоде было проведено недостаточно наблюдений для расчета фоновой концентрации

.

5.6 Расчет фоновой концентрации вещества при наблюдениях реже, чем один раз в месяц, выполняют с учетом возможных версий характерной внутригодовой периодичности (сезонности) изменения концентрации вещества. Последняя может быть связана с особенностями гидрологического, температурного, ледового режимов водотока или совокупности этих и других факторов воздействия. Основное условие при выборе версий - в каждом периоде (сезоне) должно быть не менее трех значений концентрации.