Анализ влияния вертикальной рефракции на результаты тригонометрического нивелирования при коротких расстояниях

УДК 528.48

Ю. В. Лобанова

АНАЛИЗ ВЛИЯНИЯ ВЕРТИКАЛЬНОЙ РЕФРАКЦИИ

НА РЕЗУЛЬТАТЫ ТРИГОНОМЕТРИЧЕСКОГО НИВЕЛИРОВАНИЯ ПРИ КОРОТКИХ РАССТОЯНИЯХ

Дата поступления: 14.02.2018 Решение о публикации: 20.03.2018

Аннотация

Цель: Рассмотреть факторы, влияющие на точность результатов тригонометрического нивелирования, которое в связи с внедрением в геодезическое производство электронных тахеометров применяется все чаще при строительстве различных инженерно-технических объектов. Оценить влияние вертикальной рефракции на результаты геодезических измерений. Методы: Проанализированы материалы авторов, которые занимались данной проблемой. Приведена формула средней квадратической погрешности определения превышения тригонометрическим нивелированием и выполнен анализ каждого аргумента этой формулы. Результаты: Охарактеризованы факторы, влияющие на точность тригонометрического нивелирования, приведены рекомендации проведения работ для повышения точности тригонометрического нивелирования. Установлено, при каких внешних условиях следует выполнять тригонометрическое нивелирование, чтобы повысить точность геодезических измерений и при этом максимально уменьшить влияние вертикальной рефракции на них. Практическая значимость: На основе полученных зависимостей влияния вертикальной рефракции на результаты тригонометрического нивелирования можно выбрать максимально благоприятные внешние условия проведения геодезических измерений для повышения их точности. Выявлена проблема зависимости влияния вертикальной рефракции при изменении углов наклона. Показана необходимость изучения влияния вертикальной рефракции на изменения углов наклона и расстояний.

Ключевые слова: Вертикальная рефракция, тригонометрическое нивелирование, влияние окружающей среды.

Yulia V. Lobanova, postgraduate student, lobanowa_@mail.ru (Emperor Alexander I Petersburg State Transport University) ANALYSIS OF VERTICAL REFRACTION INFLUENCE ON THE RESULTS OF SHORT-RANGE VERTICAL ANGULATION

Summary

Objective: To consider the factors, influencing the accuracy of vertical angulation results which, due to the implementation of electronic tachymeters in geodesic industry, is applied more often in the process of constructing different engineering and technical sites. To assess vertical refraction influence on the results of geodetic measurements. Methods: The materials of authors, studying the problem in question were analyzed. RMS error formula of height determining by

means of vertical angulation was given and the analysis of each argument of the given formula was conducted. Results: The factors, influencing vertical angulation accuracy were characterized, recommendations of conducting operations on the improvement of vertical angulation accuracy were given. It was established in which external conditions vertical angulation should be conducted in order to improve the accuracy of geodetic measurements and at the same time reduce the influence of vertical refraction on measurements to the utmost. Practical importance: On the basis of the obtained dependencies of vertical refraction influence on the results of vertical angulation the most optimum conditions for conducting geodesic measurements in order to improve accuracy of the latter can be selected. The problem of vertical refraction influence when changing vertical angles was detected. The necessity of studying the influence of vertical refraction on variation of vertical angles and distance was demonstrated.

Keywords: Vertical refraction, vertical angulation, environmental effect.

В настоящее время в связи с применением при строительстве электронных тахеометров тригонометрическое нивелирование стало одним из самых распространенных видов работ по определению превышений и высотных отметок. В связи с этим необходимо выяснить, как влияет вертикальная рефракция на результаты геодезических измерений.

При тригонометрическом нивелировании следует учитывать преломление световых волн, проходящих слои атмосферы различной плотности. Искривление траектории распространения световых волн искажает данные угловых измерений. Основной составляющей пространственной рефракционной кривой является ее проекция на вертикальную плоскость, которую и называют вертикальной рефракцией [1-3].

В рефракционной ошибке можно выделить две составляющие - ко-роткопериодическую и регулярную. Короткопериодическая составляющая рефракции является следствием турбулентного движения воздуха, представляющего собой случайный процесс. В результате изображение цели колеблется или размывается. Ошибка визирования на случайно колеблющиеся изображения целей больше, чем при визировании на спокойные и четкие изображения, поэтому точность собственно измерения вертикальных углов несколько снижается. Понижение точности зависит от амплитуды колебания изображений и степени размытости, т. е. от интенсивности турбулентных процессов в атмосфере [2].

Регулярная составляющая рефракции не влияет на качество изображения и является следствием стационарных медленно изменяющихся процессов, приводящих к стратификации атмосферы [3].

В геодезической практике поправку за вертикальную рефракцию принято вычислять по формуле [3]

где - средний радиус Земли (6371 км); к - коэффициент рефракции; d -горизонтальное проложение; а - угол наклона.

Эта формула для вычисления поправки за вертикальную рефракцию включает в себя коэффициент к. Его принято называть коэффициентом рефракции (или коэффициентом земного преломления), который определяется как отношение радиуса Земли к радиусу кривизны луча, при допущении, что оптический луч имеет постоянный радиус кривизны (хотя в действительности не всегда так). Методы определения коэффициента рефракции подразделяют на инструментальные и расчетные. К первым относят дисперсионный, компенсационный и др.; ко вторым - методы, основанные на зависимости рефракции от метеорологических величин. Точность компенсационного метода невелика, а применение дисперсионного метода, несмотря на высокую инструментальную точность, в реальной атмосфере осложнено флуктуациями, обусловленными турбулентностью [4].

Метеорологический способ определения коэффициента рефракции основан на измерении температуры окружающего воздуха посредством датчиков, расположенных на разной высоте над землей. Выполнение градиентных измерений является сложной операцией, которая к тому же не позволяет адекватно оценить условия геодезических наблюдений, так как градиентные измерения температуры, выполненные в одной или двух точках трассы, не могут быть одинаковыми для всей трассы. Выполнение градиентных измерений рекомендуется лишь при реализации комплексного подхода учета влияния рефракции [5].

К основным внешним факторам, влияющим на величину рефракции, можно отнести следующие [4, 5]:

- структура и тип подстилающей поверхности;

- время года и суток;

- географическое положение района измерений;

- направление и скорость ветра;

- тип и балл облачности;

- наличие и вид осадков;

- турбулентные характеристики приземного слоя атмосферы.

Кроме того, величина рефракции зависит от высоты визирного луча над

подстилающей поверхностью, а также от его длины [6].

Из многочисленных исследований геодезического нивелирования на малые (до 400 м) расстояния [1-10] можно сделать следующие основные выводы:

- колебание коэффициента рефракции в течение дня достигает больших величин (от +3,0 до -4,4). Большую часть дня коэффициент отрицательный, а в течение 1-2 ч после восхода и до захода Солнца - положительный. При этом наибольших значений по абсолютной величине коэффициент

достигает при восходе и заходе Солнца, а также в близполуденный период (с 12 до 15 ч);

- ошибки измерения превышений, обусловленные рефракцией, больше в ясную и тихую погоду, а в облачную уменьшаются лишь на 10-20 % [8].

Е. К. Никольский [11] отмечает, что точность определения превышения в пасмурную погоду в 2 раза выше, чем в ясную или облачную. Амплитуда ошибок рефракционного происхождения за день может достигать 40". Рефракционные ошибки подвержены резким изменениям в течение дня. Кроме того, изо дня в день происходят колебания, вызванные различными погодными условиями [12];

- при двустороннем нивелировании и нивелировании из середины влияние рефракции в основном компенсируется. Ошибки, вызванные остаточным влиянием рефракции, в этом случае носят случайный характер, и они тем меньше, чем ближе моменты наблюдения в прямом и обратном направлениях (или на заднюю и переднюю цели) [7];

- геодезическое нивелирование можно производить в течение всего дня, исключая часы, когда изображение визирной марки сильно колеблется и расплывчато, а также в течение 1-1,5 ч после восхода и до захода Солнца [7];

- увеличение высоты визирной марки и прибора над почвой, а также более высокое прохождение визирного луча позволяют уменьшить ошибки за рефракцию. Увеличение высоты прибора с высоты 1,5 до 3,0 м, по мнению автора [7], позволило снизить ошибки за рефракцию на 20-30 %.

В работе [13] исследуется точность тригонометрического нивелирования для длин линий до 3 км. Установлено, что для расстояний до 1 км и при прохождении визирного луча менее 2,0 м над землей ошибка измерения угла по данным дневных измерений больше в 10 раз, чем ошибка, вычисленная по данным отдельной серии измерений. Это значит, что рефракционная ошибка для таких условий непостоянна и изменяется в течение дня в больших пределах. Для высоты визирного луча менее 2,0 м коэффициент рефракции наблюдался отрицательным, независимо от часа и дня, и большой по абсолютной величине (в среднем до -2,55). При средней высоте визирного луча (от 2 до 5 м) ошибка измерения угла наклона по данным дневных наблюдений лишь в 3 раза больше ошибки измерения угла в серии. Коэффициент рефракции - отрицательный, но меньше по абсолютной величине (в среднем -0,72) и возрастает до 12-14 ч, а затем убывает. При высоте луча более 5 м коэффициент рефракции оказывается во всех случаях величиной положительной и мало изменяется в течение дня. Коэффициент составляет в среднем 0,18-0,33, но не исключены значения до 0,70 [13]. В то же время в работе [11] указывается, что устойчивое появление положительных коэффициентов рефракции наблюдается при эквивалентной высоте визирного луча свыше 9-13 м.

В статье [14] представлены результаты экспериментальных определений коэффициента рефракции в течение дня на высоте 1,8 м над травой.

В исследованиях применялись одновременные двухсторонние наблюдения с использованием двух (и даже трех) пар тахеометров с автоматической системой наведения на цель. Измерения выполнялись на профиле длиной 800 м с дискретностью 1' (30" на один полуприем), что позволило установить, как изменялся коэффициент рефракции за короткий промежуток времени.

По данным исследований с 9 до 17 ч коэффициент рефракции отрицательный и может в солнечную погоду достигать значений -4,0. За 2,5 ч до заката Солнца коэффициент начинает постепенно увеличиваться и достигает критических значений до +16,0 во время заката, что соответствует температурному градиенту +2 К/м. В пасмурные дни коэффициент в основном находится в пределах от 0 до -2,0 и становится положительным в вечерние часы. Таким образом, из статьи [14] следует, что летом, в солнечную погоду, коэффициент рефракции в течение дня может изменяться от -4,0 до +16,0, в пасмурную погоду - от -2,0 до +5,0. При этом за короткий промежуток времени (10-30 мин) флуктуации коэффициента рефракции могут достигать амплитуды 1-1,5 в солнечные дни и 0,5 в облачную погоду. Если исключить не рекомендуемые для измерений периоды времени, близкие к восходу и заходу Солнца, то можно считать, что измеренные днем превышения в большинстве случаев меньше истинных.

В статье [14] приведены результаты определений коэффициентов рефракции в городской местности для длин сторон 400 и 600 м. Показано, что при экстремальных отрицательных вертикальных температурных градиентах появляется асимметрия в действии рефракции. Вместе с тем ошибки в превышениях, обусловленные рефракцией, при расстояниях до 500 м не превысили 5,0 мм.

На основании выполненного анализа влияния вертикальной рефракции при проведении тригонометрического нивелирования короткими лучами в приземном слое атмосферы можно сделать следующие выводы:

1) по возможности делать высоту визирного луча над подстилающей поверхностью как можно больше, путем повышения высоты инструмента, визированием на высокие цели и грамотным проектированием ходов;

2) считать благоприятным временем измерений в течение дня периоды с отчетливыми изображениями, исключая 2 ч после восхода и перед заходом Солнца;

3) считать благоприятными условиями для наблюдений периоды сплошной облачности, пасмурную погоду, а также легкий ветер;

4) недостаточно полно исследовано влияние вертикальной рефракции на результаты тригонометрического нивелирования при различных углах наклона и на расстояниях от 50 до 400 м, как наиболее широко используемых на строительной площадке.

Библиографический список

1. Маслич Д. И. Некоторые общие закономерности влияния вертикальной рефракции на точность геодезического нивелирования / Д. И. Маслич // Геодезия, картография и аэрофотосъемка. - 1969. - № 9. - С. 33-41.

2. Беспалов Ю. И. Лазерные маркшейдерско-геодезические измерения в строительстве / Ю. И. Беспалов, Т. Ю. Терещенко. - СПб. : СПбГАСУ, 2010. - 227 с.

3. Пискунов М. Е. Методика геодезических наблюдений за деформациями сооружений / М. Е. Пискунов. - М. : Недра, 1980. - 248 с.

4. Алексеев А. В. Оптическая рефракция в земной атмосфере (горизонтальные трассы) / А. В. Алексеев, М. В. Кабанов, И. Ф. Куштин. - Новосибирск : Наука, 1982. -159 с.

5. Вшивкова О. В. Учет влияния атмосферы в электронной тахеометрии с использованием геодезического градиентометра / О. В. Вшивкова // Изв. вузов. Геодезия и аэрофотосъемка. - 2010. - № 3. - С. 3-9.

6. Изотов А. А. Исследование земной рефракции и методов геодезического нивелирования / А. А. Изотов, Л. П. Пеллинен. - М. : Геодезиздат, 1955. - 176 с. - (Труды ЦНИИГАиК. Вып. 102).

7. Дрок М. К. Исследование точности определения превышений в ходах геодезического нивелирования на короткие расстояния в равнинной местности / М. К. Дрок // Науч. зап. Львовск. политех. ин-та. - Сер. геодезическая. - 1961. - № 6. - С. 183-199.

8. Дрок М. К. К вопросу о поправке в превышения за совместное влияние кривизны Земли и вертикальной рефракции при геодезическом нивелировании на малые расстояния / М. К. Дрок // Науч. зап. Львовск. политех. ин-та. - Сер. геодезическая. - 1962. -Вып. 82, № 7. - С. 3-30.

9. Никонов А. В. Исследование влияния вертикальной рефракции на результаты тригонометрического нивелирования короткими лучами способом из середины / А. В. Никонов // Изв. вузов. Геодезия и аэрофотосъемка. - 2014. - № 1. - С. 28-34.

10. Островский А. Л. Достижения и задачи рефрактометрии / А. Л. Островский // Геопрофи. - 2008. - № 1. - С. 6-15.

11. Никольский Е. К. Вопросы совершенствования высотного и планового обоснования топографических съемок : автореф. дис. ... канд. техн. наук / Е. К. Никольский. - М. : МИГАиК, 1967. - 35 с.

12. Дрок М. К. Исследование влияния вертикальной рефракции при геодезическом нивелировании на малые расстояния : автореф. дис. ... канд. техн. наук / М. К. Дрок. -Львов : Львовск. политех. ин-т, 1965. - 26 с.

13. Вълчинов В. Г. Точност на тригонометричната нивелация в триангулачни мрежи с местно и специально предназначение : автореф. дис. ... канд. техн. наук / В. Г. Вълчинов. -София : Софийск. политех. ин-т, 1985. - 34 с.

14. Hirt C. Monitoring of the refraction coefficient of the lower atmosphère using a controlled set-up of simultaneous reciprocal vertical angle measurements / C. Hirt, S. Guillaume, A. Wisbar, B. Burki, H. Sternberg // Journal of Geophysical Research. - 2010. - Vol. 115. -P. D21102. - D0I:10.1029/2010JD014067

References

1. Maslich D. I. Nekotoriye obshchiye zakonomernosty vliyaniya vertikalnoy refraktsii na tochnost geodezicheskogo nivelirovaniya [Some common influence patterns of vertical refraction on geodetic levelling accuracy]. Geodeziya, kartografiya i aerofotosyemka [Geodesy, cartography and aerophotography], 1969, no. 9, pp. 33-41.

2. Bespalov Y. I. & Tereshchenko T. Y. Lazerniye marksheidersko-geodezicheskiye izme-reniya v stroitelstve [Laser survey geodetic measurements in construction]. Saint Petersburg, Saint Petersburg State University of Architecture and Civil Engineering Publ., 2010, 227 p.

3. Piskunov M. E. Metodika geodezicheskykh nablyudeniy za deformatsiyamy sooru-zheniy [Theprocedure of geodetic observations over construction deformations]. Moscow, Nedra Publ., 1980, 248 p.

4. Alekseyev A. V., Kabanov M. V. & Kushtyn I. F. Opticheskaya refraktsiya v zemnoy atmosphere

5. Vshivkova O. V. Uchet vliyaniya atmosfery v elektronnoy takheometrii s ispolzova-niyem geodezicheskogo gradientometra [Atmosferic effect in electronic tachymetry with the use of geodesic grading instrument]. Izvestia vuzov. Geodeziya i aerofotosyemka [News of Higher Educational Institutions. Geodesy and aerophotography], 2010, no. 3, pp. 3-9.

6. Izotov A. A. & Pellinen L. P. Issledovaniye zemnoy refraktsii i metodov geodezicheskogo nivelirovaniya [The study of earth refraction and the methods of geodetic levelling]. Proceedings of Central Scientific Research Institute of Geodesy, Air Surveying and Cartography. Issue 102. Moscow, Geodezizdat Publ., 1955, 176 p.

7. Drok M. K. Issledovaniye tochnosty opredeleniya prevysheniy v khodakh geode-zicheskogo nivelirovaniya na korotkiye rasstoyaniya v ravninnoy mestnosty [The study of height determination accuracy in geodetic levelling lines at short distances on flat terrain]. Proceedings of Lvov Polytechnic Institute. Geodesy Ser., 1961, no. 6, pp. 183-199.

8. Drok M. K. K voprosu o popravke v prevysheniya za sovmestnoye vliyaniye krivizny Zemly i vertikalnoy refraktsii pry geodezicheskom nivelirovanii na maliye rasstoyaniya [On heights correction for combined influence of curvature of earth and vertical refraction in the process of close-range geodetic levelling]. Proceedings of Lvov Polytechnic Institute. Geodesy Ser., 1962, vol. 82, no. 7, pp. 3-30.

9. Nikonov A. V. Issledovaniye vliyaniya vertikalnoy refraktsii na rezultaty trigonomet-richeskogo nivelirovaniya korotkymy luchamy sposobom iz serediny [The study of vertical refraction influence on the results of short-ray trigonometric levelling by outward from the center method]. Izvestia vuzov. Geodeziya i aerofotosyemka [News of Higher Educational Institutions. Geodesy and aerophotography], 2014, no. 1, pp. 28-34.

10. Ostrovskiy A. L. Dostizheniya i zadachy refraktometrii [Achievements and tasks of refractometry]. Geoprofi, 2008, no. 1, pp. 6-15.

11. Nikolskiy E. K. Voprosy sovershenstvovaniya vysotnogo iplanovogo obosnovaniya topograficheskykh syemok [The issues of improving elevation and plan control of topographic mapping]: abstr. of a thesis ...Cand. Eng. Sci. Moscow, Moscow State University of Geodesy and Cartography Publ., 1967, 35 p.

12. Drok M. K. Issledovaniye vliyaniya vertikalnoy refraktsiipry geodezicheskom nive-lirovanii na maliye rasstoyaniya [The study of vertical refraction influence in case of short-range geodesic levelling]: abstr. of a thesis ...Cand. Eng. Sci. Lvov, Polytechnic Institute of Lvov Publ., 1965, 26 p.

13. Вълчинов В. Г. Точност на тригонометричната нивелация в триангулачни мрежи с местно и специально предназначение: Cand. Eng. Sci.: abstr. of a thesis. Sofia, Polytechnic Institute of Sofia Publ., 1985, 34 p.

14. Hirt C., Guillaume S., Wisbar A., Burki B. & Sternberg H. Monitoring of the refraction coefficient of the lower atmosphere using a con-trolled set-up of simultaneous reciprocal vertical angle measurements. Journal of Geophysical Research, 2010, vol. 115, pp. D21102. DOI:10.1029/2010JD014067

ЛОБАНОВА Юлия Васильевна - аспирант, lobanowa_@mail.ru