기하학사

초기 기하학

세계의 여러 고대 문명에서 농경과 건축을 위해 기하학을 사용하였다.  메소포타미아 시기의 신화인 길가메시 서사시는 우루크의 성벽이 구운 벽돌로 지어진 것임을 자랑한다. 고대 수학은 크게 보아 산술과 기하로 나눌 수 있으며 대략 기원전 5000년부터 기원전 3000년 사이에 고대 동양 일부 지역에서 공학과 농업 및 상업적인 업무와 종교 의식을 보조하기 위한 실용적인 학문으로 등장하였다. 오늘날 남아있는 고대 수학 연구 기록은 주로 바빌로니아의 설형문자 점토판과 고대 이집트의 파피루스 문서에서 확인된다. 반면에 고대 인도에서 사용한 나무껍질이나 고대 중국에서 사용한 죽편은 쉽게 썩기 때문에 기하학에 대해 남겨진 기록이 거의 없다. 고대 문명기의 수학은 경험에 근거한 일종의 레시피로서 시행 착오에 의해 유래되었다.

바빌로니아 수학

수메르 시기부터 메소포타미아 지역에서 발달한 바빌로니아 수학은 60진법에 기초를 둔 것이었다. 바빌로니아의 기수법은 1을 나타내는 '못 ' 모양의 문자와 10에 해당하는 '서까래' 모양의 문자를 조합하여 나타내었는데, 예를 들어 은 23을 뜻한다. 바빌로니아의 수학자들은 피타고라스의 정리를 알고 있었고, 이를 통하여 의 근사값을 계산하였다. 원주율은 3과 1/8, 즉 3.125로 계산하였다.

베다 시대 인도 수학

베다 시대인 기원전 700년 무렵 쓰인 샤타파타 브라마나(शतपथ ब्राह्मण, 일백 장의 제의서)에는 번제 의식을 위해 모양이 달라도 넓이가 같은 제단을 마련하는 방법이 적혀있다. 또한 술바 수트라에서는 제단의 마련을 위해 (3,4,5), (5,12,13)과 같이 당시 알려져 있던 피타고라스의 수를 언급하고 있다.

구장산술

《구장산술》은 기원후 179년 처음 발간 된 중국의 수학서로 최초의 저자는 알려져 있지 않다. 삼국시대 위나라의 유휘가 263년에 주석을 써서 정본(定本)이 되었는데, 그의 서문에 의하면 전한의 학자가 진나라 때의 유문을 모아서 편집한 것이라 한다. 당나라 때에는 이순풍(李淳風)의 주석이 더하여져, 관리의 교과서로 쓰인 산경십서 중의 하나로 채택되었다.
구장산술은 모두 아홉 개의 장으로 나뉘어 있는데, 도형의 넓이를 재는 방전(方田), 곡물 교역에서 환율을 계산하는 속미(粟米), 고저의 차이가 있는 봉록이나 조세의 비율 배분을 계산하는 쇠분(衰分), 제곱근의 계산과 원의 넓이를 다루는 소광(少廣), 토목공사의 공정과 부피를 계산하는 상공(商功), 운반거리의 멀고 가까움을 고려하여 비용을 동등하게 계산하는 복잡한 비율을 다루는 균수(均輸), 일차방정식의 해를 이용하여 남거나 모자람을 계산하는 영부족(盈不足), 양수와 음수가 섞여있는 연립일차방정식 계산을 위한 방정(方程), 피타고라스의 정리를 다루는 구고(勾股)로 이루어져 있다.
초기의 구장산술은 원주율의 근사값으로 3을 사용하는 것과 같이 부정확한 점이 있었으나, 유휘는 극한의 개념을 도입한 할원술(割圓術)을 도입하여 보다 정확한 원주율을 제시하였다. 가우스 소거법과 동일한 방식의 행렬 계산을 다루는 것과 같이 복잡한 계산도 다루고 있다. 특히 피타고라스의 정리를 다루는 구고(勾股)는 고대 중국의 기하학 지식 수준이 매우 높았다는 것을 보여준다.

이슬람 수학

9세기 바그다드에서 활동한 박학가 타비트 이븐 꾸라(아랍어:  ثابت بن قرة‎)는 수학에서도 여러 가지 업적을 남겼다. 그는 양의 실수를 도입하여 수의 영역을 확장하였고, 적분법의 개념을 발전시켰으며, 구면삼각법을 연구하였다. 특히 기하학과 관련하여 에우클레이데스의 평행선 공리에 대해 의문을 나타내고 비유클리드 기하학의 기초를 놓았다. 타비트의 저술은 라틴어로 번역되어 유럽 수학 발전에 큰 영향을 주었다. 구면삼각법에서는 유클리드의 공준과 달리 한 점을 지나는 평행선은 무수히 많게 되고 삼각형 내각의 합은 언제나 180°보다 크다.

해석기하학의 발전

해석기하학은 피에르 드 페르마와 르네 데카르트에 의해 수립되었다. 1629년 페르마는 해석기하학을 발명하였으며 아이디어를 짤막한 글로 설명하여 놓았는데, 그의 아이디어는 원고 상태로 1637년 초부터 돌아다녔지만 생전에 출간하지는 않았다. 데카르트는 페르마의 원고를 가지고 있었으며 《방법서설》의 부록으로 출판한 〈기하학〉에서 대수학을 사용하여 기하학 문제를 다루는 개념을 설명하였다. 페르마는 직교 좌표계를 고안하고 이를 이용하여 직선과 원의 일반적인 방정식과 포물선, 타원, 쌍곡선의 간단한 방정식을 구하였다. 뿐만 아니라 모든 일차 또는 이차방정식이 이러한 형태 중의 하나가 됨을 체계적이고 완전한 방법으로 보였다. 데카르트는 이러한 직교 좌표계를 널리 알리는 데 공헌하였고, 이 때문에 직교 좌표계는 데카르트의 이름을 따 카데시안 좌표계라고도 불리게 되었다.
페르마는 함수의 극한을 이용하여 그래프의 접선을 구하는 문제 역시 고찰하여 일반적인 풀이법을 발견하였다. 그러나 미적분학을 정립하고 완성시킨 것은 아이작 뉴턴과 고트프리트 빌헬름 라이프니츠였다. 둘은 각자 독립적인 방법으로 미적분학을 완성하였다. 뉴턴은 기하학을 바탕으로 순간적인 변화량을 구하는 방법을 발견하고 이를 유율법(영어: fluxion)이라고 불렀다. 뉴턴은 유율법을 곡선에 대한 접선과 곡률의 견지에서 파악하였다. 뉴턴은 1687년 《자연 철학의 수학적 원리》에 유율법을 발표하였다. 한편, 라이프니츠는 함수 f(x)에서 x가 무한히 작은 증분인 미분(영어: differential)의 변화량을 가질 때 f(x)의 변화량을 구하는 방법으로서 미분을 발견하였다. 라이프니츠는 1677년 무렵에는 미분의 계산방법과 표기법을 완성하였다. 오늘날에는 보다 수학적으로 효율적인 라이프니츠의 방법이 주로 쓰인다. 뉴턴과 라이프니츠는 미분의 발견 공로를 놓고 오랫동안 다투었으며 이로 인해 유럽의 수학계는 둘 중 누구를 지지하는 가를 놓고 심한 대립을 보이기도 하였다. 뉴턴과 라이프니츠는 서로 상대방이 자신의 아이디어를 훔쳤다고 비난하였다. 이러한 대립은 라이프니츠가 사망한 이후에도 계속되었다. 오늘날에는 뉴턴과 라이프니츠가 각자 독자적인 방법으로 미분을 발견했다고 본다.
1872년 펠릭스 클라인은 군론을 기하학에 적용시켰다. 클라인은 집합 S의 원소를 그 집합의 원소로 보내는 정칙변환의 개념에 근거하여, “기하학은 집합 S의 원소에 어떤 변환 군 Γ의 변환들을 시행시켰을 때 변치 않는 집합 S의 성질에 대한 연구”라고 정의하였다. 즉, 기하학은 좌표계 내에서 어떤 도형을 이동, 회전, 대칭, 확대 또는 축소와 같은 방법으로 변형시켜도 유지되는 그 도형이 갖는 고유의 성질을 연구하는 학문이란 뜻이다.

비유클리드 기하학의 출현

에우클레이데스 공리계 가운데 평행선 공리는 오래 전부터 논란의 대상이 되어왔다. 평행선 공리는 다른 공리들에 대해 독립적이며 다른 공리들로부터 유도되지도 않는다. 다른 공리로 부터 평행선 공리를 유도하려는 수 많은 시도가 있었으나 모두 실패하였고, 근대에 이르기까지 미해결 문제로 남아있었다. 1733년 지오바니 지롤라모 사케리는 《모든 오류로부터 해방된 유클리드》(라틴어: Euclides ab omninaevo vindicatus)를 출판하면서 평행선 공리를 받아들이지 않을 경우 이등변양직각사각형의 자명하지 않은 두 각(왼쪽 그림 참조)은 서로 크기가 같지만 그것이 반드시 직각이라고 말할 수 없다는 점을 발견하였다. 사케리는 열린 마음을 유지하면서 자명하지 않은 두 각이 직각이거나 예각 또는 둔각이 될 수 있다고 보았다. 사케리는 에우클레이데스의 평행선 공리를 지지하기 위해 예각이거나 둔각인 경우 모순이 생긴다는 점을 발견하고자 하였으나, 평행선 공리와 논리적으로 동치인 가정을 하지 않고는 이를 해결할 수 없었다.
19세기에 들어 세 명의 수학자가 이 문제를 해결할 수 있는 영감을 떠올렸다. 카를 프리드리히 가우스는 삼각형의 내각의 합이 180°보다 작을 경우에도 기하학의 다른 공리들이 여전히 유효하다는 것을 증명하였다. 가우스는 개인적인 편지에서 아래와 같이 밝혔다.
삼각형의 세 내각의 합이 180도보다 작다고 가정하니까 우리가 지금까지 알고 있는 기하학과는 전혀 다른 이상한 기하학이 생겼는데, 아무리 살펴 보아도 모순이라고는 전혀 찾아볼 수가 없어서 나는 아주 만족스럽네. …… 내 발견을 논문으로 발표하는 일은 내 생전에는 있지 않을 거야. 왜냐하면 내가 이것을 발표하면 아둔한 사람들이 얼마나 악을 쓰면서 덤비겠어. 그게 겁나네.
 — 가우스
1832년 보여이 야노시가 가우스와 동일한 발견을 하고 가우스에게 이를 알리자 가우스는 자신이 이미 30년 전에 동일한 결과를 발견했었다고 답신을 보낸다. 이 일로 보여이는 매우 큰 상심을 겪었다. 얼마 지나지 않아 보여이는 1829년 러시아의 수학자 니콜라이 로바쳅스키 역시 비유클리드 기하학의 해설서를 발표하였다는 것을 알게 된다. 한편 베른하르트 리만은 직선의 길이가 무한하다는 에우클레이데스의 두 번째 공리에 의문을 제기하고 유한한 길이를 가지면서 한계는 없는 직선을 도입하여 삼각형 내각의 합이 180°보다 큰 기하학 역시 가능하다는 것을 보였다.
오늘날 사케리, 가우스, 보여이, 리만은 비유클리드 기하학의 창시자로 인정 받고 있다.