Hamilton er kjent for sin innsats innen geometri, der hans teori om den såkalte ricciflyten (engelsk: ) har vært banebrytende. Teorien har senere blitt videreutviklet av blant andre Grigorij Perelman og er en av byggstenene i det som av mange ledende matematikere anses å være beviset for den franske matematikeren Henri Poincarés såkalte Poincarés hypotese.