丘成桐原籍廣東省梅州蕉嶺縣，廣東汕頭出世，有八個兄弟姊妹。之後全家移居香港。14歲時喺大學教哲學嘅阿爸過世，由阿媽獨力養大。中學時就讀香港培正中學，1966年入讀香港中文大學數學系。大學三年級時，跟stephensalaff去美國柏克萊加州大學深造，師從陳省身。