鎌倉時代末期、結城朝広の子の一人である祐広は白河を本拠として白河結城氏（白河氏、または白川氏）となる。元弘3年（1333年）に後醍醐天皇の皇子・護良親王による鎌倉幕府討伐の令旨が届けられると、祐広の子・宗広は鎌倉幕府に対して挙兵し、続いて後醍醐天皇の綸旨を受けて新田義貞の鎌倉攻めに参加し、鎌倉幕府滅亡後の建武の新政においては、宗広は前述のように結城氏惣領の地位と奥州各郡の検断職の地位を与えられ、宗広の子・親光が三木一草と称される1人となった。また、親光の兄・親朝は奥州府の一員となり陸奥守・北畠顕家と北畠親房父子を補佐する。足利尊氏が建武政権から離反し南北朝時代になると、下総結城氏が足利方に従ったのに対し、白河結城氏は南朝方に属した。親光は尊氏が九州から入京を果たした際に尊氏暗殺を試みて失敗して殺され、宗広は北畠親子に従い続けたが、家督問題を巡って宗広と溝があったとされる親朝は常陸国へ渡り関東地方における南朝勢力を確保しようとした親房の救援要請に対し距離をおき、興国3年/暦応5年（1342年）に足利方に従う。宗広の意向に反して白河結城氏の家督を掌握した親朝は宗広が獲得した結城氏惣領の地位を否認して、自己の本領白河の確保と周辺地域への勢力拡大を目指すことになる。以降の白河結城氏については白河結城氏の項目を参照。
江戸時代、17世紀中頃に当地を治めていた備中松山藩主・水谷勝隆が、新田の開発を行った。古くはこの一帯は吉備の穴海の西端に当たり、玉の浦、甕の海（もたいのうみ）、甕江（もたえ）などと呼ばれる海域であり、当時は干潟が広がる状況であった。工事にあたって地元の庄屋・大森次郎兵衛元直を登用し、1655年に着工した。明暦元年に水門を完成させ、汐留を終えた（第一次開発）。1659年（万治2年）に本土側だった長尾村から乙島まで至る広大な玉島新田が完成した。寛文4年に現在の矢出町から土手町（ともに当時は乙島の北岸）を経て阿弥陀島（現在、羽黒神社の鎮座する丘）までの新堤防を築いた。その後、阿弥陀島から現在の糸崎橋（当時は乙島の北岸）までの堤防が完成。さらにそれに伴い新水門を工事し、現在の通町・本町・団平町・矢出町などの町の礎となる町並・屋敷割りが誕生した（第二次開発）。この町は、現在の玉島南西部、玉島1-3丁目周辺に当たる。1668年（寛文8年）には検地が行われ、東部を上成村（現・倉敷市玉島上成）、北部を爪崎村（現在の同市同地域の長尾地区内爪崎・新倉敷駅前）とし、それぞれを枝村として分村した上で、残りの地区が玉島村（たましまそん）として成立した。名前の由来は諸説あり、干拓前の海域の古名「玉の浦」から取ったという説や、阿弥陀島を玉島と通称していたことに由来する説などがある。1671年（寛文11年）には水谷勝隆の子・水谷勝宗が玉島の西部に造成した阿賀崎新田と玉島を繋ぐ形で、羽黒山（阿弥陀島）から柏島北東までの堤防（新町堤防）が築かれた。これにより不要となった羽黒山から糸崎間の堤防内に西松山川（現・高梁川）と繋がる運河・高瀬通しを開削し、延宝年間の1673年から1681年までの時期を費やし完成した。この堤防は幅53メートルある大堤防で、堤防上に町屋敷割りが形成された。さらにこの堤防周辺に港（玉島港）が作られ、前述の堤防上には問屋街が生まれた。玉島港は、松山藩の藩港となり、松山城下町（現・高梁市中心部）と松山川（高梁川）と高瀬通し、あるいは玉島往来により繋がった。商港として周辺で栽培がさかんであった綿花の他、ニシンカスなどの取引で繁栄し、周辺は大きく発展。玉島村の港沿岸部（現在の玉島1-3丁目周辺）も大変栄え、現在の町並の基礎が生まれた。その後、玉島村は伊勢国亀山藩の飛び地として、松山藩と亀山藩の相給地となった（港に面した矢出・中島・土手・団平・常盤の各町と高瀬通し沿岸一帯、吉浦から古水門に至る地域が亀山藩領分）。また、松山藩領分であった区域は、一旦幕府領（倉敷支配所）となったあと、丹波国亀岡藩の飛び地となった。1876年（明治9年）に元玉島新田の浅口郡玉島村・上成村・爪崎村を合併し同郡玉島村となるが、1881年（明治14年）に再び元の3村に分離した。1889年（明治22年）、町村制施行にあたり同郡玉島村・上成村が合併し、新たな玉島村を新設、役場を旧玉島の港町東部へ置いた。1891年（明治24年）7月には山陽鉄道が笠岡まで延伸され、玉島駅（現・新倉敷駅）が設置されたが、当時の設置場所は玉島地域内ではなく、北隣する長尾村であった。1897年（明治30年）5月26日に西隣の同郡阿賀崎村と合併。町制を施行し玉島町（たましまちょう）となる。これにより、江戸時代の開港以来、玉島・阿賀崎2村に跨っていた玉島港およびその港町が一つの地域となった。後には同郡の柏崎村や乙島村などの周辺部を編集合併していき、町域を拡大、1952年（昭和27年）には市制を施行し玉島市（たましまし）となる。さらにその後も同郡富田村や黒崎村、長尾町、吉備郡穂井田村などを編入合併したが、1967年（昭和42年）に、旧倉敷市・児島市と合併し、新設の倉敷市（現行の倉敷市）となり、現在に至る。