Rowling er datter av Peter James Rowling og Anne Rowling (født Volant) og ble født den 31. juli 1965 i Yate i Gloucestershire i England, som ligger ca. 16 kilometer nordøst for Bristol. Hennes søster Dianne (Di) ble født den 28. juni 1967. Familien flyttet til landsbyen Winterbourne i nærheten da Rowling var fire. J.K. Rowling gikk på St Michael's Primary School, som ble grunnlagt av abolisjonisten William Wilberforce og utdannelsesreformatoren Hannah More. Alfred Dunn, som var rektor da Rowling gikk på skolen, har blitt foreslått som en mulig inspirasjonskilde for Albus Humlesnurr, rektoren i Harry Potter-bøkene.