Historie Jílového se datuje od roku 1325, kdy zde Řád německých rytířů postavil hrad zvaný "Yladia", což prusky znamená „bažina.“ Osada se začala rozvíjet v okolí hradu po roce 1335, kdy byl postaven kostel. V roce 1348 bylo Řádem povoleno otevřít v okolí hradu hospody. Vyrostlo jich nakonec celkem 12. Osada ale i tak stále zůstávala spíš místem setkání představených řádu než fungující vesnicí. V roce 1400 uhodil do hradní věže blesk a hrad vyhořel. Byl ale velice rychle obnoven. Během třináctileté války oblehly hrad v roce 1455 jednotky Remschela von Krixena sloužícího pruským městům. Hrad ale nedobyly. Neúspěšní byli i Poláci v roce 1520, kteří ale zcela zničili přilehlou osadu. Městská práva získalo Jílové roku 1585. V letech 1709–1711 řádil v Jílovém mor, kterému podlehlo v městě a jeho okolí přes 2 200 lidí.