Джоэл придумал эту песню в канун своего сорокалетия. Музыкант находился в студии звукозаписи, где встретил 21-летнего друга Шона Леннона, который посетовал во время их разговора, что «Это время — ужасно для двадцатилетних!», на что Джоэл ответил: «Да, я помню, когда мне было 21 — я тоже думал, что это ужасные времена, мы [США] воевали во Вьетнаме, начались проблемы с наркотиками, и гражданскими правами, и всё вокруг казалось ужасным». Леннон воскликнул: «Да, да, да, но для тебя всё было по-другому. Ты был ребёнком в пятидесятых, и все знают, что в пятидесятых ничего не происходило». Музыкант парировал — «Погоди-ка, разве ты не слышал о Корейской войне или кризисе вокруг Суэцкого канала?». Впоследствии Джоэл говорил, что эти инциденты мировой истории XX века и легли в основу песни. Также Джоэл критиковал эту песню по чисто музыкальным соображениям. В 1993 году, во время беседы с режиссёром-документалистом Дэвидом Хорном, музыкант неблагоприятно сравнил его мелодическое содержание в пользу своей же песни «The Longest Time»: «Возьмите такую песню, как „We Didn’t Start the Fire“. По правде говоря, это не очень хорошая песня … Если взять мелодию саму по себе, то она ужасна. Словно сверло дантиста».