この文脈では、「by the way」を文頭にしても文の意味は変わりません。