不再科举，遂潜心于诗词、古文，把台湾历史与社会刻划于诗文中，发挥了不屈不挠的反殖民精神。杨云萍评洪：「近代学人之中，博闻笃学，抱朴守贞，俨然有古大师之风。」着有《寄鹤斋诗矕》、《寄鹤斋文矕》、《台湾战纪》、《中东战纪》等，着作甚丰，其〈鹿港乘桴记〉被选入台湾高中国文文言文教材。洪在世时，坚持衣发如旧。将原属满人的薙发留辫，作为其认同中华文化与反日的作法。后来虽遭日本警察强行剪去辫发，仍留下「我生跼蹐何不辰，垂老乃为断发民，披发欲向中华去，海天水黑波粼粼」、「长叹无天可避秦，中华远海总蒙尘，本为海岛埋头客