革命思想，策应国民革命军北伐。1927年，北京政府将烟台海军学校学员迁至福建马尾海校学习，林遵于1928年于该校毕业。
英德留学.毕业后，林遵被分配到南京鱼雷枪炮训练班当见习生。1930年，国民政府派遣赴英国海军留学生，林遵与邓兆祥等一同前往英国学习海军技术，进入格林威治海军大学学习。1934年毕业回国，在宁海舰、海容舰当枪炮员。后被调到福州马尾学校当队长，带学员兵。1936年调任自强舰副舰长。由于林遵是福建人，又是马尾海校毕业，加上天资聪颖，得到了时任海军部长陈绍宽赏识。1937