18位完成学业的同学被派往北洋水师实习，随舰队参加了甲午战争并目睹了北洋水师的全军覆没。此后，由于无军舰进行实习，张伯苓只好回到天津的家中等候派遣。1895年9月，张伯苓自北洋水师学堂航海科第五届毕业。同年冬，张伯苓娶天津宜兴埠安氏，但婚后五日，安氏因结核病去世。1896年春，奉父母之命，张伯苓续娶王淑贞，婚后不久即被派赴通济号练习舰服务。1898年，继日本之后，英国强租威海卫，清廷派大员乘通济舰赴山东办理接收及转让手续，张伯苓随该舰前往。该舰到达威海卫的第一天即降下日本国旗，升起大清的黄龙旗。第二天，又降