У вересні 1914 року" U-21" став першим підводним човну, що потопив корабель за допомогою саморушної торпеди, коли знищив британський крейсер «Патфайндер» що базувався в Ферт-оф-Форт. Також човен потопив кілька транспортів в Ла-Манш і Ірландському морі того ж року, все відповідно до правила рейсера, що тоді діяв. На початку 1915 року "U-21" було переведено в Середземне море для підтримки Османської імперії проти англо-французьких загарбників під час кампанії Галліполі. Незабаром після його прибуття, човен потопив Британські лінкори HMS Triumph і HMS Majestic коли вони бомбили позиції Османської імперії в битві при Галліполі. Човен мав подальші перемоги на Середземному морі в 1916 році, включаючи потоплення французького броненосного крейсера "Amiral Charrner" в лютому.