De "U-3" was voornamelijk als opleidingsschip in gebruik, maar voer tijdens de Tweede Wereldoorlog vijf oorlogspatrouilles. Tijdens deze patrouilles, onder commando van Joachim Schepke, werden door de "U-"3 twee schepen tot zinken gebracht met een totale waterverplaatsing van 2.348 ton. In april 1940 nam de "U-3" als onderdeel van onderzeebootgroep 8 deel aan de invasie van Noorwegen, Operatie Weserübung. Ander onderzeeboten die ingedeeld waren bij deze groep waren de "U-2", "U-5" en "U-6".