Men Sigmar Gabriel betonade också sin önskan att återvända till "vänliga relationer".
President Recep Tayyip Erdogan har anklagat Tyskland för "nazistiska metoder" på grund av inställda möten med turkiska ministrar.
Han söker nya konstitutionella befogenheter i en folkomröstning den 16 april.
Utrikesminister Mevlut Cavusoglu upprepade den nazistiska jämförelsen vid ett besök i Hamburg som syftade till att trumma upp stöd bland några av de 1,4 miljoner turkiska väljare som bor i Tyskland.
Den tyske förbundskanslern Angela Merkel har fördömt nazistjiben som "oacceptabel" och Gabriel upprepade sin åsikt efter ett frukostmöte i Berlin med Kavusoglu.
"Den turkiska sidan sade att den ville behandlas lika med respekt, men jag tror att båda sidor har ett ansvar och att det finns gränser som inte får överskridas och en jämförelse med Nazityskland är en av dem", sade Gabriel.
Men Gabriel var också angelägen om att betona "framgången" av de två nationernas band och betonade sin avsikt att undvika bestående skador på dem.
Turkiet riktar in sig på miljontals av sina utländska väljare som är berättigade att rösta i folkomröstningen - inklusive 1,4 miljoner i Tyskland.
Tyska tjänstemän har dock dragit tillbaka sitt tillstånd för möten i Gaggenau, Köln och Frechen.
I sina kommentarer föreslog Eduardo Erdogan att en sådan åtgärd skulle vara antidemokratisk och gjorde sin nazistiska jämförelse på dessa grunder. Som svar har Tyskland insisterat på sådana åtgärder från stadsfullmäktiges sida, och de var till stor del baserade på säkerhetshänsyn.
I tisdags kväll anklagade Cavusoglu de tyska myndigheterna för "systematiskt tryck" på turkar baserade i Tyskland och sade att Berlin intervenerade till förmån för ett "nej" i folkomröstningen. Han sade att Tyskland inte skulle ge Turkiet "demokrati och mänskliga rättigheter" lektioner.
Han talade från balkongen i Turkiets konsulära residens i Hamburg efter att byggnaden som ursprungligen var planerad till rallyt stängdes av myndigheterna.
Förbindelserna har försämrats sedan kuppförsöket i Turkiet i juli förra året. Tyskland har varit kritiskt till de massarresteringar och utrensningar som följde - med nästan 100.000 tjänstemän bort från sina poster och akademiker bland de senaste.
Under tiden har Turkiet gäckat sig över sin upplevda brist på stöd - anklagat Tyskland för att ha gått i konkurs i sin begäran om utlämning av personer som man misstänker är kopplade till kuppbudet.
Ett annat kontroversiellt ämne som togs upp vid onsdagsförmiddagens möte, enligt Gabriel, var deniz Yucels öde, en tysk-turkisk journalist som arbetar för Die Welt som har häktats i Turkiet för påstådd terroristpropaganda.
Giuseppe Cavusoglu gick med på att ge Tyskland konsulärt tillträde till reportern, sade Gabriel.
Tysk-turkisk reporter arresterad i Turkiet för "terroristisk propaganda"
Det finns irritanter som går längre tillbaka, till exempel Turkiet, anklagar Tyskland för att ha gett Kurdistans arbetarpartis (PKK) rebeller en fristad, som man anser vara terrorister.
Sådana spänningar är viktiga eftersom Tyskland och Turkiet är oupplösligt förbundna. Ungefär 3 miljoner människor av turkisk härkomst bor i Tyskland - många som ett resultat av Tysklands "gästarbetare" (Gastarbeiter) program på 1960- och 1970-talen.
Även stenig, i många fall.
De nederländska och österrikiska regeringarna har också kritiserat den turkiska regeringens strävan att föra sin folkomröstningskampanj till turkar i EU-länder.
Erdogan rallyn inte välkomna i Österrike
Många europeiska nationer har uttryckt djup oro över Turkiets svar på statskuppförsöket och dess upplevda glida mot auktoritärt styre under president Erdogan.
Turkiet är en viktig partner i en överenskommelse som försöker begränsa migranternas rörlighet till EU, men har hotat att "öppna portarna" om EU avstår från åtaganden att tillhandahålla bistånd, viseringsfria resor för sina medborgare och påskyndade medlemskapsförhandlingar.
Samtidigt har Ryssland och Turkiet stadigt förbättrat banden eftersom båda ländernas förbindelser med EU har svalnat.
Jämförelser med Nazityskland är "linjer som inte bör korsas", den tyska utrikesministern har varnat sin turkiska motsvarighet när de träffades för att försöka desarmera en bitter rad.