Joachim Lows världsmästare gick vidare genom Mario Gomez straff efter 13 minuter.
Men Slovakien, som är i samma grupp som England och Wales i Frankrike, slog tillbaka genom Marek Hamsik, Michal Duris och Juraj Kucka i Augsburg.
Spelet spelades i kraftigt regn med oro matchen kan överges.
Tyskland, som är i samma grupp som Nordirland i Euro 2016, måste slutföra sin 23-mannatrupp vid midnatt på tisdagen.
På andra håll fortsatte Euro 2012-vinnarna Spanien sina förberedelser för att försvara sin titel med en seger på 3-1 mot Bosnien-Hercegovina i Schweiz.
Celta Vigo framåt Nolito gjorde öppningen två mål för Vicente del Bosque sida.
Chelsea mittfälter Pedro lade till en sent tredje efter Emir Spahic, som senare skickades iväg, hade minskat underskottet för Bosnien.
Spanien debuterade till höger för Arsenal's Hector Bellerin.
Southamptons Graziano Pelle gjorde det enda målet när Italien slog Skottland 1-0 på Malta, medan Portugal - som möter England på Wembley på torsdag - var 3-0 vinnare hemma i Norge.
Tyskland drabbades av ett tredje nederlag i fyra matcher som de slogs 3-1 av Slovakien i den sista matchen innan deras Euro 2016 truppen är klar.