Den tyske justitieministern Heiko Maas sade att åtgärderna skulle garantera att tysk lag tillämpades på nätet.
Sociala medier kan inte "bli en funfair för längst till höger", sade han.
Avtalet följer rapporter om en ökning av rasismen på nätet i Tyskland eftersom landet hanterar en tillströmning på upp till en miljon invandrare och flyktingar 2015.
Maas sade att klagomål om hatpropaganda skulle bedömas av "specialistgrupper" vid de tre företagen, som också skulle göra det lättare att rapportera sådana tjänster.
De skulle bedöma klagomål med hjälp av riktmärket i tysk lag "och inte längre bara villkoren för användning av varje nätverk", sade han.
"När gränserna för yttrandefriheten överträds, när det handlar om kriminella uttryck, uppvigling, anstiftan att utföra brott som hotar människor, måste sådant innehåll tas bort från nätet", sade Maas.
"Och vi är överens om att det i regel bör vara möjligt inom 24 timmar."
Tysklands officiella välkomnande av hundratusentals flyktingar - främst från Syrien, Irak och Afghanistan - har utlöst en motreaktion från nationalister, däribland nynazister.
Maas och andra kritiker har tidigare anklagat Facebook för att agera omedelbart för att ta bort nakenhet från användarnas sidor, samtidigt som de tillåter rasistiska och främlingsfientliga kommentarer att förbli online.
Facebook har sagt att det förlitar sig på sina användare att rapportera offensiva kommentarer som uppviglar hat.
Facebook, Google och Twitter har kommit överens om ett avtal med Tyskland där de kommer att ta bort hatpropaganda på sina webbplatser inom 24 timmar.