Sachverhalt:
A.
Die Staatsanwaltschaft Konstanz führt gegen E._, F._, G._ und H._ ein Strafverfahren wegen Verstoss gegen das Parteiengesetz, Untreue und weiterer Delikte. Gemäss den deutschen Behörden besteht zudem der Verdacht, A._ habe sich in diesem Zusammenhang der versuchten Strafvereitelung schuldig gemacht. Vor diesem Hintergrund gelangten die deutschen Behörden mit Rechtshilfeersuchen vom 27. Dezember 2018 und Ergänzung vom 1. Februar 2019 an die Schweiz und ersuchten um die Befragung von A._ und C._ als Zeugen in Anwesenheit zweier deutscher Polizeibeamter und um Bankermittlung betreffend Konten bei der Bank I._, lautend auf die D._ AG und die B._ GmbH.
Mit Eintretens- und Zwischenverfügung vom 14. März 2019 trat die Staatsanwaltschaft III des Kantons Zürich auf das Rechtshilfeersuchen ein und verpflichtete die Bank I._ zur Herausgabe der Kontounterlagen. Zudem ordnete sie die Einvernahme von A._ als Auskunftsperson an, wobei sie die Anwesenheit von deutschen Beamten mit der Auflage bewilligte, dass sich diese verpflichteten, die Erkenntnisse bis zum Abschluss des Rechtshilfeverfahrens nicht zu verwenden.
Mit Schlussverfügung Nr. 1 vom 27. November 2019 entsprach die Staatsanwaltschaft dem Rechtshilfeersuchen und verfügte die Herausgabe der Bankunterlagen und des Einvernahmeprotokolls.
Eine von A._, der B._ GmbH, C._ und der D._ AG dagegen erhobene Beschwerde wies das Bundesstrafgericht mit Entscheid vom 26. März 2020 ab, soweit es darauf eintrat.
B.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht vom 6. April 2020 beantragen A._, die B._ GmbH, C._ und die D._ AG im Wesentlichen, der Entscheid des Bundesstrafgerichts sei aufzuheben und die Rechtshilfe zu verweigern.
Es wurde kein Schriftenwechsel durchgeführt.

Erwägungen:
1.
1.1. Gemäss <ref-law> ist gegen einen Entscheid auf dem Gebiet der internationalen Rechtshilfe in Strafsachen die Beschwerde nur zulässig, wenn er unter anderem eine Übermittlung von Informationen aus dem Geheimbereich betrifft und es sich um einen besonders bedeutenden Fall handelt (Abs. 1).
Ein besonders bedeutender Fall liegt insbesondere vor, wenn Gründe für die Annahme bestehen, dass elementare Verfahrensgrundsätze verletzt worden sind oder das Verfahren im Ausland schwere Mängel aufweist (Abs. 2; <ref-ruling> E. 1 S. 104 ff. mit Hinweisen).
<ref-law> bezweckt die wirksame Begrenzung des Zugangs zum Bundesgericht im Bereich der internationalen Rechtshilfe in Strafsachen. Ein besonders bedeutender Fall ist deshalb mit Zurückhaltung anzunehmen. Dem Bundesgericht steht insofern ein weiter Ermessensspielraum zu (zum Ganzen: <ref-ruling> E. 1.2 S. 104 f. mit Hinweisen).
Gemäss <ref-law> ist in der Begründung der Rechtsschrift in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Ist eine Beschwerde nur unter der Voraussetzung zulässig, dass ein besonders bedeutender Fall nach Artikel 84 vorliegt, so ist auszuführen, warum diese Voraussetzung erfüllt ist (<ref-ruling> E. 1.5 S. 107 mit Hinweisen).
Erachtet das Bundesgericht eine Beschwerde auf dem Gebiet der internationalen Rechtshilfe in Strafsachen als unzulässig, so fällt es gemäss <ref-law> - abgesehen von einem hier nicht gegebenen Ausnahmefall - den Nichteintretensentscheid innert 15 Tagen seit Abschluss eines allfälligen Schriftenwechsels.
Nach <ref-law> entscheidet die Abteilung in Dreierbesetzung über Nichteintreten auf Beschwerden, bei denen kein besonders bedeutender Fall vorliegt (Abs. 1). Der Entscheid wird summarisch begründet. Es kann ganz oder teilweise auf den angefochtenen Entscheid verwiesen werden (Abs. 3).
1.2. Zwar geht es hier um die Übermittlung von Informationen aus dem Geheimbereich und damit um ein Sachgebiet, bei dem die Beschwerde nach <ref-law> insoweit möglich ist. Es handelt sich jedoch um keinen besonders bedeutenden Fall.
Die Beschwerdeführer machen im Wesentlichen geltend, es mangle an der Voraussetzung der beidseitigen Strafbarkeit. Begünstigung bedinge eine Vortat. Der Verstoss gegen das deutsche Parteiengesetz finde im Schweizer Strafrecht jedoch keine Entsprechung. Sie übersehen jedoch, dass das vom Straftatbestand der Begünstigung nach <ref-law> geschützte Rechtsgut das Funktionieren der Strafrechtspflege ist, unabhängig vom verfolgten Delikt (<ref-ruling> E. 4.2 S. 462; Urteil 1C_3/2017 vom 14. März 2017 E. 1.2.3; je mit Hinweisen). Das Bundesstrafgericht prüfte deshalb unter dem Gesichtswinkel der beidseitigen Strafbarkeit zu Recht, ob das Verhalten des Beschwerdeführers Nr. 1 bei einem in der Schweiz geführten Strafverfahren prima facie als Begünstigung qualifiziert werden könnte (vgl. auch Urteil 1A.223/1992 vom 29. März 1993 E. 5 zur Gewährung der Rechtshilfe wegen Bestechung eines fremden Amtsträgers in einer Zeit, als dies in der Schweiz noch nicht strafbar war). Es ist somit nicht zu beanstanden, wenn es den Einwand der Beschwerdeführer betreffend das deutsche Parteiengesetz nicht als massgeblich erachtete.
Der angefochtene Entscheid überzeugt in diesem Punkt. Rechtsfragen von grundsätzlicher Bedeutung stellen sich auch in anderer Hinsicht nicht. Dem Fall kommt keine aussergewöhnliche Tragweite zu.
2.
Auf die Beschwerde ist nicht einzutreten. Damit wird das Gesuch um aufschiebende Wirkung gegenstandslos. Der Beschwerde kommt im vorliegenden Fall ohnehin schon von Gesetzes wegen aufschiebende Wirkung zu (<ref-law>).
Bei diesem Ausgang des Verfahrens tragen die Beschwerdeführer die Gerichtskosten (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 2'000.-- werden den Beschwerdeführern auferlegt.
3.
Dieses Urteil wird den Beschwerdeführern, der Staatsanwaltschaft III des Kantons Zürich, dem Bundesstrafgericht, Beschwerdekammer, und dem Bundesamt für Justiz, Fachbereich Rechtshilfe, schriftlich mitgeteilt.
Lausanne, 14. April 2020
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Chaix
Der Gerichtsschreiber: Dold