Internationale Rechtshilfe in Strafsachen an die Ukraine, hat sich ergeben: A.- Die Generalstaatsanwaltschaft der Ukraine führt seit 1997 ein Strafverfahren unter anderem gegen A.X._ wegen Bestechung, Amtsmissbrauchs und Veruntreuung in verschiedenen hohen Staatsämtern, einschliesslich des Amts des Premierministers der Ukraine, das A.X._ von Mai 1996 bis Juli 1997 inne hatte. In diesem Zusammenhang stellte sie seit 1997 zahlreiche Rechtshilfeersuchen an die Schweiz zwecks Übermittlung von Unterlagen über Konten und Depots bei Schweizer Banken, von Berichten über Besuche von A.X._ in der Schweiz und zwecks Befragung von Zeugen. Daraufhin wurde der Ukraine bereits mehrfach Rechtshilfe gewährt. So hat das Bundesgericht mit Urteil vom 24. Dezember 1999 eine Verwaltungsgerichtsbeschwerde von A.X._ abgewiesen, die eine teilweise Schlussverfügung der Genfer Behörden vom 16. April 1999 betraf. Mit dieser wurde einem mehrmals ergänzten Rechtshilfeersuchen vom 13. Januar 1998 entsprochen, soweit es ein Konto von A.X._ bei der Schweizerischen Volksbank in Genf betraf. Gegenüber anderen Mitbeteiligten wurde demselben von den Genfer Behörden behandelten Rechtshilfeersuchen in Entscheiden des Bundesgerichts vom 25. Juni 1999 (teilweise in BGE 125 II 356 veröffentlicht) und vom 10. September 1999 i.S. M. entsprochen (vgl. auch BGE 125 II 238 betreffend die unaufgeforderte Übermittlung von Informationen im Verfahren gegen Mitbeteiligte). Am 6. März 1998 hat der Generalstaatsanwalt des Kantons Genf ein Strafverfahren wegen Verletzung von Art. 305bis und 305ter StGB wegen der in den Rechtshilfeersuchen erwähnten Vorgänge in Genf eröffnet. Daraufhin wurde A.X._ am 2. Dezember 1998 bei der Einreise in die Schweiz verhaftet und in Genf in Untersuchungshaft versetzt. Nach seiner Freilassung gegen Kaution wurde er am 19. Dezember 1999 in die Ukraine ausgeschafft. Mit inzwischen rechtskräftigem Urteil vom 28. Juni 2000 hat ihn das Polizeigericht Genf auf Grund von Vortaten in der Ukraine, die er anerkannte, wegen Geldwäscherei zu einer bedingten Gefängnisstrafe von 18 Monaten verurteilt. Nachdem das ukrainische Parlament seinem Mitglied A.X._ im Februar 1999 die Immunität entzogen hatte, floh dieser in die USA. Dort war er zuerst zwecks Auslieferung in die Schweiz inhaftiert und sitzt jetzt in Untersuchungshaft wegen des Vorwurfs der Geldwäscherei. Mit einer Eingabe vom 20. Juni 1999 stellte die Generalstaatsanwaltschaft der Ukraine ein "Gesamtrechtshilfeersuchen", das ihre früheren Ersuchen teilweise wiederholte. Das damalige Bundesamt für Polizeiwesen wies verschiedene Teile dieses Gesamtersuchens den Behörden des Kantons Zürich zur Behandlung zu. Mit Schlussverfügung vom 27. Januar 2000 ordnete die Bezirksanwaltschaft IV für den Kanton Zürich die Herausgabe verschiedener genau umschriebener Unterlagen von Konten von A.X._, der von ihm beherrschten und inzwischen aufgelösten Y._ AG sowie seiner Frau B.X._ an. Ferner ordnete sie die Übermittlung von Unterlagen zu Hotelaufenthalten von A.X._, zu seiner Einvernahme vom 18. Dezember 1998 in Zürich sowie über Einkäufe von B.X._ an. Diese Verfügung erging in teilweiser Gutheissung des Gesamtrechtshilfeersuchens sowie früherer Ergänzungen vom 28. Oktober 1998, 15. und 29. Dezember 1998 und vom 11. Januar 1999. Mit zwei getrennten Eingaben reichten A.X._ und B.X._ Rekurs gegen die Schlussverfügung der Bezirksanwaltschaft ein. Mit Beschluss vom 29. Mai 2000 vereinigte das Obergericht des Kantons Zürich die beiden Verfahren. Es wies den Antrag ab, das Verfahren bis zu einem Entscheid des EGMR über eine Beschwerde von A.X._ gegen den Entscheid des Bundesgerichts vom 24. Dezember 1999 zu sistieren. Die Rekurse selbst wurden abgewiesen, soweit auf sie eingetreten werden konnte. Das Obergericht führte aus, es könne auf die Beschwerden eintreten, soweit sie nicht gegen die Fortsetzung von Rechtshilfehandlungen durch die Genfer Behörden gerichtet seien. Die Rechtshilfeersuchen und die zu übermittelnden Unterlagen würden die Rechtshilfe als berechtigt und verhältnismässig erscheinen lassen und zeigen, dass die Strafverfolgung in der Ukraine nicht politisch motiviert sei. Im Zusammenhang mit der Gefahr von Menschenrechtsverletzungen führte das Obergericht aus, das Bundesgericht habe in seinem Entscheid vom 24. Dezember 1999 rechtskräftig entschieden, dass der Rekurrent von der Menschenrechtssituation in der Ukraine nicht direkt betroffen sei, weil er sich in den USA aufhalte. Die Rekurrentin ihrerseits habe keine konkreten Menschenrechtsverletzungen ihr gegenüber behauptet oder konkrete Anhaltspunkte für künftige Verletzungen ihr gegenüber angeführt. Die Rechtshilfe könne daher gewährt werden, und zwar auch ohne die beantragten Auflagen. B.- A.X._ und B.X._ führen gegen den Beschluss des Obergerichts vom 29. Mai 2000 Verwaltungsgerichtsbeschwerde beim Bundesgericht. Sie stellen den Antrag, den Entscheid des Obergerichts aufzuheben und die Rechtshilfe zu verweigern. Eventualiter beantragen sie, die Rechtshilfe nur mit Auflagen im Zusammenhang mit der Einhaltung der EMRK im ukrainischen Verfahren zu gewähren. Zur Begründung ihrer Anträge berufen sie sich auf zahlreiche Berichte über Verletzungen der EMRK in der Ukraine und machen geltend, sie seien von diesen direkt betroffen. Ausserdem werfen sie dem Obergericht vor, es habe Art. 9 und 29 Abs. 2 BV verletzt, indem es erwogen habe, die Frage der Betroffenheit von A.X._ durch die Menschenrechtslage in der Ukraine sei vom Bundesgericht schon rechtskräftig entschieden worden. Die Bezirksanwaltschaft, die Staatsanwaltschaft und das Obergericht des Kantons Zürich verzichten auf eine Stellungnahme. Das Bundesamt für Justiz beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei.