Familiennachzug, hat sich ergeben: A.- I.T._, geboren 1959, ist mazedonischer Staatsangehöriger. Nachdem er von 1986 bis 1990 als Saisonnier in der Schweiz tätig gewesen war, erhielt er am 2. Juli 1990 eine Jahresaufenthaltsbewilligung und am 2. Juni 1997 die Niederlassungsbewilligung für den Kanton Zürich. Am 7. August 1992 heiratete I.T._ in Schlie- ren die ebenfalls aus Mazedonien stammende S.P._ (geb. 1962), die darauf eine Aufenthaltsbewilligung zum Verbleib beim Ehemann erhielt. Im September 1997 reiste M.P._ (geb. 1983), die Tochter von S.P._, in die Schweiz ein und erhielt eine Aufenthaltsbewilligung zum Verbleib bei ihrer Mutter. Im September 1999 wurde C._ geboren, der gemeinsame Sohn der Eheleute T._, der in die Niederlassungsbewilligung seines Vaters mit einbezogen wurde. B.- I.T._ hat zwei weitere Söhne, die nach eigenen Angaben ausserehelichen Beziehungen entstammen, nämlich A.T._ (geb. 1984) und B.T._ (geb. 1988). Beide sind bei ihren Grosseltern väterlicherseits in Skopje/Mazedonien aufgewachsen, bei denen sie auch heute noch wohnen. Am 17. August 1992 ersuchte I.T._ bei der Fremdenpolizei des Kantons Zürich um eine Einreisebewilligung für A.T._ und B.T._. Das Gesuch wurde in der Folge "formlos abgeschrieben", weil I.T._ es unterliess, den von ihm verlangten amtlichen Nachweis einzureichen, dass ihm das Sorgerecht über seine beiden Söhne zusteht. Am 28. März 2000 stellte I.T._ erneut ein Gesuch um Familiennachzug für A.T._ und B.T._, das von der Direktion für Soziales und Sicherheit des Kantons Zürich, Fremdenpolizei, am 3. Juli 2000 abgewiesen wurde. Den hiergegen erhobenen Rekurs wies der Regierungsrat des Kantons Zürich am 29. November 2000 ab, was das Verwaltungsgericht des Kantons Zürich auf Beschwerde hin schützte (Entscheid vom 21. März 2001). C.- Am 3. Mai 2001 haben A.T._, B.T._ und I.T._ Verwaltungsgerichtsbeschwerde beim Bundesgericht eingereicht mit dem Antrag, den Entscheid des Verwaltungsgerichts des Kantons Zürich aufzuheben und die Gesuche um Familiennachzug für A.T._ und B.T._ gutzuheissen. Das Verwaltungsgericht des Kantons Zürich beantragt, die Beschwerde abzuweisen, soweit auf diese einzutreten sei; die Staatskanzlei des Kantons Zürich und das Bundesamt für Ausländerfragen schliessen auf Abweisung der Beschwerde.