Harper wurde im NBA-Draft von 1983 als 11. Pick in der 1. Runde von den Dallas Mavericks gedraftet. Bei diesem Team verbrachte er dann die erste Dekade seiner sechzehn Saisons umfassenden NBA-Karriere und bildete in dieser Zeit mit seinem Teamkollegen, dem Shooting Guard Rolando Blackman, den Backcourt der Mavs. In der &lt;a href="NBA%201993/94"&gt;Saison 1993/94&lt;/a&gt; tradeten die Mavericks Derek Harper für Tony Campbell und einen zukünftigen 1. Runden-Draft-Pick zu den New York Knicks, wo er den für die Knicks startenden Point Guard Doc Rivers ersetzte, der aufgrund von Verletzungen für die Saison ausfiel. Durch diesen Wechsel gelang Harper über Nacht ein Karrieresprung, denn er wechselte von den zur damaligen Zeit unterdurchschnittlich spielenden Mavs zum Titelkandidaten der Saison, den Knicks. Die ihm dadurch gestellte Aufgabe meisterte er, unter Beibehaltung seiner guten Leistungen, wodurch es ihm gelang, die Knicks, zusammen mit dem Frontcourt, bestehend aus Center Patrick Ewing und Power Forward Charles Oakley, zu zwei Vizemeisterschaften 1994 und 1995 zu führen.