Sachverhalt:
A. Gestützt auf ein rechtskräftiges Urteil des Landgerichtes Mannheim vom 16. März 2007 ersuchte das Justizministerium Baden-Württemberg die schweizerischen Behörden am 23. März 2009 um Auslieferung von X._ zur Vollstreckung der ausgefällten Freiheitsstrafe von zwei Jahren und sechs Monaten wegen Vermögens- und Insolvenzdelikten. Gestützt auf den Auslieferungshaftbefehl des Bundesamtes für Justiz (BJ) vom 4. Mai 2009 wurde der Verfolgte am 14. Mai 2009 in provisorische Auslieferungshaft versetzt. Nach Eingang einer Kaution von Fr. 800'000.-- und gegen weitere Ersatzmassnahmen (Ausweissperre, polizeiliche Meldepflicht) verfügte das BJ am 2. Juni 2009 die provisorische Haftentlassung des Verfolgten.
B. Mit Verfügung vom 24. September 2009 bewilligte das BJ die Auslieferung des Verfolgten an Deutschland. Eine von diesem dagegen erhobene Beschwerde wies das Bundesstrafgericht, II. Beschwerdekammer, mit Entscheid vom 8. April 2010 ab.
C. Gegen den Entscheid des Bundesstrafgerichtes vom 8. April 2010 gelangte X._ mit Beschwerde vom 22. April 2010 an das Bundesgericht. Er beantragt zur Hauptsache die Aufhebung des angefochtenen Entscheides und die Abweisung des Auslieferungsersuchens.
Das BJ beantragt, auf die Beschwerde sei (mangels besonders bedeutenden Falles) nicht einzutreten. Das Bundesstrafgericht hat auf Stellungnahme verzichtet. Der Beschwerdeführer replizierte am 17. Mai 2010.
D. Gestützt auf den Auslieferungshaftbefehl vom 4. Mai 2009 liess das BJ den Verfolgten am 15. April 2010 erneut in Auslieferungshaft versetzen. Eine von diesem dagegen erhobene Beschwerde wies das Bundesstrafgericht, II. Beschwerdekammer, mit Entscheid vom 5. Mai 2010 ab. Dagegen reichte der Verfolgte am 17. Mai 2010 eine separate Beschwerde beim Bundesgericht ein (Verfahren 1C_261/2010).

Erwägungen:
1. Gemäss <ref-law> ist gegen einen Entscheid auf dem Gebiet der internationalen Rechtshilfe in Strafsachen die Beschwerde in öffentlich-rechtlichen Angelegenheiten nur zulässig, wenn er eine Auslieferung, eine Beschlagnahme, eine Herausgabe von Gegenständen oder Vermögenswerten oder eine Übermittlung von Informationen aus dem Geheimbereich betrifft und es sich um einen besonders bedeutenden Fall handelt (Abs. 1). Ein besonders bedeutender Fall liegt insbesondere vor, wenn Gründe für die Annahme bestehen, dass elementare Verfahrensgrundsätze verletzt worden sind oder das Verfahren im Ausland schwere Mängel aufweist (Abs. 2).
1.1 Zwar geht es im vorliegenden Fall um ein Auslieferungsersuchen und damit um ein Sachgebiet, bei dem die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach <ref-law> insoweit möglich wäre. Zu prüfen ist jedoch zusätzlich, ob es sich hier um einen besonders bedeutenden Fall handelt.
1.2 <ref-law> bezweckt die wirksame Begrenzung des Zugangs zum Bundesgericht im Bereich der internationalen Rechtshilfe in Strafsachen. Bei der Beantwortung der Frage, ob ein besonders bedeutender Fall gegeben ist, steht dem Bundesgericht ein weiter Ermessensspielraum zu (<ref-ruling> E. 1.3.1 S. 160 mit Hinweis; vgl. auch <ref-ruling> E. 1.4 S. 128 f.; 129 E. 1 S. 130; 131 E. 2-3 S. 131 f.; 132 E. 1 S. 133 f.; 215 E. 1.2 S. 217 f.; 271 E. 2.2.2 S. 274). Auch bei Auslieferungen kann ein besonders bedeutender Fall nur ausnahmsweise angenommen werden. In der Regel stellen sich namentlich keine Rechtsfragen, die einer Klärung durch das Bundesgericht bedürfen (<ref-ruling> E. 1.3.4 S. 161). Auch der Begriff des schweren Mangels des ausländischen Verfahrens ist restriktiv auszulegen (<ref-ruling> E. 3 S. 132; 271 E. 2.2.2 S. 274).
1.3 Nach <ref-law> entscheidet die Abteilung in Dreierbesetzung über Nichteintreten auf eine Beschwerde, wenn kein besonders bedeutender Fall vorliegt (Abs. 1). Der Entscheid wird summarisch begründet (Abs. 3; zum vereinfachten Verfahren nach Art. 109 i.V.m. Art. 84 und Art. 107 Abs. 3 BGG vgl. <ref-ruling> ff.).
2. Der Beschwerdeführer macht geltend, das in Deutschland gegen ihn durchgeführte Strafverfahren weise schwere Mängel im Sinne von <ref-law> auf. Es liege eine überlange Verfahrensdauer vor, welche bei der Strafzumessung (in Verletzung von Art. 6 Ziff. 1 EMRK) gar nicht (bzw. nicht korrekt) berücksichtigt worden sei.
Der Beschwerdeführer wurde wegen diversen Vermögens- und Insolvenzdelikten zu einer Freiheitsstrafe von zwei Jahren und sechs Monaten verurteilt. Es ist nicht die Aufgabe des Rechtshilferichters, das rechtskräftige Strafurteil, auf das sich das Auslieferungsersuchen stützt, bzw. das vom Sachrichter ausgefällte Strafmass, inhaltlich zu überprüfen. Wie die Vorinstanz im angefochtenen Entscheid vom 8. April 2010 darlegt, ist der Beschwerdeführer mit seinen Einwänden zur Strafzumessung bei den dafür zuständigen deutschen Rechtsmittelinstanzen gescheitert (vgl. angefochtener Entscheid, E. 3, S. 5-9). Aus den Vorbringen in der Beschwerdeschrift und den vorliegenden Akten ergeben sich keine Anhaltspunkte für schwere Mängel des in Deutschland durchgeführten Strafverfahrens.
3. Zur Begründung eines besonders bedeutenden Rechtshilfefalles bringt der Beschwerdeführer weiter vor, es stelle sich hier eine "rechtsstaatlich wichtige Grundsatzfrage", welche vom Bundesgericht bisher noch nie entschieden worden sei, nämlich die Frage, ob das Auslieferungsverfahren bis zum Vorliegen eines Entscheides des Europäischen Gerichtshofes für Menschenrechte (EGMR) zu sistieren sei.
Wie sich aus den Akten ergibt, hat der Beschwerdeführer gegen das Strafurteil des Landgerichtes Mannheim vom 16. März 2007 erfolglos verschiedene Rechtsmittel und Rechtsbehelfe erhoben. Dass er am 19. August 2009 auch noch eine Beschwerde gegen die Bundesrepublik Deutschland (wegen angeblicher Verletzung von Art. 6 Ziff. 1 EMRK) beim EGMR eingereicht habe, bildet offensichtlich kein Auslieferungshindernis (gemäss dem Europäischem Auslieferungsübereinkommen bzw. dem IRSG) und keinen Sistierungsgrund (vgl. dazu angefochtener Entscheid, E. 3-4). In diesem Zusammenhang sind keine wichtigen neuen Rechtsfragen zu beurteilen, welche den vorliegenden Rechtshilfefall als besonders bedeutend erscheinen liessen.
4. Sodann wird in der Beschwerde der Standpunkt vertreten, das Bundesstrafgericht habe elementare Verfahrensgrundsätze im Sinne von <ref-law> verletzt, indem es das Begründungsgebot und damit das rechtliche Gehör des Beschwerdeführers (<ref-law>) missachtet habe.
Das blosse Vorbringen eines Rechtsuchenden, die Behörden hätten sein rechtliches Gehör oder andere elementare Verfahrensgrundsätze verletzt, lässt einen Rechtshilfefall noch nicht als besonders bedeutend erscheinen. Für eine Verletzung der richterlichen Begründungspflicht bestehen im vorliegenden Fall auch keine Anhaltspunkte. Der Auffassung des Beschwerdeführers, die Vorinstanz habe sich mit seiner Argumentation - "namentlich bezüglich der Verletzung der EMRK - auf lediglich zwei Seiten nur ausserordentlich oberflächlich" auseinandergesetzt, kann nicht gefolgt werden (vgl. angefochtener Entscheid, E. 3, S. 5-9). Auch der Vorwurf, das Bundesstrafgericht habe den Eventualantrag des Beschwerdeführers auf Sistierung des Verfahrens (bis zum erwarteten Entscheid des EGMR) "ohne Begründung" abgelehnt, findet in den Akten keine Stütze (vgl. angefochtener Entscheid, E. 4, S. 9).
5. Schliesslich macht der Beschwerdeführer noch geltend, der vorliegende Fall sei als besonders bedeutend einzustufen, weil "sein guter Ruf sowie die berufliche wie die private Ehre und Glaubwürdigkeit auf dem Spiel" stünden und ein "unberechtigter Strafvollzug" drohe.
Auch dieser Argumentation ist nicht zu folgen. Im Auslieferungsverfahren ist lediglich zu prüfen, ob der ersuchenden Behörde Rechtshilfe für den Urteilsvollzug zu leisten ist. Die vom Beschwerdeführer befürchteten Nachteile sind Folgen seiner rechtskräftigen Verurteilung. Schwere Mängel des Strafverfahrens sind nicht ersichtlich. Da bei allen Auslieferungsersuchen zum Zwecke der Urteilsvollstreckung ein Strafvollzug droht, vermag auch dieser Umstand den vorliegenden Fall nicht als besonders bedeutend erscheinen zu lassen.
6. Nach dem Gesagten sind die Sachurteilsvoraussetzungen von <ref-law> nicht erfüllt.
Soweit die Beschwerde sich nicht nur gegen den Entscheid des Bundesstrafgerichtes vom 8. April 2010 richtet, sondern gegen frühere konnexe Verfügungen (Auslieferungshaftbefehl vom 4. Mai 2009 sowie Ersatzmassnahmenverfügungen vom 29. Mai bzw. 2. Juni 2009), erweist sie sich im Übrigen als offensichtlich unzulässig (vgl. Art. 86 Abs. 1 lit. b und Art. 100 Abs. 2 lit. b BGG).
Dem Sistierungsbegehren ist (mangels gesetzlichen Sistierungsgrundes) keine Folge zu leisten.
7. Auf die Beschwerde ist nicht einzutreten.
Dem Ausgang des Verfahrens entsprechend, sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Bundesamt für Justiz und dem Bundesstrafgericht, II. Beschwerdekammer, schriftlich mitgeteilt.
Lausanne, 25. Mai 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Forster