2011年1月18日にデトロイト・タイガースと300万ドル+出来高300万ドルの1年契約を結んだ。打線の援護に恵まれ2年振り6度目の2桁勝利を記録したが内容は悪く、後半戦は防御率6.53、WHIP1.80であった。結局、防御率(5.30)、WHIP(1.56)、奪三振率(3.67)、K/BB(1.19)、被打率(.306)、空振り率(11.7%)、被WH率（データ会社が集計した項目で、投球を芯で捕らえられた率）など多数の項目で両リーグワーストであった。シーズン後の10月30日にFAとなったが、獲得を示すMLB球団は無かった。
2009年12月8日にセントルイス・カージナルスと750万ドル+出来高150万ドルの1年契約を結んだ。2010年はカージナルスの先発ローテーション3番手としてのシーズン開幕を迎える。しかし5月21日のエンゼルス戦、3回裏に打席に立ったペニーはジョエル・ピネイロから満塁本塁打を放ったが、その直後の投球練習中に右広背筋の張りを訴え、4回表のマウンドに立つことなく途中交代。その後故障者リスト入りし、復帰できないままシーズンを終えることとなった。オフの11月1日にFAとなった。
2009年8月31日にサンフランシスコ・ジャイアンツとマイナー契約を結んだ。9月2日のフィリーズ戦で移籍後初登板し、シーズン終了まで6試合に先発して4勝1敗・防御率2.59と好投した。しかしチームは9月の1か月間を13勝14敗と負け越し、ワイルドカードを争っていたロッキーズに差をつけられてポストシーズン進出を逃した。オフの11月5日にFAとなった。
2009年1月9日、年俸500万ドル＋出来高300万ドルの1年契約でボストン・レッドソックスへ入団。この年のレッドソックスの補強方針は、ジョン・スモルツや斎藤隆など前年に怪我で長期欠場したベテランを割安な価格でかき集めるというもので、ペニーの獲得もその動きの一環であった。レッドソックスでは24試合に先発。しかし、初登板となった4月11日のエンゼルス戦で6回3失点で降板して以降、防御率が4.50より良くなることはなかった。8月21日のヤンキース戦で4回8失点KOとなると、チームはペニーに代わってティム・ウェイクフィールドをローテーションに入れた。結局、本人の希望もあり8月27日にレッドソックスは新加入のビリー・ワグナーと入れ替える形でペニーを解雇した。
1999年7月8日にマット・マンタイとのトレードで、ブラディミール・ヌニェス、エイブラハム・ヌニェスと共にフロリダ・マーリンズへ移籍した。7月から8月に開催されたウィニペグパンアメリカン競技大会の野球アメリカ合衆国代表に選出された。2000年4月7日のロッキーズ戦でメジャーデビュー。この日は7イニングを投げ被安打6・失点1の好投で、吉井理人との投げ合いを制してデビュー戦を白星で飾った。メジャー1年目は23試合で8勝7敗・防御率4.81という成績を収めた。2001年はシーズン途中に8連敗を喫したこともあったが、最終的には自身初の2桁勝利を挙げる。2002年は故障で8勝どまりだったが、シーズン終了後には日米野球にMLB選抜の一員として参加。2003年には先発ローテーションの一員として14勝10敗・防御率4.13を記録した。この年はチームがワールドシリーズ優勝。ペニーはこのシリーズでヤンキース相手に2勝して、チームの世界一に貢献した。
1996年のドラフトで、2年後の1998年に創設される新球団アリゾナ・ダイヤモンドバックスから5巡目（全体155位）指名を受け、その日に入団契約を交わした。球団が正式にナ・リーグ加盟するまでの2年間は、アリゾナ・リーグ（ルーキー級）、ミッドウエスト・リーグ（A級）でプレー。1998年にはA+級ハイデザート・マーベリックスに昇格してフルシーズン投げ、28試合164イニングで14勝5敗・防御率2.96・35与四死球・207奪三振という成績を残す。この活躍により、所属するカリフォルニアリーグにおいて、『ベースボール・アメリカ』選出のMVPと最優秀投手賞を受賞した。
1939年9月のドイツ軍のポーランド侵攻後、ポーランド総督に任命されたハンス・フランクは、クラクフのヴァヴェル城（pl:Zamek Królewski na Wawelu）に入り、そこからポーランド総督府領の統治にあたった。大の反ユダヤ主義者であるフランクは自分のお膝元であるクラクフから出来る限りユダヤ人を追い出したがっていた。1940年4月12日にフランクはこう宣言した。「ユダヤ人はこの町から放逐しなければならない。なぜならば、ヒトラー総統より名誉あるご指名を受け、帝国高位の官庁の所在地となったこの町に何千人ものユダヤ人がうろつき回り、住居さえ構える事など我慢できぬことだからだ。」。技能などがあり労働力になるユダヤ人はクラクフのユダヤ人居住区に留まる事を認めたが、それ以外はクラクフから追放されることとなった。1940年5月から8月にかけては「自主的」なクラクフからのユダヤ人退去が行われた。マレク・ビーバーステイン（Marek Biberstein）を議長とするユダヤ人評議会にも協力させ、2万3000人のユダヤ人を「自主的」にポーランド総督府領内の他の都市へと移住させた。さらに1940年9月と12月には強制追放が行われ、2万人近いユダヤ人がクラクフから追放されている。なおユダヤ人評議会議長マレク・ビーバーステインは移送をなるべく抑えようとドイツ当局の移送担当の役人に贈賄をしていた。この件で共犯の他の評議会メンバーや収賄したドイツ人役人達とともに逮捕された。代わって評議会議長にはアルトゥール・ローゼンツヴァイク(Artur Rosenzweig)が任じられた。