2004年2月16日にレンジャーズが1億7900万ドルのうち6700万ドルの年俸を負担することを条件に、アルフォンソ・ソリアーノ、後日発表選手とのトレードでニューヨーク・ヤンキースへ移籍した。マリナーズとレンジャーズでは遊撃手を務めていたが、ヤンキースにおいてはキャプテンであるデレク・ジーターの守備位置であったため、移籍に伴い三塁手にコンバートされた。それまでつけていた背番号3は、ヤンキースではベーブ・ルースの永久欠番でつけることが許されず、変更を余儀なくされ、NFLマイアミ・ドルフィンズの往年の選手ダン・マリーノにならって13番を選択した。ヤンキース初年となった2004年は36本塁打、106打点という一定の数字を残したが、期待されていた内容としては物足りないとされた。ボストン・レッドソックスとのリーグチャンピオンシップシリーズでは、ゴロを打って1塁へ走る際、自身をタッチアウトにしようとした投手ブロンソン・アローヨのグラブをはたき、守備妨害でアウトになった。このプレーは波紋を呼び、試合後に「子供じみたプレー」とバッシングを受けた。同シリーズは3連勝後に4連敗という最悪の形で落としている。2005年6月、メジャーリーグ史上初めて20代で通算400本塁打を達成。最終的にシーズン48本塁打を放ち、4度目の本塁打王とともに2度目のMVPを獲得。ヤンキースでの本塁打王はレジー・ジャクソン以来25年ぶりであった。また、ヤンキース右打者のシーズン最多本塁打数ジョー・ディマジオの46本を68年ぶりに更新した。2006年開幕前の3月に開催された第1回ワールド・ベースボール・クラシック(WBC)のアメリカ合衆国代表に選出された。シーズンでは30歳にして通算2000本安打を達成したが、シーズンでは7年ぶりに年間塁打数が300を切るなど不調で、自己ワーストとなる24失策を記録するなど攻守ともに精彩を欠いた。2007年はアメリカンリーグ最速記録となる開幕15試合で12本塁打（30打点）に到達。8月4日、メジャー史上最年少（32歳8日、それまでの記録はジミー・フォックスの32歳338日）、出場試合数では史上3番目の早さ（1855戦目、最速記録はマーク・マグワイアの1639戦目）でメジャー史上22人目の通算500本塁打を達成した。シーズンを通して好不調の波はあったものの、3度目の50本塁打以上、自己最高の156打点を記録し、二冠王に輝いた。オフの10月28日にヤンキースとの残り3年の契約を破棄し、12月13日に総額2億7500万ドルの10年契約で再契約した。2008年はシーズン途中に右太ももを痛めて20試合以上欠場したが、11年連続35本塁打以上を記録。9月3日のタンパベイ・レイズ戦では、ロドリゲスがレフトポール際に放った打球にメジャーリーグ史上初めてビデオ判定が適用された（判定は本塁打）。年末には2009年に行われるWBCにはドミニカ代表として出場すると表明した。2009年2月7日に2003年の薬物検査でステロイド剤の陽性反応を示したと報じられ、2月9日にそのことを認めた。その後、WBCドミニカ代表の合宿に合流したが、直後に右臀部の故障が判明。WBC出場を取りやめ、緊急手術を受けた。リハビリを経て、5月8日のボルチモア・オリオールズ戦で復帰した。その復帰戦の第1打席で初球本塁打を放ち、現地のYESネットワークの実況は「A fairy tale swing」（おとぎ話のようなスイング）と表現した。10月4日、レギュラーシーズン最終戦となる対タンパベイ・レイズ戦で6回無死1、2塁から逆転3ランを放つと、この回2度目の打席で満塁本塁打を放ち、1イニング7打点のアメリカンリーグ新記録を達成した。この日の2本塁打、7打点で30本塁打、100打点に到達し、12年連続の「30本、100打点」はジミー・フォックスに並ぶメジャーリーグタイ記録で、通算13度目はメジャーリーグ新記録となった。2010年8月4日、35歳と8日で通算600本塁打を達成。同じくヤンキースに所属していたベーブ・ルースの持つ最年少記録（36歳196日）を1歳以上も更新し、ギネス世界記録に認定されている。。シーズンの成績は、本塁打こそ2年連続で30であったが、打点125はデトロイト・タイガースのミゲル・カブレラに次ぐリーグ2位の数字であった。また、本塁打30と打点100をいずれもクリアした事で、13年連続「30本塁打・100打点」のメジャーリーグ新記録を生み出し、自身の持つ記録を14度まで伸ばした。2011年は怪我や不振の影響で99試合の出場に終わり、「30本塁打・100打点」の連続記録は途絶えた。2012年は手首を死球で骨折するも18本塁打し、2009年シーズン以来の2桁盗塁、13盗塁を記録。だが、10月13日のタイガース戦で試合中にナンパしていた事が報じられた。また17日には、マイアミ・マーリンズへトレードの可能性が報じられた。2013年1月16日に左股関節の手術を受け、開幕後は60日間の故障者リスト入りした。1月31日には「マイアミ・ニュータイムズ」社がフロリダ州マイアミのアンチエイジング専門クリニック「バイオジェネシス」から禁止薬物の提供を受けていたとされる疑惑が発覚した。8月5日、メジャーリーグ機構は禁止薬物を使用していたとして、8月8日から2014年シーズン末までの全ての試合（211試合）の出場停止処分とする事を発表した。これに対しロドリゲスは異議申し立ての方針を示しており、同日の対シカゴ・ホワイトソックス戦で今季初出場し、4打数1安打。異議申し立てを行っている間は出場が認められる。8月26日、トロントでのブルージェイズ戦で今季3号本塁打を放ち、歴代5人目の通算650本塁打とした。この年は44試合に出場し、7本塁打19打点4盗塁、打率.244だった。2014年1月11日にメジャーリーグ機構がポストシーズンを含む、2014年シーズンの全試合出場停止処分を発表した。2月7日にロドリゲスの代理人らは、出場停止処分の撤回を求める訴訟を取り下げ、出場停止処分を受け入れることを明らかにし、代理人のジョー・タコピーナは「ロドリゲスは2015年に焦点を合わせており、ヤンキースのクラブハウスに戻れることを望んでいる」と話した。6月11日に制限リスト入りし、シーズンを終えた。オフの10月30日に制限リストから外れた。2015年は、2014年に受けた全試合出場停止処分からの復帰シーズンとなった。年々指名打者としての出場の割合が増えていたが、このシーズンは開幕からほとんど守備に就かない指名打者としての出場である。6月1日のレッドソックス戦で田沢純一から本塁打記録4位のウィリー・メイズに並ぶ660号を放った。ヤンキースとはメイズの記録(正確には歴代の本塁打記録)に並んだ際にボーナスの支払いや関連するプロモーションを行うという契約を結んでいたが、キャッシュマンGMは「球団には権利はあるが義務ない」と話している。7日には単独4位となる661号をホームの試合で放った。13日のオリオールズ戦でMLB史上3人目の2000打点を本塁打で達成した。6月19日、39歳で迎えた通算2631試合目、ヤンキースタジアムで行われた対デトロイト・タイガース戦の1回にジャスティン・バーランダーから本塁打で、MLB史上29人目となる通算3000本安打を達成した（本塁打での達成はウェイド・ボッグス、デレク・ジーターに続いて3人目）。過去に3000安打、600本塁打を達成したのはハンク・アーロンとウィリー・メイズのみであった。また、MLBドラフト全体1位指名選手の3000本安打達成は史上初だった。しかし、過去の度重なる薬物問題の影響から厳しい見方もあり、地元紙のニューヨーク・ポストとニューヨーク・デイリーニューズはともにロドリゲスのカラー写真付きで大きく取り上げるも、見出しには「tainted（汚れた、汚染された、腐敗したなどの意）」、「MR.3000（ミスター3000）」のゼロ3つの中に注射器やアスタリスクをあしらい、皮肉交じりに報じた。このように多大なバッシングを受けながらシーズンを送ったが、大きな故障なく1年を過ごし、実に7シーズンぶり（2014年を除く）の150試合以上となる151試合に出場。打率は.250ながら、チームトップの33本塁打を放ってブライアン・マッキャンに次ぐ同2位の86打点を記録、通算での2000得点も達成。同じく30本塁打以上を放ったマーク・テシェイラが戦線離脱する中、主砲の1人として打線の牽引の一役を担った。一2016年は9本塁打、打率.200前後と不調。途中故障者リスト入りし、復帰後も精彩を欠く。シーズン中の8月7日に突如12日のホームのレイズ戦をもって引退することを発表。契約が2017年まで残っていることから、それまではオーナー付特別アドバイザー兼インストラクターとして球団に残ることも発表した。発表後も出場は続け、引退試合は3番・指名打者で先発出場。第一打席で生涯最後のヒットとなるタイムリーツーベースを打つ。最終回は3塁の守備につきヤンキースタジアム中から大歓声を受けた。通算安打は3115本、通算本塁打は696本で700本まであと4本だった。2018年2月25日、ヤンキースGM特別アドバイザーに就任。