2003年11月6日にFA登録され、12月16日、ヒューストン・アストロズへ3年総額3,150万ドルで移籍。ヤンキースでキャリアを全うすると考えられていたため、移籍は驚きを与えた。自宅がテキサス州にあることに加え、同年のシーズン21勝、ポストシーズン3勝という成績にもかかわらず、チームの引き止めへの熱意が薄いと感じたことが背景にあるとされる(当初のオファーは3年3,000万ドルだった)。引き止めに失敗したヤンキースはケビン・ブラウンを獲得するなど、先発投手の緊急補強を強いられることになった。なお、ヤンキース時代のチームメートのロジャー・クレメンスも引退を撤回してアストロズへ移籍した。1年目は左ヒジの故障で3回の故障者リスト入り（4月7日 - 4月29日、5月27日 - 6月28日、8月13日 - ）した。シーズン1回目の故障から復帰した4月29日のピッツバーグ・パイレーツ戦で通算150勝を達成したが、シーズン通して6勝に終わり、連続2桁勝利は9年で途切れた。翌2005年は17勝9敗・ロジャー・クレメンスに次ぐリーグ2位の防御率2.39を挙げ、27回（リーグ2位）のクオリティ・スタートを記録した。月間MVPの投手部門を7月と9月の2回受賞。7月には6試合に登板し、5勝0敗で球団史上3位なる防御率0.90を記録した。8月21日から9月20日にかけて自己最長タイとなる7戦7勝を記録した。球団史上初のワールドシリーズ進出に貢献し、カムバック賞の最終候補にノミネートされた。2006年、自己最多タイの35試合に先発登板し、14勝を記録したが、自己最低の13敗。チームはセントルイス・カージナルスに1.5ゲーム差でプレーオフ進出はならなかった。シーズン最初の登板となった4月4日のフロリダ・マーリンズ戦で10失点（自責点7）で昨年からの連勝は7で途切れた。4月、5月、6月と3か月連続で月間防御率が5点以上だったが、8月は防御率2.27でリーグ最多の49奪三振を記録した。。
1995年4月29日にメジャーデビューを果たした。当初はブルペンスタートで、5月にマイナー落ちも経験する。しかし半月足らずで再びメジャー昇格を果たし、5月27日メジャー初先発。以後先発ローテーションに名を連ね、最終的には31試合（26先発）で12勝9敗・防御率4.17という成績を残し、新人王投票でも3位につけた。2年目の1996年はオールスターゲームに選出され、21勝8敗で最多勝のタイトルを獲得、サイ・ヤング賞投票でもパット・ヘントゲンに6票差で2位。1997年、リーグ1位の35試合に先発登板し、自己最多リーグ3位の240.1回を投げ、18勝7敗を記録した。1998年は開幕投手を務め、16勝11敗、過去3年の勝利数はジョン・スモルツの56勝に次ぐ55勝を記録し、1999年は14勝11敗。2000年は19勝9敗を記録し、9月24日のデトロイト・タイガース戦ではヤンキースの選手として史上15人目の100勝を達成。サイ・ヤング賞の投票で4位に入った。安定した活躍でヤンキースのワールドシリーズ3連覇をふくめた1996年、1998年、1999年、2000年、2009年と5回のワールドチャンピオンに貢献した。2002年、故障のため22試合の登板に留まったが、2003年はリーグ2位、自己最多タイの21勝を記録した。
グリッケンの同僚はグリッケンの業績を称賛していたにも拘わらず、彼を奇抜だとみなし、大いに秩序を乱す者と考えていた。おしゃべりで、極度に感受性が強いことで知られ、仲間からは「変わり者」と見なされることが多く、細部に拘り過ぎることもあった。友人の1人は、「ハリーは全人格が個性的だった。...彼を知っている者なら誰でも、彼が科学者としては優秀な者であることに驚いていた。」と記している。グリッケンが車を運転する時の習慣については、同じ友人が「全速力で道路を走りたがり、彼にとって重要なこと全てについて語り、信号機のある4つ角に来ても気にせずに通過し、通過したことに気付いてもいなかったという、漫画のような性格だ。」と語っている。グリッケンの父は1991年に、グリッケンがその情熱を追求中に死んだと語り、火山学に「全的に没頭していた」とも言っていた。アメリカ地質調査所の同僚だったドン・ピーターソンは、グリッケンが観察したものに情熱的にアプローチすることを熱望していたと付け加え、その経歴を通じてまた大学院生としての業績を称賛している。グリッケンの指導教授だったリチャード・V・フィッシャーは、その分野でのグリッケン個人の情熱について語り、「セント・ヘレンズ山で起きたことは、長い間グリッケンを深く悩ませたものであり、ある意味で以前よりもさらにその分野に没頭させることになったと考えられる。」と記している。同僚のロビン・ホルコームは「ハリーは大変情熱的であり、大変聡明であり、大変大望があり、火山について価値あることを行おうと切望していた。」と述べている。多くの研究がグリッケンの作った火山地滑りの分類を利用して来ており、その後の多くの論文はグリッケンの1996年の報告書を認知し引用している。アメリカ地質調査所雇員であるドン・スワンソンは、グリッケンの業績全体を顧みて、「火山岩屑なだれの研究で世界の指導者」だと称えている。グリッケンはカリフォルニア大学サンタバーバラ校と密接なつながりがあり、そこで博士号を取得し、研究を続けた。グリッケンの大学との協業を記憶するために、毎年地球科学部が地質学の分野で優れた卒業生に「ハリー・グリッケン記念卒業奨学金」を与えている。これはハリー・グリッケン基金が創設したものであり、「火山の挙動を理解することに関する研究を行おう」という学生を支援することを目指している。