ルーキーシーズンの2005年は9試合に出場、1タッチダウン11インターセプトと散々な成績に終わりシーズン中盤からマイク・ノーランヘッドコーチによって彼は先発QBから外された。2006年、チームのオフェンスコーディネーターにノーブ・ターナーが就任した。チームのオフェンスは強化されドラフト1巡目でメリーランド大学のタイトエンド、バーノン・デービスを獲得、ランニングバックのケバン・バーローをニューヨーク・ジェッツに放出、フランク・ゴアを起用するようになった。オフシーズンに新しいオフェンスコーディネーター、ワイドレシーバー、タイトエンドとの練習を積んだ彼はシーズン開幕後の3試合で3タッチダウン、インターセプト0、814ヤード獲得という目覚しい改善を見せた。カンザスシティ・チーフス戦に続くオークランド・レイダーズ戦でプロ入り後初の1試合3タッチダウンパスを成功させた。しかし続く5試合では平均153ヤードしか獲得できず6タッチダウン、9インターセプトと不調に終わった。彼の成績は不振だったもののチームは11月に3連勝を果たした。11月5日のミネソタ・バイキングスとの試合で彼は初めてジョー・モンタナと会った。チームがモンタナ現役当時の1989年のジャージを着てプレーしたこの試合では9-3と番狂わせでチームは勝利した。シアトル・シーホークス戦では第4Qに3-7とリードされたところから2タッチダウンパス、1タッチダウンランを決めて勝利した。シーズン最終週にはプレーオフへの望みをつないでいたデンバー・ブロンコスと敵地インベスコ・フィールド・アット・マイル・ハイで対戦、彼は194ヤード、1タッチダウンパスをあげる活躍でチームは勝利、ブロンコスをプレーオフ争いから脱落させた。全16試合に先発出場した彼は2,890ヤードを獲得、16タッチダウン、16インターセプトの成績を残しチームも7勝9敗とプレーオフに後一歩のところまで行った。2007年、ノーブ・ターナーがサンディエゴ・チャージャーズのヘッドコーチに就任したため、ジム・ホストラーの下で新しい攻撃システムを学ぶこととなった。彼の攻撃システムはターナーのものと2005年にウェストコーストオフェンスを用いたマイク・マッカーシーのシステムをミックスしたようなものであった。オフシーズンの補強でチームにはワイドレシーバーのダレル・ジャクソン、アシュリー・レリー、ルーキーのジェイソン・ヒルが加わった。開幕第1週のマンデーナイトフットボールでは残り2分を切ったところから、スクランブルで25ヤード走るプレイなどを見せて逆転勝利を演出した。9月30日に行われたシアトル・シーホークス戦でシーホークスのディフェンスタックル、ロッキー・バーナードにサックされた際に右肩を負傷して退場した。この負傷で3試合を欠場し10月28日の試合で復帰した。しかしリーグのQBのパス成功率が平均60%ぐらいなところ、スミスのパス成功率は50%を下回り、QBレーティングは57.2となり彼より低いのはわずか1人、チームも11月25日まで勝ち星から遠ざかった。このため[ノーランヘッドコーチは11月12日の敗戦後、彼を先発から外しトレント・ディルファーを先発させた。12月11日には彼は故障者リストに入れられシーズンを終えた。2008年のトレーニングキャンプで彼はショーン・ヒル、J・T・オサリバンと先発QBの座を争った。ジム・ホストラーオフェンスコーディネーターは解任されており、デトロイト・ライオンズやセントルイス・ラムズでオフェンスコーディネーターやヘッドコーチを務めたマイク・マーツが新しいオフェンスコーディネーターに就任しており、彼にとっては4年目で4人目となるコーディネーターであった。過去3年間と大きく攻撃システムに変更がされておりライオンズ時代に控えQBとしてマーツのシステムに精通していたオサリバンの方がプレシーズンゲームで好成績をあげて先発QBに指名された。この決定を聞いた元NFLヘッドコーチのジム・E・モーラはスミスをバスト（期待はずれ）と呼び、フォーティナイナーズは2005年のドラフト全体1位で彼を指名するべきではなかったと評した。9月10日に彼は故障者リスト入りし肩の再手術を受けることとなった。サラリーキャップの問題もありフォーティナイナーズGMのスコット・マクルーハンは彼を2009年シーズン開幕前に解雇したいことを明らかにしたが10月21日にマイク・ノーランヘッドコーチを解任した後、チームはスミスに契約見直しをさせたい意向を示した。2009年3月スミスとチームは合意に達し彼はチームに残留することとなった。2009年の先発QB争いでもヒルに敗れたが第7週の試合、0-21とリードされた第3Qに交代出場を果たし3タッチダウンパスを成功し21-24と惜しくも勝利を逃す活躍を見せた。10月26日の記者会見でマイク・シングレタリーヘッドコーチから次週からの先発QBとなることが発表された。2010年は第7週のカロライナ・パンサーズ戦で肩を痛めた後、トロイ・スミスに5試合先発QBの座を奪われ、11試合の出場でパス2370ヤード獲得、14タッチダウン、10インターセプト、QBレイティング82.1の成績を残した。2011年、ロックアウト中に49ersの合同練習を主催した。7月29日、チームと1年490万ドルの契約延長を果たした。ドラフト2巡ルーキーのコリン・キャパニックと先発QBを争った結果、開幕先発QBに指名された。この年スミスは、3150ヤードを投げて17TD、5INTと堅実なプレーを見せて、13勝3敗での地区優勝に貢献した。またレギュラーシーズンの第4Qに5回逆転ドライブを達成している。ニューオーリンズ・セインツとのディビジョナルプレーオフでは残り2分あまりでの27ヤードのTDラン、残り9秒でのバーノン・デービスへの14ヤードのTDパスを決めて、36-32での勝利に貢献した。NFCチャンピオンシップゲームでニューヨーク・ジャイアンツに敗れスーパーボウル出場は後一歩のところで実現しなかった。第46回スーパーボウル直前にスーパーボウル開催地インディアナポリスで行われた「プレイ60」（ミシェル・オバマとNFLが取り組んでいる子供の肥満問題を解決しようとするプロジェクト）のイベントにコルツのドワイト・フリーニーと共に登場した。2012年の第3週の途中までパス249回連続でインターセプトなしのナイナーズ記録を作っている。第5週のバッファロー・ビルズ戦ではパスで303ヤード、3TD、チームオフェンスで621ヤードというチーム記録となるオフェンスを展開した。第6週のニューヨーク・ジャイアンツ戦では3インターセプトを喫し敗れた。第8週のアリゾナ・カージナルス戦ではパス19回中18回成功、232ヤードを獲得、3TD、0INTでレイティング157.1と大活躍し、NFC週間MVP攻撃部門に選ばれた。パス失敗1回、パス成功率94.7%はいずれもNFL記録であった。第10週のセントルイス・ラムズ戦の第2Q、TDパスを決めたプレーで脳震盪を起こし負傷退場、コリン・キャパニックが交代出場したが、試合は24-24の引き分けに終わった。翌週のシカゴ・ベアーズは怪我のため欠場、先発したキャパニックは、パス23回中16回成功、243ヤード、2TDをあげて、チームは32-7で勝利した。スミスは怪我から回復したが、ハーボーヘッドコーチがキャパニックを先発で起用し続けたため論争が起こった。スミスは、QBレイティングでNFL3位の104.1、パス成功率でNFLトップの70%、ハーボーヘッドコーチが就任してから先発で19勝5敗1分の成績をあげており、一方キャパニックはスクランブル能力や強肩を持っていた。チームはこの年第47回スーパーボウルまで勝ち上がったが、彼の出番はなかった。この年、パス218本中153本成功（パス成功率70.2%）、1,737ヤード、13TD、5インターセプト、QBレイティング104.1の成績を残し、彼が先発した試合ではチームは6勝2敗1分であった。