満洲国奉天市（中国瀋陽市）生まれ。父小澤開作は歯科医師、満州国協和会創設者の一人で、同志で満州事変の首謀者となった板垣征四郎と石原莞爾から一字ずつ貰って第三子を「征爾」と命名した。1941年3月、父を満州に残したまま母や兄と日本に戻り、東京都立川市の若草幼稚園に入園。1942年4月、立川国民学校（現・立川市立第一小学校）に入学。1945年、長兄の小澤克己（のち彫刻家になる）からアコーディオンとピアノの手ほどきを受ける。才能を感じた一家は、征爾に対して本格的にピアノを学ばせようと決意し、横浜市白楽の親類から安価に譲ってもらったピアノをリアカーに縛りつけ、父と長兄と次兄（小澤俊夫）とで3日かけて立川市の自宅まで運搬した。1947年、父が友人とミシン会社を始めた関係で神奈川県足柄上郡金田村（現・大井町）に転居。1948年4月、成城学園中学校に入学。当時、小田急小田原線で新松田から成城学園前まで片道2時間かけて通学していた。中学ではラグビー部に所属する(ポジションは3番プロップ)傍ら、豊増昇にピアノを習う。当時はピアニスト志望だったが、ラグビーの試合（雨の試合でスクラムで右手人差し指を骨折した）大怪我をしたためピアノの道を断念。1950年秋、東京都世田谷区代田に転居。以後、東京都世田谷区経堂（1951年から1952年）、東京都渋谷区笹塚（1952年から1955年）、神奈川県川崎市幸区戸手町（1955年から1959年）で育つ。1951年、成城学園高校に進んだが、齋藤秀雄の指揮教室に入門したため、1952年、齋藤の肝煎りで設立された桐朋女子高校音楽科へ第1期生として入学。同門に秋山和慶、山本直純、羽仁協子、久山恵子がいる。当時、癇癪持ちの齋藤から指揮棒で叩かれたりスコアを投げつけられたりするなどの体罰を日常的に受けていたため、あまりのストレスから小澤が自宅の本箱のガラス扉を拳で殴りつけ、大怪我をしたこともあった。1955年、齋藤が教授を務める桐朋学園短期大学（現在の桐朋学園大学音楽学部）へ進学、1957年夏に同短期大学を卒業。4月に卒業できなかったのは、肺炎で卒業試験が受けられなかったためであり、のちに追試を受けて卒業が認められたが、療養期間中には仲間がどんどん仕事をしたりマスメディアに出演したりするのを見て焦りと嫉妬に苦しんだという。ただし、このとき父から「嫉妬は人間の一番の敵だ」と言われて嫉妬心を殺す努力をしたことが、後になって大変役立ったと語っている。短大卒業後、1957年頃から齋藤の紹介で群馬交響楽団を振りはじめ、群響の北海道演奏旅行の指揮者を担当。1957年12月には、日本フィルハーモニー交響楽団の第5回定期演奏会におけるラヴェル『子供と魔法』にて、渡邉暁雄のもとで副指揮者をつとめる。1958年、フランス政府給費留学生の試験を受けたが不合格となる。しかし、成城学園時代の同級生の父である水野成夫たちの援助で渡欧資金を調達。1959年2月1日から、スクーター、ギターとともに貨物船で単身渡仏。このとき、小澤というアシスタントを失うことを恐れた齋藤からは渡欧について猛反対を受けたが、桐朋の父兄会や水野成夫たちの支援を得て、1200ドル（約45万円）の餞別を受けた。1959年パリ滞在中に第9回ブザンソン国際指揮者コンクール第1位。ヨーロッパのオーケストラに多数客演。カラヤン指揮者コンクール第1位。指揮者のヘルベルト・フォン・カラヤンに師事。1960年アメリカボストン郊外で開催されたバークシャー音楽祭（現・タングルウッド音楽祭）でクーセヴィツキー賞を受賞。指揮者のシャルル・ミュンシュに師事。1961年ニューヨーク・フィルハーモニック副指揮者に就任。指揮者のレナード・バーンスタインに師事。同年ニューヨーク・フィルの来日公演に同行。カラヤン、バーンスタインとの親交は生涯に渡り築かれた。1961年にNHK交響楽団（N響）の指揮者に招かれ指揮活動を開始するが、感情的な軋轢のためN響からボイコットを受ける。小澤はたった一人で指揮台に立つという苦い経験をさせられ、指揮者を辞任（これはN響事件、小澤事件、N響小澤事件などと呼ばれる＝後述）。このため日本では音楽活動をしないと決め、渡米した。その後、NHK交響楽団とは32年の歳月を経て1995年1月に共演を果たしている。1964年シカゴ交響楽団（当時の指揮者はジャン・マルティノン）によるラヴィニア音楽祭の指揮者が急病により辞退。急遽、ニューヨークにいた小澤が開催数日前に招聘され音楽監督として音楽祭を成功に収め、小澤の名声は全米に知れ渡る。シカゴ交響楽団とはRCAレーベル、EMIレーベルに複数の録音を残した。日本人指揮者が海外の一流オーケストラを指揮して海外の一流レコード会社からクラシック音楽録音を海外市場向けに複数発売したことは画期的な出来事であった。1964年からはトロント交響楽団の指揮者に就任し1968年まで務める。1966年にウィーン・フィルハーモニー管弦楽団を初指揮。1970年にはタングルウッド音楽祭の音楽監督に就任。同年サンフランシスコ交響楽団の音楽監督に就任し1976年まで務めた。1972年には、フジサンケイグループによる突然の日本フィルハーモニー交響楽団の解散後、楽員による自主運営のオーケストラとして新日本フィルハーモニー交響楽団を創立。小澤は指揮者として中心的な役割りを果たし、1991年に名誉芸術監督に就任、1999年9月から桂冠名誉指揮者となっている。1972年に日本芸術院賞を受賞している。1973年、38歳のとき、前出のニューヨーク・フィルおよびシカゴ響と共にアメリカ5大オーケストラの一つに数えられるボストン交響楽団の音楽監督（第13代）に就任。当初はドイツグラモフォンとの契約でラヴェルのオーケストラ曲集、ベルリオーズのオーケストラ曲集など、ミュンシュの衣鉢を継ぐフランス音楽の録音を続けた。その後グスタフ・マーラーの交響曲全集（『大地の歌』を除く）など、フィリップスへの録音を行った。日本のクラシックファンにとっては、日本人指揮者の演奏をアメリカから逆輸入する形で聴くこととなり、また日本人指揮者の演奏が国際的に有名なレーベルから発売されるのは初めてであった。またボストンでの活動が進むにつれウィーン・フィル、ベルリン・フィルハーモニー管弦楽団をはじめとするヨーロッパのオーケストラへの出演も多くなる。ボストン交響楽団の音楽監督は2002年まで務めたが、一人の指揮者が30年近くにわたり同じオーケストラの音楽監督を務めたのは極めて珍しいことといわれる。その30年近くに及ぶ音楽監督期間中、少なくとも1978年3月、1981年秋、1986年、1989年にはボストン響を率いて来日し、日本公演を実施したほか、1979年3月には中国でも同楽団を率いての公演を行っている。タングルウッドには、小澤征爾の功績を記念して日本の電気メーカーNEC、ソニー元社長の大賀典雄などの援助により“SEIJI OZAWA HALL”が建設された。なお、アメリカを本拠にしての音楽活動が長かったため、アメリカ国内及び海外のマスコミでは、小澤征爾を日系アメリカ人（Japanese-American)とするケースも見受けられる。1984年9月、恩師である齋藤秀雄の没後10年を偲び、小澤と秋山和慶の呼びかけにより、世界中から齋藤の門下生100名以上が集まり、齋藤秀雄メモリアルコンサートを東京と大阪にて開催。このコンサートが後のサイトウ・キネン・オーケストラとなる。1987年に第1回ヨーロッパ楽旅を行い、ウィーン、ベルリン、ロンドン、パリ、フランクフルトにて成功をおさめる。1992年からはサイトウ・キネン・オーケストラの音楽監督として活動を開始。このオーケストラでもフィリップスへの録音を多く行っており、今までにベートーヴェン、ブラームスの交響曲全集などを完成させている。1998年に長野オリンピック音楽監督を務め、世界の国歌を新日本フィルハーモニー交響楽団と録音。長野オリンピック開会式では、小澤指揮によるベートーベン第九を演奏。開会式会場と世界5大陸の都市（北京、ニューヨーク、シドニー、ベルリン、ケープタウン）を衛星中継で結び、歓喜の歌を世界同時合唱で結ぶ。同年、フランス政府からレジオンドヌール勲章を受賞。2002年1月、日本人指揮者として初めてウィーン・フィルニューイヤーコンサートを指揮。このコンサートは世界同時生中継され、CDの売り上げ枚数は100万枚を超えた。2002年シーズンにウィーン国立歌劇場音楽監督に就任。作曲家の武満徹と親交を持ち、深い友情関係を築いた。武満の死後も武満作品を演奏する機会が多い。小澤と武満との対談は『音楽』（新潮文庫 1984年）他、写真集でも発表されている。2005年暮れに体調を崩し、同年12月に白内障の手術を受けた。2006年1月半ばには、東京都内の病院で帯状疱疹、慢性上顎洞炎、角膜炎と診断され、通院しながら静養していた。2006年1月27日にアン・デア・ウィーン劇場で上演される予定であったモーツァルトの歌劇『イドメネオ』の指揮はキャンセルされた。2006年2月1日、ウィーン国立歌劇場音楽監督としての活動を一時休止。東京のオペラの森で指揮予定であったヴェルディ『オテロ』の公演もキャンセルすると発表した。2006年6月、スイス西部モントルー近郊ブロネで開催された「スイス国際音楽アカデミー」にて指揮活動を再開。また、7月20日には「小澤征爾音楽塾オペラ・プロジェクトVII」愛知県芸術劇場コンサートホール公演にてマーラーの交響曲第2番『復活』を指揮し、日本国内での指揮活動を再開した。2006年度のサイトウ・キネン・フェスティバル松本、2007年4月にベルリン・フィルを指揮をしている。2007年、ウィーン国立歌劇場総監督ホーレンダーの2010年勇退に伴い、音楽監督小澤征爾の同時退任が発表された。2010年シーズンからの総監督はドミニク・マイヤー、音楽監督は、ウェルザー＝メストの就任が発表された。2008年、世界の音楽界に多大な影響を与えたことや、若手音楽家育成に尽力した功績が認められ、文化勲章を受章した。2010年1月、人間ドックの検査で食道癌が見つかり治療に専念するために、同年6月までの活動を全てキャンセルすることを発表した。食道全摘出手術を受け、同年8月に復帰。同年開催のサイトウ・キネン・フェスティバル松本は一部プログラムで代役を立て総監督として出演。2010年11月、ウィーン・フィルハーモニー管弦楽団により、名誉団員の称号を贈呈された。2011年1月、悪化した腰の手術を受ける。2012年3月7日、体力回復のため、1年間の指揮活動の中止を発表。。2012年8月31日、『小澤征爾さんと、音楽について話をする』（村上春樹との共著、新潮社）で小林秀雄賞受賞。2013年4月1日、前年死去した吉田秀和の後任として水戸芸術館の2代目館長に就任。2014年8月4日　長野県松本市の音楽祭「サイトウ・キネン・フェスティバル松本（ＳＫＦ）」が翌2015年から、小澤征爾の名を冠した「セイジ・オザワ松本フェスティバル」に生まれ変わることになったことを、実行委員会が東京都内で記者会見して明らかにした。2015年7月、ケネディ・センター名誉賞を受賞。日本人では初の受賞となる。同年8月、セイジ・オザワ松本フェスティバル開催。腰椎棘突起および横突起骨折により、ベルリオーズ・オペラ『ベアトリスとベネディクト』を降板。長野県名誉県民栄誉賞の第1号を受賞。2016年2月、自らが指揮する歌劇『こどもと魔法』（ラヴェル作曲）を収めるアルバムがグラミー賞最優秀オペラ録音賞を受賞した。2016年3月、成城大学初となる名誉博士号を贈呈された。記念式典ではサイトウ・キネン・オーケストラや水戸室内管弦楽団メンバー、成城学園にゆかりのアーティスト達が集結し、『S.オザワ祝典アンサンブル』を結成した。2016年4月、ベルリン・フィルハーモニー管弦楽団により、名誉団員の称号を贈呈された。2016年10月、名誉都民に顕彰される。2016 GQ Men of the Yearを受賞。