アジアにおいてはアジアサッカー連盟（AFC）主催のアジアカップ（サッカー単一種目での大陸選手権）と並んで、アジアオリンピック評議会主催のアジア競技大会（総合競技大会）がかつて高い位置を占めていたので、サッカー日本代表は後者をより重視した。その理由としては、当時はアマチュアリズム全盛の時代で、オリンピックを重視していたため五輪と同年のアジアカップを軽視していたことや、現在とは違い代表に投資できる年間予算も限られていたことなどが挙げられる（当時のアジア大会の最高成績は1951年ニューデリー大会と1966年バンコク大会の3位。U-23の大会に変わった後の2010年広州大会で優勝を果たしている）。1967年7月、台北で開催された第4回アジアカップイラン大会東地区予選に日本B代表が初参加したものの予選で敗退した。B代表が出場したのは、同じ7月にA代表がペルーとブラジルへ遠征中だったためである。続く第5回タイ大会は不参加。1975年6月、香港で開催された第6回イラン大会東地区予選では初めてA代表が出場した。東地区予選大会は決勝に進んだ2チームが出場する形だった。6月14日の組み分け予備戦(組み分けを決める為に行う試合)で香港と対戦し引き分けたもののPK戦で勝てず (0-0 (PK3-4))、グループリーグでは1勝1敗で準決勝に進み、中国と対戦したが、6分、33分と失点。日本の得点は43分に1点を返したのみで終わり、1-2で敗れ、予選敗退が決まった。その後、第7回クウェート大会、第8回シンガポール大会と立て続けに参加しなかった。前述のとおり、1992年バルセロナ五輪から五輪が23歳以下の選手の大会になったことで、1987年10月26日にソウル五輪アジア最終予選第6戦最終戦中国戦で日本が0-2で敗れ、予選敗退が決まった直後からJFAは日本A代表の最大の目標をワールドカップへと完全に切り替えた。1988年、第9回カタール大会予選で大学生を主体とするB代表が初めて予選を突破し、そのままB代表が同年12月の本大会に出場したが、本大会では1次リーグ4試合を通じ無得点で1分3敗のグループ最下位で大会を終えた。当時は依然としてJFAやマスコミはアジアカップを軽視しており（同時期に日本で開催していたトヨタカップを重視し、アジアカップに帯同する記者が少なかったことについて大会の関係者が次回の日本開催について考えなおす旨の発言もあった）、バルセロナ五輪（この五輪から23歳以下の大会）アジア予選に向けたチーム作りの一環として第9回カタール大会予選にB代表を参加させた。ところが、期せずして予選を突破した為、そのまま本大会にも出場させたという（ただし、このB代表からはいずれも1969年8月1日生以降という年齢制限のため五輪予選には参加していない）。JFAは、日本代表監督としては史上初の外国人監督ハンス・オフトを1992年3月に日本代表監督へ就任させた。1992年10月30日から開幕する第10回日本大会へは開催国として出場が決まっており、開催国としても、翌年5月15日に迫ったJリーグ開幕に向け盛り上げる為にも、オフトがチームを掌握する為にも（就任当初は基礎を徹底するオフトに主力が反発するも結果が出るに従い収まっていったが、中心選手のラモス瑠偉だけが猛反発。1992年9月26日のオフトとの個人面談で和解したが、アジアカップの結果次第では再燃する恐れがあった）、そして何より翌年4月8日から始まる1994年アメリカW杯アジア予選（1993年4月8日がアジア一次予選初戦タイ戦）に自信を持って挑む為にも、この大会での勝利、好成績が求められていた。広島県各地で開催された日本大会では、初戦のUAE、2戦目の北朝鮮といずれも引き分け、3戦目の前にUAEが北朝鮮に勝利したため暫定3位となり、それまで1勝1分のイランに勝たなければグループリーグ敗退となる状況で、53分に相手FWが退場になり人数的に有利になりながらもなかなか得点を挙げられなかったが、87分に井原正巳のパスから三浦知良のゴールで先制し、その後アディショナルタイムにイランにさらに2人の退場者が出る荒れた試合になったものの1-0で辛勝、決勝トーナメント進出を決めた。準決勝の中国戦では開始早々に失点、その後後半に2点を入れ逆転したものの、60分にGK松永成立が相手を蹴ったとしてレッドカードで退場、1人少ない状態から一旦は追いつかれたが、84分の中山雅史のヘディングゴールで3-2で辛勝。決勝では、サウジアラビアに対し、36分の高木琢也のゴールを守り切り1-0で勝利、主要国際大会で史上初めての優勝をもたらした。実質日本が初めて真剣に取り組んだアジアカップで、初の栄冠を勝ち取ったのであった。またこの大会は日本各地にサポーターが生まれるきっかけにもなった（それまでも東京の国立では日本サッカー狂会をはじめ数少ないサポーターたちが声をそろえて応援し続けていたが、この大会ではウルトラス・ニッポンの一般観客を巻き込みながらスタンド全体で手拍子と歌によって行う大規模な応援が注目を集め、マスコミが報道した。そのことで翌年のJリーグ開幕以降、日本各地にサポーターが誕生することになった）。1996年の第11回UAE大会はグループリーグを3戦全勝で通過したものの、準々決勝でクウェートに0-2で敗れ連覇ならず。2000年の第12回レバノン大会は直前のシドニー五輪を戦った中村俊輔・高原直泰ら「黄金世代」といわれたシドニー五輪代表と、名波浩や川口能活らフランスワールドカップ以来のメンバーが融合したチームをフィリップ・トルシエ監督が率い、圧倒的なパフォーマンスで大会を席巻。グループリーグを2勝1分で1位通過すると、準々決勝ではイラクを4-1、準決勝では中国を3-2でそれぞれ逆転で降す。そして決勝戦では前回優勝のサウジアラビアを1-0で破り、2大会ぶり2度目の優勝を果たした。2004年の第13回中国大会ではジーコ監督のもと主力を怪我などで欠き、地元中国との対戦のみならず全ての試合で、プレー中のみならず国家斉唱の際にまで中国人サポーターの激しいブーイングを受けるなど逆境の中での戦いであったが、ノックアウトステージでは初戦のヨルダン戦ではPK戦にもつれ込み、1-3の絶体絶命の場面からGK川口能活の2つのセーブを含む相手の4本連続失敗で逆転勝利、準決勝では0-1から39分に遠藤保仁が退場処分となり不利になりながら後半に一旦逆転、その後再逆転を許すも終了間際に中澤佑二のゴールで同点に追いつき、延長に入り玉田圭司の決勝ゴールを守り切り4-3で決勝進出、決勝戦では地元中国を3-1で下して、2大会連続3度目の優勝を果たした。2007年の第14回4ヵ国（タイ、マレーシア、ベトナム、インドネシア）共催大会ではグループリーグを2勝1分の1位で通過。準々決勝では初参加のオーストラリアをPK戦の末に勝利してベスト4へ進んだものの、準決勝でサウジアラビアに2-3で敗れ3連覇はならず、さらに3位決定戦でも韓国相手にPK戦を制することが出来ず4位に終わった。2011年の第15回カタール大会ではグループリーグを2勝1分の1位で通過。準々決勝の地元カタール戦では10人になりながらも3-2で逆転勝利。準決勝の韓国戦では延長戦でも決着が付かずPK戦に突入し、川島永嗣が相手のPKを2本止める活躍で勝利し決勝進出。決勝のオーストラリア戦では0-0のまま延長戦に突入し、延長後半に長友佑都の左サイドからのクロスボールに李忠成がボレーシュートで合わせ代表初ゴールとなる決勝点を決めて、2大会ぶり4度目（歴代最多）の優勝を遂げた。2015年の第16回オーストラリア大会ではグループリーグを3戦全勝、無失点で1位通過。準々決勝のUAE戦では開始早々にこの大会初失点を喫するも、終盤に柴崎岳のゴールで追いつき延長戦に突入。ボール支配率・シュート数では相手を圧倒し、決定機をことごとく作りながらそれらを全て逃し続け、延長戦でも勝負を決められずPK戦の末1番手の本田と6番手の香川という2大エースが失敗し無敗（3勝1分）のままベスト8で敗退。準々決勝敗退は加茂周監督が日本代表を率いた19年前の1996年大会以来5大会ぶりとなり、Jリーグ発足後に参加したアジアカップとしても同大会と並び過去最低タイ記録となった。2019年の第17回UAE大会ではグループリーグから準々決勝までの5試合を全て1点差で勝利。準決勝では優勝候補のイランを3-0で破り決勝進出。しかし、決勝でカタールに1-3で敗れ2大会ぶりの優勝を逃した。なお、この試合が森保一体制となってからは初の敗戦であった。