関東以西の暖地向け仕様で、1979年に製造が開始された。窓は2段上昇式ユニット窓（このため500番台と比べて四隅に丸みがついておらず、車体よりやや奥まっている）、車内の化粧板はクリーム色系で、デッキは装備されていない。当初キハ47形を両運転台式としたキハ41形が計画されていたが、便所と暖房用ダクトの配置が困難であるため、キハ40形500番台に準じた車体で製造されたものであり、このためキハ47形の「両運転台版」という性格も併せ持つこととなった。台車は金属ばねのDT22D・TR51Cである。1982年までに148両 (2001 - 2148) が製造された。本来は暖地仕様だが、一部の車輌が男鹿線、只見線など寒冷地で運用されている（平成27年までは石巻線でも運用されていた）例もある。JR西日本に承継された車両の一部は「ベル・モンターニュ・エ・メール」仕様や「天空の城 竹田城跡号」仕様に改造されている。このうち、1980年製のキハ40 2055 は1983年6月に起きた指宿枕崎線沿線の集中豪雨が原因の事故によって大破し、同年7月付で廃車された。これは国鉄時代の本系列唯一の廃車である。
主に東北地方を対象とした寒地仕様で、1977年末から製造された。デッキ付きで上段下降・下段上昇式のユニット窓と空気ばね台車を装備する。1982年までに94両 (501 - 594) が製造された。初期に製作された501 - 520はDT44・TR227台車を装備し、車内の化粧板は淡緑色である。521号車以降は窓の配置や座席配置が変更され、車内の化粧板がクリーム色系、台車がDT44A・TR227Aに変更され、スカートの形状も変更された 。520以前の初期車両は譲渡や淘汰が進み、2018年4月時点では磐越西線及び只見線運用に充てられている郡山総合車両センターの502のみが運用されている。
片運転台のキハ47形とともに本系列の主軸となる両運転台車で、両運転台の直後2か所に片開き扉を装備し、新製時は全車がトイレ付きであった。番台区分に0番台（1 -）が存在しないのは、かつて旧形客車を気動車化改造したキハ40形（初代。後にキハ08形に改番）が存在していたためである。
暖房はキハ20系の後期製造車やキハ45系の温水暖房式から、一部のバスでも採用されている温風暖房式となった。これは、機関冷却水を床下の熱交換器に通し、ここに外気および室内空気を通して温風として車内に循環させる方式である。また、気温が低い時、下り勾配、停車時など、機関の廃熱だけでは冷却水温が上がらない場合には、機関始動用のWH250B形機関予熱器を使用して機関冷却水を加熱するが、外気温が0度程度までであれば機関予熱器の使用は不要とされている。1両あたり2基搭載された重量125 kg、放熱器水容量14.3 lの熱交換器により暖房能力は公称30,000 kcal/hとなり、従来の軽油燃焼式温風暖房に比して著しく強力な暖房能力を得た。また、機器搭載に床下スペースを必要とするが、温水管を車体内に引き通す必要がなく、構造も単純であった。加えて運転室内に自動車用温水暖房装置であるWH33形が運転席側、助士席側に各1基ずつ設置されている。一方、冷房装置は製造時には設置されず、準備工事も見送られた。当時は地方路線の冷房化は時期尚早であると判断されたほか、本形式のDMF15HSA機関は、DMH17系と比較して2割程度の出力増であるが、車両重量が大型化や事故対策などで増加したため、満足できる走行性能が得られず、そのため、自重増となる発電セットの搭載や機関出力を低下させる直結式冷房装置の搭載が困難であったことも理由である。
1999年、IBMは商用サーバ向けプロセッサでデュアルコアのPOWER4を発表し、CPUのマルチコア化をリードした。2004年5月にはインテルが従来のPentium 4の高速版でシングルコアCPUの開発コード「Tejas」の開発中止を決定したことが伝えられた。同じ頃、AMDも同社の計画から次世代のK9・K10などシリーズ以降の高速版CPUの開発を全て中止した。なお現在では、K8シリーズをマルチコア化の強化という新たな方向性で製品化したものをK10としている。2005年になって、AMDは当初から消費電力を抑えマルチコア化を見越したK8アーキテクチャの設計を行い、デュアルコア製品の提供を開始した。製品名はDual-Core OpteronとAthlon 64 X2（→Athlon X2）である。インテルは、マルチコアCPUの市場投入の出遅れをカバーするために、単純に2つのCPUのダイ (Die) を1つのパッケージに封入したマルチコア・マルチダイ形式をとり、マルチコア・チップを早く出荷するというアプローチを取った。製品名ではPentium Dなど。近年では逆にAMDが設計の単純なマルチダイのOpteronチップを出荷する一方で、IntelはCPUコアのモジュール化によって派生ダイの製造を容易にし、リングバスの導入によりコア数の増減を容易にしているため、マルチダイの手段を取っていない。また同じ2005年にはサン・マイクロシステムズはサーバ向けプロセッサUltraSPARC T1で8コアを実現した。このほかPower Architecture系では、2006年リリースのCellが8コア、2010年リリースのPOWER7が8コアである。