オリジナルの塗装は、車体は0系のクリーム10号（アイボリーホワイト）よりも明るい白3号（パールホワイト、オイスターホワイト、ピュアホワイトとも）を地色に、窓周りが青20号（ディープブルー）の塗りわけである。また、ブルー塗装の下には、ピンストライプが追加されている。0系から地色を変更した理由は、100系が「国鉄改革の象徴」であり、0系に使われたクリーム10号よりも、白3号の方が汚れが目立つので、「車両をきちんと清掃する」との意識を職員に植え付けるためだった。JR西日本所属のK・P編成の塗装の変更については#K・P編成を参照。国鉄時代には「New Shinkansen」の愛称を与えられ、2階建車両（X編成8・9号車）の車体にこれを意匠した赤色のマーク（NSマーク）が標記されていた。X1編成のみ、海側は青帯と同じ大きさで、山側がそれよりも大きく描かれていた。比較検討の結果、量産車（X2 - X7編成）では、X1編成の山側と同じく若干青帯より大きい方が採用された。1987年の分割民営化後は、代わりにJRマークが貼付された。なお、JR東海所属車については、16両G編成は落成時から1・8・15→16号車の車両番号横にJR東海のコーポレートカラーであるオレンジ色（JR西日本へ譲渡された編成は青色）の小さなJRマークが張り付けられ、分割民営化前に落成していたX編成は同様に貼り替えられた。JR西日本所属車（V編成）は初期のX編成と同様に1・15号車のトイレ区画、8号車のNSマークが標記されていた箇所にJRマークが貼付されていたが、幾分小さくなっている。編成番号は運転台下端・先頭車乗務員扉・乗務員扉下部のスカート部分に記されるが、JR東海所有分は、1999年から運転台上端に編成番号を記載するように変更された。
先代である0系との最大の違いは、そのフロントマスクと2階建車両の存在である。フロントマスクは、騒音と空気抵抗の低減を図るために、鋭角にした前頭部から徐々に断面積を大きくしていく「流線型」とし、標識灯内のライト配置を0系の縦2灯から横2灯に変更して、横に細長い形に変えた。このデザインは近畿車両が提案したものが採用された。前部標識灯の際はそのまま点灯し、後部標識灯の際には赤色のフィルターが自動的に装着されて赤く点灯しているように見える。運転台の窓と車体の段差は極力小さくなり、0系では開閉可能であった側窓も固定化することで極力平滑化された。これにより、走行抵抗を0系比70%に軽減することができた（220 km/h走行時で、0系は約120kN、100系は約80kN）。なお、試作車は前照灯に角度がついているためツリ目形状であったが、量産車は角度が小さくなっている。これらの形状から「シャークノーズ（サメ鼻）」とも呼ばれる。前照灯の間にある中央の丸い部分は、非常用の連結器が収納されている。足元はスカートで覆われ、その内部には何重ものアルミ板を重ねた排障器がある。また、空調装置の室外機は200系と同様に天井車端に一括配置された。材質は0系と同じく1.6mm厚の耐候性鋼を主体に、屋根部分はコルゲート（波形）ステンレス鋼（0.8mm厚）を使用した一体構造となっている。構体重量は、0系より0.2t軽い10.3tである。
老朽化した0系の置き換えを目的としており、輸送力（編成定員）・車両の製造費は現状と同等のものとし、地上設備の改良を最小限に抑えつつ、到達時間の短縮を行うことを念頭に置いている。また、「国鉄改革の象徴」を意識して開発されており、開発目標としては「お客様第一。乗務員は二の次」が掲げられていた。
嘉吉元年（1441年）、結城合戦で敗れ安房に落ち延びた里見義実は、滝田城主神余光弘を謀殺した逆臣山下定包を、神余旧臣・金碗八郎の協力を得て討つ。義実は定包の妻玉梓の助命を一度は口にするが、八郎に諌められてその言葉を翻す。玉梓は「里見の子孫を畜生道に落とし、煩悩の犬にしてやる」と呪詛の言葉を残して斬首された。時はくだり長禄元年（1457年）、里見領の飢饉に乗じて隣領館山の安西景連が攻めてきた。落城を目前にした義実は飼犬の八房に「景連の首を取ってきたら娘の伏姫を与える」と戯れを言う。はたして八房は景連の首を持参して戻って来た。八房は他の褒美に目もくれず、義実にあくまでも約束の履行を求め、伏姫は君主が言葉を翻すことの不可を説き、八房を伴って富山（とやま）に入った。富山で伏姫は読経の日々を過ごし、八房に肉体の交わりを許さなかった。翌年、伏姫は山中で出会った仙童から、八房が玉梓の呪詛を負っていたこと、読経の功徳によりその怨念は解消されたものの、八房の気を受けて種子を宿したことが告げられる。懐妊を恥じた伏姫は、折りしも富山に入った金碗大輔（八郎の子）・里見義実の前で割腹し、胎内に犬の子がないことを証した。その傷口から流れ出た白気（白く輝く不思議な光）は姫の数珠を空中に運び、仁義八行の文字が記された八つの大玉を飛散させる。義実は後を追い自害しようとした大輔を止め、大輔は僧体となって、「犬」という字を崩し丶大（ちゅだい）を名乗り、八方に散った玉を求める旅に出た。時に長禄2年（1458年）秋のことであった。