開業時は遠賀郡島門村と浅木村の境目に駅が設けられ、それぞれが遠賀川の流域に築かれた村であった事から「遠賀川駅」と命名された。「遠賀川」の「遠賀」は「岡」を示し、「日本書紀」や「万葉集」では「遠賀・岡（おか）の水門（芦屋湾に注がれる川）」としての記述があり、この「遠賀（おか）」が「おんが」と読まれ、今日の「遠賀川（おんががわ）」になったと言う。しかし、この「遠賀川」は古い文献では「直方川」や「嘉麻川」と読まれていて「遠賀川」の記載は一切無いため、いつから「遠賀川」と読まれるようになったかは一切不明で、その名が定着したのは明治時代に遠賀郡が発足してからと言われる。
5番線の外側には、JR九州の子会社である「九鉄工業」が運営していた「九鉄工業・遠賀川レール技術センター」があり、黒崎駅から送られてきたレールをロングレールに改造する工事などを実施していた。当センターには「遠賀川駅常備」表記のチキ5500形16両（小倉総合車両センター所属）が留置されていたほか、レール吊り上げのクレーンも設置されていた。その後、レールセンターは廃止され、その跡地を利用してJR九州と九鉄工業の合同研修施設「遠賀川施設実習センター」を設置した。ここでは中堅社員やグループ企業の土木・施設関係職員の検査・作業技術の向上を目的に、実物大のトンネルや駅ホームを備えている。また、センター建物では、施設関係の事故などの展示を行っているという。
駅舎に面した単式ホーム1面1線と島式ホーム1面2線に、ホームのない待避線2線を合わせた計2面5線の設備を有する地上駅。のりばは単式ホームの1番、島式ホームの2番、3番からなる。2番線は下り貨物列車待避用、5番線は下り着発線・レールセンターの出入り用で、5番線とその外側には廃止されたレールセンターのヤードが広がる。互いのホームは跨線橋で連絡している。駅本屋は地面より高い所に存在するため、車椅子用スロープが設置されている。また、駅の外側には実物大のトンネルや駅ホームを備えた実習線が設置されている。JR九州鉄道営業が管理する業務委託駅で、自動改札機およびみどりの窓口が設置されている。駅舎内（改札外）にキヨスクが設置されていたが、2009年に廃止、撤去された。前述の火災により、1964年に建設された約400平方メートルの駅舎は焼失した。以降、駅舎西側（博多駅）側に設置された仮駅舎・臨時改札口（自動改札機はないがSUGOCA等については無人駅仕様のものを設置し対応）での営業をしていたが、2017年12月9日から軽量鉄骨造（プレハブ）の約66平方メートルの駅舎が開設される。今後、プレハブではない駅舎の再建について町とJRで協議する方針となっている。
清の康熙末から雍正のはじめごろの話とされている。北京西郊の双鳳村に住む安学海は漢軍八旗の正黄旗に属し、清廉の人であったが、老年にいたって思いがけず科挙に合格し、南方の地方官の職を得、一人息子を都に残して任地に向かう。しかし汚職の横行する官界で清廉な安学海は総督に嫌われ、洪水の危険のある場所に任命される。前任者の手抜き工事によって洪沢湖があふれたため、安学海は責任を問われて獄に繋がれる。安学海の子の安公子（名は驥、号は竜媒。公子＝若旦那）は賠償金を届けるため、自分の科挙を放り出して淮安まで慣れない旅に出るが、雇った荷運び人足が安公子をだまし討ちにして金を盗もうとたくらむ。世間知らずの安公子は彼らに騙されてついていくが、とちゅうで逃げ出した騾馬を追いかけて古寺にたどりつき、そこで一泊することになった。しかし寺の住職は実は赤面虎黒風大王という賊で、安公子を柱に縛り上げて殺そうとする。そこへ現れた女が飛び道具や倭刀（日本刀）を武器にひとりで賊を全滅させる。女は賊にとらえられていた張金鳳とその両親を助けだす。彼らは農民だったが、道をまちがえてこの寺にたどりついた。賊が張金鳳を我が物にしようとしたが、金鳳の操が固いために閉じ込められていたのだった。女は十三妹と名乗り、父が上司の恨みを買って獄死したため、鄧九公という侠客のもとに身を寄せ、父の仇をとろうとしている。悪徳商人やごろつきが奪った金を盗む強盗で生活しているとつげる。十三妹は金鳳の操の固さに感心し、安公子と無理やり結婚させる。十三妹は去るが、一行は無事淮安に到着し、父は話を聞いて安公子と張金鳳の婚姻を認める。総督は収賄が露見して辺境に流刑になり、安学海の名誉は回復される。安学海は十三妹について思い当たることがあり、その親分である鄧九公のもとを訪れて、十三妹こと何玉鳳の家が自分と父祖以来の親交があること、仇の紀献唐がすでに死んでいることをつげる。安学海と鄧九公は十三妹を説得して安公子と結婚させようとする。十三妹は安公子との結婚を承認し、第二夫人になる。安公子は学問に励み、郷試に合格して挙人の第六名となり、翌年の会試・殿試にも及第して進士（探花）となった。ウリヤスタイ参賛大臣に任命されるが、任地が遠くて離ればなれになってしまう妻たちは悲しむ。しかし結局山東に任地が変わる。その後安公子は位人臣をきわめ、張金鳳と何玉鳳はそれぞれ子宝に恵まれる。