元々はアニメ化に際して灰原哀を先に登場させる予定だったが、出番を延期された彼女に代わり（詳細は黒ずくめの組織#アニメにおける変更点を参照）、アニメ制作会社側から「ライバルキャラが必要」と言われて作成され、服部が先行登場することになった。また、前述の寝屋川市在住という設定や後述の剣道部に所属という設定は、初登場当時に編集者として青山を担当していたプロデューサーの浅井認が同市出身で青山と同様に剣道少年だったことにちなんでおり、浅井は平次や和葉が話す大阪弁の監修も務めていたという。
大阪在住で出番が多いにもかかわらず、本編では地元の大阪で事件に遭遇することは少ない。コナンの正体が新一と知ってからは、頻繁に事件を持ち込んで東京を訪れるようになった。また、和葉の登場以降は基本的に彼女と共に登場しているが、単独で登場することもある。
名前の由来は、テレビドラマ『探偵物語』の服部刑事からで、名前の「平次」は「刑事」を時代劇『銭形平次捕物控』の銭形平次にひっかけた。
人物.
コナン（新一）以上に勝ち負けにこだわる負けず嫌いな性格で、推理勝負となると冷静さを失ってしまうことが多々ある。平蔵に殴られ、「捜査妨害」として戒められてもあきらめなかったり、カンパニー（CIA）と関係がある事件であることが分かっても、コナンと同じく興味本位でのめり込む。コナンに花を持たせる義理堅いところもあるが、彼が手柄を立てるとたいていは「ええトコ取り」と気にする。短気で喧嘩っ早く、気にさわることをした者にすぐ怒鳴ったり絡んだりするため、白馬探からは「探偵としては血の気が多く先走りしがちで野蛮」と批判されたが、現場保存よりまだ生きているかもしれない人命を大事にする熱血漢である。コナン（新一）と共通する言動も多い。また、探偵としての活動時には報酬を受け取らない主義を徹底しており、「二十年目の殺意 シンフォニー号連続殺人事件」や「鳥取クモ屋敷の怪」では受け取った依頼料を返すため、わざわざ東京や鳥取まで訪れた。