Pepperrørsopp har en hatt som er 3-8 cm bred, og dermed er soppen en liten sopp. Soppens hode er flat og hvelvet. I tørt vær er den glinsende, i vått være klebrig. Fargen er gulbrun, ofte med rødbrun tone. Rørene er ntilvokst eller noe nedløpende, det vil si at de går noe nedover stilken. Rørmunningen, og dermed fargen under hatten, er rustfarget til oransjebrun. Stilken er mellom 4 og 7 cm høy og mellom 0,5-1 cm tykk. Stilken er brungul bortsett fra nederst, derden er sitrongul. Stilken er bar, uten ringer eller krager, og glatt. Kjøttet er blekgult i stilken bortsett fra nederst, der den er sitrongul. Den har en brennende skarp smak.