ההיסטוריה הקדומה של הפלפל השחור משתלבת (ומסתבכת) לעיתים קרובות עם ההיסטוריה של קרובו, הפלפל הארוך (Piper longum). הרומאים הכירו את שניהם וקראו לשניהם באותו שם (piper), אך עם גילויו של "העולם החדש" ושל פלפל הצ'ילי לאחר מכן, ירדה קרנו של הפלפל הארוך. פלפל הצ'ילי, הדומה בצורתו ובטעמו לפלפל הארוך כאשר הוא מיובש, היה קל יותר לגידול במקומות ובאזורים שהיו נגישים יותר לאירופה.
בסוף ימי הביניים כמעט כל הפלפל השחור באירופה, במזרח התיכון ובצפון אפריקה היה במקורו מאזור מלבר שבהודו. החל מהמאה ה-16 החלו לגדל פלפל גם בג'אווה, בסונדה, בסומטרה, במדגסקר, במלזיה ובמקומות נוספים בדרום-מזרח אסיה, אולם אזורים אלו סחרו בעיקר עם סין או עשו בפלפל שימוש מקומי. הנמלים באזור מלבר שימשו בנוסף גם מקום עצירה למסחר בתבלינים נוספים, שמקורם הגאוגרפי היה מזרחה יותר במרחבי האוקיינוס ההודי.
ימי קדם.
גרגרי פלפל שחור נמצאו בנחיריו של רעמסס השני, ושימשו כחלק מטקס החניטה סמוך למותו בשנת 1213 לפנה"ס. עם זאת, מעט מאוד ידוע על שימוש נוסף שעשו בפלפל במצרים העתיקה, או על האופן שבו הוא הגיע לנילוס מהודו.
הפלפל (הן השחור והן הארוך) היה מוכר ביוון עוד במאה הרביעית לפנה"ס, אם כי מדובר היה ככל כנראה במוצר מותרות שהיה בהישג ידם של העשירים בלבד. באותה תקופה עברו נתיבי המסחר ביבשה או באוניות ששטו סמוך לחופי הים הערבי.
הפלפל הארוך, שגדל בחלקה הצפון-מערבי של הודו, היה נגיש יותר בהשוואה לפלפל השחור שגדל באזורים דרומיים יותר, ויתרון מסחרי זה, יחד עם טעמו החריף יותר של הפלפל הארוך, הפך כנראה את הפלפל השחור לנפוץ פחות באותה תקופה.
בימיה הראשונים של הקיסרות הרומית, ובמיוחד לאחר כיבוש מצרים על ידי רומא בשנת 30 לפנה"ס, הפכה חציית הים הערבי ישירות לחוף מלבר שבהודו לעניין שבשגרה. פרטים על נתיב מסחרי זה באוקיינוס ההודי נמסרו בסיפור ההפלגה בים האריתראי. לפי הגאוגרף הרומי סטרבו שלחה האימפריה החדשה צי שמנה כ-120 אוניות להפלגה שנתית להודו וחזרה ממנה. הצי תזמן את המעבר בים הערבי באופן שתנוצלנה רוחות המונסון החזויות לעריכתו של שיט מהיר יותר. בדרך חזרה מהודו עברו האוניות בים האדום, משם הועברה הסחורה דרך היבשה או דרך תעלת הנילוס לנהר הנילוס, עד לאלכסנדריה, ומשם הועלתה על אוניות בדרכן לאיטליה. המתאר הגאוגרפי הזה של נתיב המסחר שלט בסחר הפלפל לאירופה במשך 1,500 שנים נוספות.
בנתיב ישיר זה של האוניות לחוף מלבר ובחזרה החל הפלפל השחור לנוע בנתיב קצר יותר בהשוואה לנתיב שעבר הפלפל הארוך, ומטבע הדברים נתן הדבר את אותותיו גם בתמחור התבלין. בספרו "תולדות הטבע" מספר פליניוס הזקן על המחירים ברומא בשנת 77 לספירת הנוצרים: "הפלפל הארוך עולה 15 דינר לליטרה בעוד שמחירו של הפלפל הלבן הוא 7 ומחירו של הפלפל השחור 4". פליניוס ממשיך בדבריו ומתלונן ש:"אין שנה שבה הודו אינה מרוקנת את האימפריה הרומית מחמישים מיליון מטבעות", וממשיך לספר אודות הפלפל:
ספר הבישול הרומאי מן המאה השלישית De re coquinaria, המתבסס על מרשמים קדומים יותר של אפיקיוס מן המאה הראשונה, כולל את הפלפל כמרכיב בחלק ניכר ממרשמיו. ההיסטוריון חוקר האימפריה הרומית אדוארד גיבון כתב בחיבורו המפורסם "שקיעתה ונפילתה של הקיסרות הרומאית" כי הפלפל היה מרכיב מועדף בבישול הרומאי העילי.
אירופה הפוסט קלאסית.
ערכו של הפלפל היה כה גבוה עד כי נעשה בו גם שימוש כערבונות, ואף כמטבע עובר לסוחר. המשיכה לפלפל (או לערכו הכספי) עברה גם לאלו שחזו בנפילתה של רומא. עדויות היסטוריות מספרות כי כאשר ערכו אטילה ההוני ואלאריק הראשון הוויזיגותי מצור על רומא במאה החמישית לספירה, הם דרשו כופר נפש בצורת פלפל במשקל של יותר מטון. לאחר נפילתה של רומא החלו גורמים שונים להשתלט על חלק מהמסחר בתבלינים, ביזנטיון תחילה, והערבים לאחריה. עד לסוף ימי הביניים רוכזה מרבית השליטה במסחר בתבלינים תחת שלטון האסלאם, וכאשר הגיע המסחר לים התיכון הוא נשלט בעיקר בידי כוחות איטלקיים - ערי המדינה ונציה וג'נובה, שעלייתן מומנה ברובה על ידי המסחר בתבלינים.
חידון שנכתב במאה השביעית על ידי סנט אלדהלם, הבישוף של שרבורן, מבהיר במידה מסוימת את התפקיד שמילא הפלפל באנגליה באותה תקופה:
אומנם מקובל לטעון שבימי הביניים שימש הפלפל לשיפור טעמו של בשר רקוב למחצה, אך אין כל עדויות התומכות בטענה הזו, והיסטוריונים רבים רואים בה טענה שאינה סבירה בעליל ולו מן הטעם הפשוט שאם הפלפל בימי הביניים אכן היה מוצר מותרות שרק עשירי העם יכלו להשיגו, הרי שלבטח עמד להם הונם לרכוש בשר שאינו מקולקל . זאת ועוד, האמונה שהפלפל שימש לרוב גם כחומר משמר מוטלת בספק גם היא, שכן נכון אומנם שהחומר פיפרין המקנה לפלפל את טעמו החריף מכיל גם תכונות אנטי-מיקרוביאליות, אך בריכוזים שבהם עושים שימוש בפלפל כתבלין השפעתו שולית לחלוטין. המלח, לעומת זאת, הוא חומר משמר יעיל הרבה יותר, וטיפול בבשר באמצעות מלח היה נוהג מקובל ונפוץ מאוד, במיוחד בחודשי החורף. עם זאת, יש מקום להניח שהפלפל, כמו תבלינים אחרים, מילא תפקיד חשוב בשיפור טעמם התפל של בשרים משומרים.
מחירו המופרז של הפלפל בימי הביניים, לרבות מונופול המסחר שהיה בידיהן של ערי איטליה באותה תקופה, היה אחד הגורמים שהניעו את הפורטוגזים לחפש נתיב ימי לתת היבשת הודו. בשנת 1498 היה ואסקו דה גאמה האירופי הראשון שהצליח להגיע להודו דרך הים. כאשר שאלו הערבים בדרום-מערב הודו (אלו מביניהם שדיברו ספרדית או איטלקית) מהן הסיבות לבואו, ענו נציגיו "באנו לחפש נוצרים ותבלינים". אף שהפלגה ראשונה זו להודו דרך כף התקווה הטובה נחלה הצלחה קטנה יחסית, המשיכו הפורטוגזים לערוך מסעות רבים לאזור, תוך שימוש בעליונותם הימית למטרת השתלטות על כל המסחר בים הערבי. אלה היו ימיו הראשונים של האימפריאליזם האירופי באסיה, שקיבל גם לגיטימציה נוספת (לפחות מנקודת המבט האירופית) בחוזה טורדסיאס בשנת 1494, שהקנה לפורטוגל זכויות בלעדיות במחצית העולם בה גדל הפלפל.
ידוע כי עושרה המופלג של דונה גרציה נשיא, בת למשפחת אנוסים פורטוגזית שנחשבה במאה ה-16 לגבירה העשירה בעולם, הגיע ממסחר בפלפל שחור. חשיבות משפחתה של דונה גרציה בפורטוגל כסוחרת פלפל הייתה כה גדולה, עד כי לא אחת ניצלה מאימי האינקוויזיציה הפורטוגזית הודות לכך. עם התפשטות עסקי המסחר שלה העתיקה דונה גרציה את מושבה מליסבון לאנטוורפן, שהתפתחה למרכז הסחר האירופי באותה עת.
אל מול רשתות המסחר העתיקות לא הצליחו הפורטוגזים לשמר את שליטתם במסחר התבלינים לאורך זמן. הערבים והוונציאנים הצליחו להבריח כמויות אדירות של תבלינים דרך המצור הפורטוגזי והפלפל החל לזרום בשנית דרך אלכסנדריה, איטליה ומסביב לאפריקה. במאה השבע עשרה איבדה פורטוגל כמעט את כל נכסיה באוקיינוס ההודי להולנדים ולבריטים, ונמלי הפלפל במלבר נפלו לידיהם של ההולנדים בשנים 1661–1663.
ככל שהתרחבה אספקת הפלפל לאירופה, כך ירד מחירו (אם כי סך ערכו של המסחר בייבוא לא ירד באופן כללי). הפלפל, שבימי הביניים היה כאמור מוצר לעשירים בלבד, הפך לתבלין יומיומי גם עבור מעמד הביניים המתהווה. כיום מהווה הפלפל לא פחות מחמישית מסך הסחר בתבלינים.
סין.
במאה השלישית לספירה הופיע הפלפל השחור באופן ברור בטקסטים סיניים בשם 'הוג'יאו' או "פלפל זר". ניתן לשער שהוא לא היה נפוץ במיוחד בתקופה זו, כי שמו לא צוין בספר שיצא לאור במאה הרביעית ותיאר מגוון רחב של תבלינים מחוץ לגבולה הדרומי של סין, לרבות הפלפל הארוך. יחד עם זאת, עד המאה השתים עשרה הפך הפלפל למרכיב מקובל במטבחם של העשירים והאליטות החברתיות, ולפעמים אף תפס את מקומו של הפלפל הסצ'ואני המקומי של סין (שהוא פרי מיובש המרדים את הלשון, שמקורו מצמח שאינו קשור למשפחת הפלפלים).
מרקו פולו מעיד על הפופולריות של הפלפל בסין של המאה השלוש עשרה בסיפוריו על צריכתו בעיר קינסיי (ג'ג'יאנג) "מר מרקו שמע מפי אחד מפקידי המכס של החאן הגדול כי הכמות היומית של הפלפל המגיעה לעיר קינסיי למטרות צריכה הגיעה לשיעור של 43 מטענים, כאשר משקלו של כל מטען עמד על 223 ליברות". אומנם מרקו פולו אינו נחשב למקור מהימן במיוחד בכל הנוגע לסין, ואין ספק שהמידע הזה שהגיע ממקור שני מוטל בספק עוד יותר; אך אם הכמות המוערכת הזו בסך 10,000 ליברות (כ-4,500 ק"ג), לעיר אחת בלבד ובמשך יום אחד בלבד, קרובה אך במעט לאמת, הרי שהיקף ייבוא הפלפל לסין עלה בעשרות מונים על היקף הייבוא של התבלין לאירופה.
ברפואה.
בדומה לשאר התבלינים שמקורם במזרח, שימש הפלפל גם כתבלין וגם כתרופה. אמנם הפלפל הארוך, החריף יותר, הועדף בדרך כלל כתרופה, אך בשני הסוגים נעשה שימוש.
גרגרי פלפל שחור מופיעים כתרופות של הרפואה האיורוודית, הסידהית והאוונאנית של הודו. ספר התרופות הסיריאק מהמאה החמישית מציין את הפלפל (או אולי את הפלפל הארוך) כתרופה למחלות רבות ושונות: עצירות, שלשול, כאב אוזניים, נמק, מחלות לב, בקע, צרידות, קשיי עיכול, עקיצות חרקים, נדודי שינה, כאבי פרקים, בעיות כבד, מחלות ריאה, כיבי פה, שיזוף יתר, ריקבון שיניים וכאבי שיניים.
מקורות שונים מהמאה החמישית ואילך ממליצים בנוסף גם על הפלפל לטיפול בבעיות עיניים, לעיתים קרובות על ידי משחות או רטיות המכילות פלפל הנמרחות או מונחות על העין. אלא שלמעשה אין כל עדות רפואית לכך שהתרופות הללו משפיעות לטובה ולו מן הטעם הפשוט שפלפל שבא במגע ישיר עם העין אך טבעי הוא שיגרום לחוסר נוחות ואפילו לנזק.