מורגן היה אספן אבני החן הבכיר בארצות הברית במפנה המאה. האוסף שלו, שאוצרו היה הגמולוג הראשי של טיפאני ושות', הוצג בתערוכה העולמית של פריז (1889) ובתערוכה העולמית של פריז (1900) וזכה בשני פרסים. לאחר מותו נתרמו אוספי אבני החן שלו למוזיאון האמריקאי לתולדות הטבע. על שמו נטבע המורגניט, סוג של מינרל בריל בצבע אדום-ורדרד.