בגיל שבע-עשרה ערך את שירי חברו מיכ"ל. אד"ם הכהן ומיכ"ל עיצבו את דמותו של גורדון הצעיר: האחד בכוחו המרסן, בדקדוקי הלשון והצורה והמחשבה; והשני - במעוף דמיונו, בלהט יגונו ובחינו האביבי. השפעת אד"ם הכהן ניכרת על שירי ההגיון (שירים ליריים) של יל"ג, והשפעת מיכ"ל על שירי העלילה (אפוסים) שלו.
לאחר שהחמיר המצב הכלכלי בבית הוריו, החליט יל"ג לחפש לו פרנסה, והעמיד עצמו בגיל 22 למבחן בבית המדרש לרבנים בווילנה. היה זה בית מדרש שנוסד על ידי הממשלה הרוסית, ומטרתו הייתה להעמיד דור של רבנים משכילים מטעם הממשלה, שישמשו כמורים בבתי הספר הממשלתיים לבני היהודים. לאחר שהצליח במבחנים, הוא הוסמך כמורה, והחל לעבוד בבית הספר של פוניבז', ואחר כך בבתי הספר שבעיירות שאולאי וטלז. הוא דבק בעבודת ההוראה במשך כעשרים שנים, שהיו גם השנים הפוריות של יצירתו.
בשנת 1857, בגיל עשרים ושבע, הוציא יל"ג לאור את ספרו הראשון, פואמה על ימי התנ"ך: "אהבת דוד ומיכל". בתקופה זו החל בפרסום מאמרים בגרמנית ובעברית ובהמשך דרכו פרסם מאמרים גם בעיתונות הרוסית. שלוש שנים לאחר מכן פרסם את "משלי יהודה", אסופת משלים מקוריים ומתורגמים ממשלי אזופוס ולה פונטיין
בסוף שנות ה-60 תקף גורדון בחריפות במאמרים, בשירים ובסיפורים את החומרות המיותרות של רבני תקופתו ואת התנגדותם להשכלה, ונעשה לדוברה. הוא ומשה לייב ליליינבלום קראו לתיקונים בדת והעמדתם על דברים שבעיקר, תוך ביטול חומרות מיותרות.
ב-1871 פרסם "משלים קטנים לילדים גדולים". במשלים החריפים והמקוריים, הכתובים בצורת שיר, מלחמה למשורר ברבנים המחמירים בהלכות וב“מאשרים המתעים”, שעיניהם רק לטובת עצמם וּלטובת זולתם אין מהם דואג (כאלה הם, לדוגמה, המשלים “ברבורים אבוסים”, “הפה שאסר הוּא הפה שהתיר”), ב"קנאים מורדי-האור החוסמים בפני בני-הנאוריים" את הדרך אל ההשכלה (המשלים: “יעלת סלע והנשר”, “מעשה נערות”, “הזאב ובנו”), במנהיגי-הקהל, הפוסעים על ראשי העם (“הצפרדע אשר ביאור מצרים”, “השעיר המשתלח”), ומאידך גיסא מלחמה ליל"ג גם בעברים המלומדים, העוזבים את עמם ובמשכילים, שהשכלתם אינה מביאתם לנועַם המידות (“בנים זרים”, “נחש מרקד”, “המנֻוָול בבית המדרש”).
בשיר "ברבורים אבוסים" גורדון תיאר את העוני חסר הרחמים שאליו גוררים רבנים שאינם בקיאים בתורה את הציבור בחומרותיהם. שיר זה, ושירים אחרים ברוחו, ובמיוחד המאמר הסרקסטי "בזכותן של הרבנים" בו גורדון שיבח, כביכול, את גאונותם של הרבנים המחמירים, גררו בעקבותיהם תגובה רבנית חריפה; בעמוד השער של הביטאון "כבוד הלבנון" פורסם השיר "משכיל לענות לבני קורח מזמור שיר", המזכיר את דברי המדרש המייחס לקורח טענות דומות לאלו של יל"ג, ומסיים בקריאה: "קֹרַח אַבִיהֶם דִבֵּר מִכְּבָשִׂים, וּבְנוֹ בְּכוֹרוֹ מִבַּרְבּוּרִים אֲבוּסִים; אֶרֶץ, אֶרֶץ, רְאִי זֶה לְפָנַיִךְ. פִּתְחִי פִּיךְ וְיָבוֹא גַם הוּא בְּמֵעַיִךְ". הפולמוס הביא לשורת מאמרים מתלהמים משני המחנות. מאבק נוסף שגורדון יצא אליו היה בעניין חינוך הבנות ושיפור מצבה של האישה בחברה היהודית.
משנודע שמו ברבים, הוזמן לבירה סנקט פטרבורג, בשנת 1872, כדי לשמש שם כמזכיר הקהילה וכמנהל חברת "מפיצי השכלה בישראל". בשנות ה-80 של המאה ה-19 הרבה לכתוב בכתב העת העברי הראשון שיצא ברוסיה, "המליץ", והיה לעורכו.
ביקורתו החריפה של גורדון על הממסד הרבני עוררה זעם רב בקרב החברה השמרנית וככל הנראה הביאה להלשנה עליו בפני השלטונות הרוסיים. ב-1879 גורדון ואשתו נאסרו באשמת שווא של חתירה תחת שלטון הצאר. אחר מעצר של שבעים יום הוגלו לכמה חודשים לעיירה נידחת עד ששוחררו. המאסר והגלות, והעובדה שמשרתו בסנקט פטרבורג נמסרה לאחר בזמן גלותו, דיכאו מאוד את רוחו. הפרעות ביהודים ב-1881–1882 בדרום רוסיה ("הסופות בנגב") גרמו למשבר בתפיסתו. אמונתו בכוחה של ההשכלה לפתור את בעיית היהודים במזרח אירופה באמצעות התערותם בחברה הלא-יהודית התערערה. גורדון, שפקפק בפתרון הלאומי שהציעו "חובבי ציון" ולא ראה בארץ ישראל אפשרות למקלט מיידי ובטוח להמוני היהודים, ואף חשש כנראה מפני השתלטות הרבנים על יישוב עתידי שיקום בה, קרא להגירת היהודים מרוסיה לאמריקה, ל"מלון אורחים אחר" (כך בקריאתו "קומי נלכה, אחותי רוחמה" בשירו "אחותי רוחמה").
בשנת 1891 חלה ונותח בברלין, ונפטר בעיר סנקט פטרבורג בשנת 1892.
בשנותיו האחרונות כתב במכתב, שהתפרסם לבקשתו שלושים יום לאחר מותו, שהוא שינה את דעתו והחליט להשתתף בעבודות הצבור ליישוב ארץ ישראל.
יצירתו.
שתי תקופות אפיינו את יצירתו:
התקופה הראשונה מתאפיינת בשירה רומנטית על נושאים מקראיים, התקופה השנייה בשירה ריאליסטית סאטירית ולוחמנית על ענייני ציבור.
הוא נהג כמהפכן שבא לכפור במושגי-חיים מסורתיים של האומה הישראלית, שנקבעו בתוכה כמושכל ראשון במשך אלפי שנים. אך באותה מידה שהסתייג מקנאים דתיים, הסתייג ממתבוללים שהתרחקו ממורשתם היהודית ואחזו אך ורק בהשכלה, ואת מררתו שפך בעיקר על ההנהגה, שלתפיסתו הייתה עילת העילות לצרותיה של האומה בגלות: על רבנים ועל פרנסי הקהילה. כך כתב בשירו "בעלות השחר":
ברנר אמר שיל"ג מחה בשירתו הסרקאסטית כנגד הדת ומנהיגיה מצד אחד, וכנגד הגולה והגיטו מצד שני.
שירת יל"ג עשירה וכוללת אפוס תנכ"י רומנטי, פואמות מקראיות, אגדות, שירי עלילה סאטירים, בלדות, שירי הגיון, משלים, מכתבים, קינות, משא חזיון, תרגומים של ביירון, שילר, שייקספיר, פושקין ולסינג; שירי אל-מקמא"ת, רפסודות, ועוד.
על יצירותיו, שנושאיהן תנ"כיים נימנות הפואמות האפיות (שירי עלילה מקורות ימים ראשונים): "אהבת דוד ומיכל", "דוד וברזלי", "אסנת בת פוטיפרע". יצירות פיוטיות רומנטיות אלו מהוות המשך לשירת ההשכלה המקראית של שלום הכהן, אברהם מאפו, אד"ם הכהן ומיכ"ל; וחוברו גם בהשפעת האידיאליזם הרומנטי הנשגב של שילר. הפואמות ההיסטוריות "בין שיני אריות", "צדקיהו בבית הפקודות", ו"" הן קינות מתריסות על צער האומה בכל דורות גלותה.
בשנת 1854 חיבר את "הוי אח!", משא חזיון בארבעה מחזות, קינה לזכר ידידו, רע נעוריו, מיכ"ל; והוציאו לאור ברשות אביו בשנת 1876, במלאת חצי יובל לפטירתו.
בשנת 1859 פרסם יל"ג את ספרו "משלי יהודה", הכולל כמאה משלים, ברובם תרגומים ועיבודים של משלי איזופוס, פדרוס (Gaius Julius Phaedrus), לה פונטן, לסינג וקרילוב. כן פרסם ספר משלים בנוסף בשם "משלים קטנים לילדים גדולים" ברוח השקפת ההשכלה.
על שיריו הסאטירים הגדולים (שירי עלילה מקורות ימינו) נמנים "אשקא דריספק", "ושמחך בחגך", "קוצו של יוד", "שומרת יבם", ו-"שני יוסף בן שמעון". מהם "קוצו של יוד", פואמת המחאה הנוקבת על מצבה האומלל של האשה העברייה, ועל מעלליהם של הרבנים שטיפלו בגט שלה, הפכה לפסגת יצירתו, והיא גם הנקראת ביותר והנזכרת ביותר.
בשירו המפורסם "לְמִי אֲנִי עָמֵל?" הביע יל"ג את תסכולו הגדול מהעם, הדור הישן והדור החדש כאחד, המואסים בשירה ובשפה העברית . בשנת 1866 התפרסם שירו "הָקִיצָה עַמִּי", שבו קרא ליהודים להשתלב בתוך החברה הכללית: . בייחוד זכתה לפרסום שורה מתוך השיר: .
במשך כעשר שנים פרסם יל"ג סדרת פיליטונים בעיתון "המליץ" בשם: "צלוחית של פלייטון". הפיליטונים היו בעלי אופי חידתי ומשעשע ועסקו בנושאים קלילים ורציניים גם יחד. יל"ג הרבה לכתוב מאמרים וסיפורים. בשנתו האחרונה חיבר את ספר זיכרונותיו "על נהר כבר".
אגרותיו הרבות של יל"ג נחשבות פנינה ספרותית. יעקב פיכמן כתב על אמנות כתיבת האגרות של יל"ג, שלעיתים קרובות שומעים כביכול את בת צחוקו הטובה, שאינה אופיינית לכתבי המחאה שלו. באף יצירה שלו, טוען פיכמן, לא נמצאו פשטות הביטוי והטבעיות שבלשון כמו במכתביו.
מקומו בהתפתחות הספרות העברית החדשה.
ספרות ההשכלה היא חוליה בשרשרת הספרות העברית לדורותיה, המחברת בין שירת הרמח"ל לשירת חיבת ציון ולספרות העברית החדשה. יל"ג, כמחזיק בהשקפת תנועת ההשכלה בדור האחרון של המשכילים, לכאורה קרוב יותר לקודמיו מאשר לדורות הבאים. אלא שבפועל, התעסקותו הרבה בבעיות חיי השעה של דורו פרצה את הדרך לספרות הריאליסטית של מנדלי מוכר ספרים, האמן הגדול של הספרות העברית החדשה; והרחיקה את יצירתו מפסגת ספרות ההשכלה - "אהבת ציון" של אברהם מאפו.
לדעת יוסף חיים ברנר, גדול כוח הקפיצה של יל"ג מאד"ם הכהן מאשר זה של ביאליק מיל"ג. כלומר, שירת יל"ג קרובה יותר ברוחה לשירה העברית החדשה מאשר לשירת ההשכלה. יעקב שטיינברג כתב שיל"ג "חדר על נקלה לחביונה של תקופה חדשה", ואילו ביאליק התייחס לשילוב שבין היסוד הריאליסטי ביצירותיו ליסוד הציורי-אמנותי.
שירי עלילה מקורות ימים ראשונים.
אהבת דוד ומיכל.
לאחר שבנערותו החל לחבר אפוס הרואי על מלחמות דוד בפלשתים בעקבות האפוסים של טאסו ואריוסטו, הוציא יל"ג לאור בגיל עשרים ושבע את הפואמה הרומנטית, "אהבת דוד ומיכל" בהשפעת שירת מיכ"ל ושילר. האפוס מורכב משנים-עשר שירים, מעוטר במזמורי תהלים, ועוסק במאורעות שבספר שמואל מנקודת המבט של אהבת דוד ומיכל, שההשגחה העליונה, היא זו שנתנה בלבם למען עשות את כל המעללים. יחסית לאפוסים העבריים שקדמו לו, התוכן מקורי יותר, ויש שיפור בסגנון הבהיר והמצומצם, אלא שדרשות-מוסר דידקטיות והתפלספויות מופשטות, בנוסח אד"ם הכהן, מכבידות על הקריאה. ניכרת גם עדיין השפעת האפוסים האיטלקים בצורה הקבועה של בתי השירים, וברעיון שדוד הרחיק מאוהלו את מיכל העקרה מתוך החובה לארצו ולעמו. יוסף קלוזנר שיבח את הפואמה בצניעות פיוטית ובחגיגיות נעלה שיש בה.