ישיבת "קול תורה" נוסדה בירושלים בשנת ה'תרצ"ט (1939) על ידי רבנים יוצאי גרמניה - הרב יחיאל מיכל שלזינגר, יליד המבורג (ששימש קודם לכן כמורה הוראה ור"מ בפרנקפורט) והרב ברוך קונשטט אב"ד וראש ישיבה בעיר פולדה עבור נוער שעלה ממערב אירופה. הישיבה הוקמה בעקבות אירועי "ליל הבדולח", עבור יוצאי גרמניה שעלו לארץ ישראל. הישיבה הייתה מושפעת במידה מסוימת מהגותו של הרש"ר הירש ומאסכולת "תורה עם דרך ארץ", שאותה ייסד, וגם בסממנים מדרך הלימוד הליטאית. בשנותיה הראשונות, הורשו תלמידים ממשפחות יוצאי גרמניה ללמוד להשלמת בגרויות, במקביל ללימודיהם בישיבה, זאת במטרה למנוע מהם ללכת לתיכונים. הישיבה התייחדה בכך ששפת הלימוד הייתה עברית (ולא יידיש) ושחלק מסדרי הלימוד הקבועים בה היו שיעורי תנ"ך. שמה של הישיבה ניתן לה על ידי הרבנית מטל שלזינגר, רעייתו של ראש הישיבה, שאמרה כי "קול לימוד התורה של בעלה ערב לה יותר מכל התענוגות הגשמיים שהותירה אחריה בגרמניה". יהודי ירושלים בני היישוב הישן, שלא הורגלו לסוג זה של ישיבות, נהגו לכנותה בעוקצנות: "קולטורה", שמשמעותה תרבות בלועזית.
חבר הרבנים של הישיבה כלל את: הרב יונה מרצבך רב העיר דרמשטאדט, הרב יוסף יהודה ריינר, יוצא הונגריה, והרב חיים יוסף יעקובוביץ ששימש כר"מ בישיבת פרנקפורט יחד עם הרב שלזינגר, ועלה ארצה בה'תרצ"ד. בשנתה הראשונה למדו בישיבה כ-50 תלמידים.
בין השנים ה'תש"ו-ה'תש"ח, קלטה הישיבה נערים ניצולי השואה, בעיקר יוצאי גרמניה, טרנסילבניה והונגריה, אך גם ממדינות אחרות במזרח אירופה, שהגיעו ארצה כמעפילים או במסגרת עליית הנוער.
בחלוף השנים השתנה הקו הלימודי בישיבה והיא הפכה לישיבה ליטאית לכל דבר, ובה לימודים במתכונת דומה לישיבת חברון וישיבת פוניבז'. למרות זאת נשמרו בה מסורות מסוימות האופייניות ליהודים יוצאי גרמניה. כמו כן, עד לסוף שנות ה-70 היו בישיבה הקטנה והגדולה יחד רק שש כיתות (ללא קיבוץ), ובהמשך פנו הבחורים לישיבות אחרות. התלמידים ממוצא ליטאי עברו בעיקר לפוניבז' ולחברון, והתלמידים ממוצא חסידי עברו לישיבת טשיבין.
בשנת ה'תש"ט נפטר ראש הישיבה הרב שלזינגר. את ראשות הישיבה קיבל הרב שלמה זלמן אוירבך, תפקיד שבו שימש במשך 46 שנה (לצידם של הרב ברוך קונשטט ובהמשך בנו הרב אלחנן משה קונשטט). תפקיד זה כלל את מסירת השיעור לשתי הכיתות הגבוהות (ה'1 וה'2) ובחינה חודשית לכל כיתה. עם פטירתו של הרב אוירבך בשנת ה'תשנ"ה (1995), עברה ראשות הישיבה לבנו של ראש הישיבה הראשון, הרב משה יהודה שלזינגר. בשנת ה'תשע"ז (2017) מונה בנו, הרב שלמה שלזינגר לכהן לצדו בראשות הישיבה.
בתפקיד משגיח בישיבה הגדולה שימש הרב גדליה אייזמן החל משנת ה'תש"ד (חמש שנים לאחר קום הישיבה). בשנות השמונים הפסיק הרב אייזמן את שיחותיו, ואת מקומו ממלא הרב יצחק ירוחם בורודיאנסקי, חתנו של הרב אוירבך, המוסר שתי שיחות בשבוע ו"ועדים". לצד הרב אייזמן כיהן הרב גבריאל לרר. במשך 20 שנה היה הרב שלמה וולבה מוסר שיחה שבועית בישיבה, במוצאי שבת.
בישיבה מכהנים אנשי צוות ספרדים.
הנהלת הישיבה אינה נוטה בדרך כלל להתערב בסדר יומם של התלמידים, ובכך נחשבת הישיבה לנטולת פיקוח באופן יחסי. אף על פי כן, נוקטים כיום רבני הישיבה בעמדה מחמירה כלפי טלפונים סלולריים שאינם כשרים. ועל פלאפונים כשרים מסוימים הקלים לפריצה, (כגון שיאומי ו- C2) בנוסף חל איסור על תלמידים ללמוד נהיגה.
מנהל הישיבה בין השנים ה'תשמ"ט-ה'תשע"א היה בנימין ליבסקינד. כיום משמש בתפקיד ישראל ברלין בנו של הרב מנחם צבי ברלין.
בנייני הישיבה.
בתחילה השתכנה הישיבה בבית הכנסת שבשכונת משכנות הסמוכה לשכונת מחנה יהודה. אחר כך עברה הישיבה לשכונת שערי חסד כשהפנימייה וחדר האוכל שוכנו במבנה המכונה "בית סבא" ברחוב המלך ג'ורג' 47. עם ההכרזה על הקמת אזור ביטחון ב' בפברואר 1947 פונה בית סבא, ובהשתדלות הרב הרצוג אצל הבישוף האנגליקני של ירושלים השתכנה הפנימייה באופן זמני באגף של ירושלים קולג' לבנות ברחוב אוסישקין, שבהמשך היה למשכנו של בית הספר אוולינה דה רוטשילד. הישיבה המשיכה בלימודים סדירים במהלך מלחמת העצמאות ולמדו בה באותה עת כ-120 תלמידים.
בשנת ה'תשי"ז עברה הישיבה למשכן קבע בשכונת בית וגן, מבנה שתוכנן על ידי האדריכל יוסף שנברגר. בעקבות הגידול במספר התלמידים הפך לאחר כחמש שנים המבנה הראשון לשמש כפנימייה לתלמידים, ובצמוד לו נבנו שני בתי מדרש לישיבה הקטנה ולישיבה הגדולה.
בשנים 2000–2003 (תש"ס-תשס"ג) בנתה הישיבה אגף לימוד חדש וביצעה שינויים במבנים הקיימים, בשנת 2020 נבנתה קומה נוספת בישיבה.
בישיבה הגדולה לומדים כארבע מאות תלמידים. לצדה פועלים גם ישיבה קטנה שבה כשלוש מאות תלמידים, מחלקה לתלמידים מחו"ל וכולל אברכים.
מנהגים מיוחדים בישיבה.
למרות היות הישיבה כיום ישיבה ליטאית מובהקת, היא ממשיכה לשמר מנהגים וניגונים "יקיים" שהנהיגו מקימיה ואינם מקובלים בישיבות ליטאיות אחרות. מנהגים אלה כוללים למשל:
ישיבה קטנה.
הישיבה קטנה היא מהגדולות בירושלים, ומנוהלת על ידי המשגיח הרב אביעזר שפירא, רב בית המדרש של חסידות דרוהוביץ'. בין הצוות בישיבה הקטנה: הרב ישראל גנס, הרב ברוך שפירא.
כמה מרבני הישיבה הגדולה לימדו גם בישיבה הקטנה. מלבדם לימדו בה גם: הרב יוסף יהודה ריינר מרבני הונגריה, הרב משה קופשיץ והרב שלמה ברויאר. הרב יחזקאל קורן היה ראש הישיבה, והרב דוב זאב שטיינהוז היה המשגיח בישיבה.
בוגרי הישיבה.
לקול תורה אלפי בוגרים בישראל ובקהילות היהודיות בעולם. במהלך השנים הוקמו בבני ברק ובמודיעין עילית בתי כנסת המיועדים לבוגרי הישיבה, שבהם מתקיימים מנהגי וניגוני התפילות כמנהג הישיבה. מעת לעת מגיעים אליהם רבני הישיבה למסור שיעורים ושיחות מוסר.
ספרים בהוצאת הישיבה.
הישיבה יוזמת מעת לעת את הוצאתם לאור של חידושי התורה שנכתבו על תלמידי ורבני הישיבה:
מלחמת האזרחים בארצות הברית
שלמה זלמן אוירבך
הרב שלמה זלמן אוירבך (נכתב גם אויערבאך; כ"ג בתמוז ה'תר"ע, 30 ביולי 1910 – כ' באדר א' ה'תשנ"ה, 19 בפברואר 1995) היה ראש ישיבת קול תורה, מחשובי פוסקי ההלכה במאה העשרים.
קורות חייו.
נולד בשכונת שערי חסד בירושלים לצביה ולרב חיים יהודה לייב אוירבך, ראש ישיבת המקובלים שער השמים. משפחת אביו היא משפחה חסידית, מצאצאי בעל תולדות יעקב יוסף מפולנאה (אבי המשפחה היה הרב אברהם דוב אוירבך, חתנו של בעל ה'תולדות יעקב יוסף', שהיה מחותנו של הבעל שם טוב). משפחת אמו, צביה, היא בת למשפחת פרוש הירושלמית, והוא נקרא על שם אבי אמו, הרב שלמה זלמן פרוש.
למד בתלמוד תורה עץ חיים, בפרט אצל הרב אברהם חיים הקלמן. לאחר מכן למד בישיבת עץ חיים, שם היה לתלמידו המובהק של הרב איסר זלמן מלצר, שהסכים על ספרו מאורי אש שיצא לאור בשנת תרצ"ה, ואף הביא מתורתו בספר אבן האזל. ספרו זה, שהוציא בגיל 24, קיבל הסכמות גם מהרב חיים עוזר גרודזנסקי, הרב אברהם יצחק קוק, אביו הרב חיים יהודה לייב והרב אבא יעקב הכהן בורוכוב. בי"ד באדר ה'תר"צ נישא לחיה רבקה רוחמקין. לאחר נישואיו למד בישיבת עץ חיים ומשנת תרצ"ה למד אחר הצהרים גם בכולל של הרב צבי פסח פרנק, "מדרש בני ציון", שהתמקד בסדר זרעים ובהלכות מצוות התלויות בארץ. את חידושיו פרסם בביטאון המוסד כרם ציון ובספרים מעדני ארץ על שביעית ותרומות. כמו כן למד בבית המדרש אוהל תורה, בראשות הרב שמואל יצחק הילמן בשכונת רחביה.
עשה "שימוש חכמים" אצל "הגאון מטשיבין" - רבי דב בריש ווידנפלד, רבי שמשון אהרון פולנסקי מטפליק, רבי זליג ראובן בנגיס ורבי ליב הורביץ. נודע כפוסק חדשני ומקיף, הבקי בחידושי הטכנולוגיה. באדר ה'תש"ט התמנה כראש ישיבת קול תורה, תפקיד שבו שימש במשך 46 שנה, עד לפטירתו. גר כל חייו בשכונת שערי חסד בירושלים. היה מפורסם בעדינותו כלפי הזולת ובמאור פניו כלפי כל מי שפגש בו. אף על פי שהוצעו לו תפקידי רבנות כמו רבנות העיר ירושלים, הרב אוירבך לא הסכים מעולם לשאת במשרה רבנית נוספת. עם הקמת בית הדין הגדול לערעורים נתבקש על ידי הרב יצחק אייזיק הלוי הרצוג לשמש כדיין שם, ובעצה עם החזון איש סירב גם להצעה זו. הרב אוירבך הפך במהרה לסמכות תורנית שרבים מהארץ ומחו"ל פנו אליה. כיהן כנשיא המרכז הארצי לטהרת המשפחה.
על אף שנמנה עם הציבור החרדי, היה מקובל על כל פלגי היהדות הדתית האורתודוקסית. הרב אוירבך חלק כבוד רב לרב אברהם יצחק הכהן קוק, שאותו כינה "מרא דאתרא דארץ ישראל" וכן "הרב" סתם. הרב קוק סידר את הקידושין בחתונתו, שימש ככהן הפודה לבנו בכורו, לימים הרב שמואל אוירבך, וכסנדק לבנו השני, לימים הרב אברהם דב אוירבך, וכאמור לעיל אף נתן הסכמה לספרו הראשון "מאורי אש". הוא סירב לשמוע פסקי הלכה של רב שזילזל בפומבי בכבודו של הרב קוק. זכה בפרס הרב קוק לספרות תורנית לשנים תש"ג–תש"ד. מסופר שכאשר בחור בישיבה ביקש רשות לנסוע לקברי צדיקים בצפון, השיב: "בשביל להתפלל על קברי צדיקים יש צורך לנסוע עד הגליל? כשאני מרגיש צורך להתפלל על קברי צדיקים אני הולך להר הרצל, לקברי החיילים שנפלו על קידוש השם". עם זאת, בעצמו לא הרבה להתפלל על קברי צדיקים.
התרחק מעיסוק פוליטי. בשנת ה'תשמ"ח (1988) סירב להביע עמדה בשאלת הפילוג בתנועת אגודת ישראל.
נפטר בירושלים בכ' באדר א' ה'תשנ"ה (1995), ובהלווייתו השתתפו, לפי הערכת המשטרה, כשלוש מאות אלף אנשים. נקבר בהר המנוחות בירושלים.