עם הכרזת המדינה הוקם (על בסיס שירות המודיעין של "ההגנה" והיחידה לביטחון פנים "מחץ", שהוקמה אחרי פירוק "ההגנה" ופעלה עד לכינונו של שירות הביטחון) שירות הביטחון, ה"ש.ב.", שהיה זרוע של צה"ל (יחידה 184), ובראשו הועמד סגן-אלוף איסר הלפרין (הראל). מסמך היסוד של הש.ב. נכתב ב-17 בפברואר 1949, ובו כתב הראל אל הרמטכ"ל יעקב דורי כי בהתייעצות אצל דוד בן-גוריון סוכם להקים "שירות ביטחון". ההוראה בוצעה כעבור כשלושה שבועות, בצו של האלוף משה צדוק, ראש אגף מטה (אג"מ), שהורה על הקמת "שירות ביטחון כללי". בשנת 1950 הוצא השירות ממסגרת צה"ל, והועבר לאחריותו של ראש הממשלה. במהלך מלחמת העצמאות עסק השירות רק בביטחון פנים, ולאחר המלחמה הוקמה בו גם מחלקה לריגול נגדי ונמסר לו גם הטיפול בנושאים מודיעיניים הקשורים בערביי ישראל.
השנים הראשונות ועד 1967.
עד מלחמת ששת הימים כלל השב"כ כמה מאות עובדים והתמקד בריגול נגדי, ובמעקב אחר פעילות חתרנית במגזר הערבי ובמגזר היהודי (לצד אבטחת אישים ומוסדות חיוניים בישראל ובנציגויותיה במדינות אחרות). בתקופה זו הרשו לעצמם רבים מערביי ישראל לעזור לשב"כ באופן גלוי לחלוטין, בעיקר על ידי אירוח מתלמדים כדי שיכירו היטב את התרבות הערבית.
את כוח האדם בשירות בתקופה זו מתאר פרי בספרו:
אחד ההישגים הבולטים ביותר של השב"כ בשנותיו הראשונות הוא השגת תמליל הנאום הסודי של מנהיג ברית המועצות, ניקיטה חרושצ'וב בשנת 1956, אם כי הישג זה נוצר באקראי, בלא שהשב"כ טרח על כך.
ב-4 במרץ 1957, התנקשו שלושה צעירים בחיי ד"ר ישראל קסטנר, בעקבות משפט דיבה שבו נקבע כי קסטנר שיתף פעולה עם הנאצים. במהלך משפטם התברר כי זאב אקשטיין, שירה בקסטנר והרגו, היה סוכן של הש"ב, ונשלח לקבוצה המחתרתית כדי לשמש בה כמודיע. הש"ב טען כי אקשטיין ניתק את הקשר עם מפעיליו, ונסחף בעצמו לרעיונות המחתרת והשתתף בה. הרוחות בעניין זה לא נרגעו זמן רב.
בעקבות רצח ישראל קסטנר, ובמהלך המשפט, נחשפה לציבור עובדת קיומו של השב"כ, שהייתה חסויה עד אז, ואף הוכחשה. החשיפה הובילה לכינונו של פיקוח פרלמנטרי על השירות.
בשנות ה-50 של המאה ה-20, עקב השב"כ אחר יריביה של מפלגת השלטון מפא"י, ובהן מפלגות תנועת החרות, הציונים הכלליים, מפ"ם והקומוניסטים.
פעילות כזו נחשבה לאחר מכן כפגיעה בדמוקרטיה. פרסומים על פעילות זו הושתקו ברובם על ידי ההנהגה בראשות דוד בן-גוריון, והגורם היחידי שפרסם זאת היה השבועון "העולם הזה" של אורי אבנרי (בשנים 1956–1958 ניסה השב"כ, ללא הצלחה, להתחרות בשבועון זה באמצעות הוצאת שבועון מתחרה בשם "רימון"). תפיסת שני אנשי שירות הביטחון בעת שהטמינו מתקן האזנה במשרדו של מנהיג מפ"ם, מאיר יערי, עוררה סערה רבה. השב"כ גם דאג שיפוטרו ממשרדי הממשלה עובדים שהתגלה כי הם תומכים במפלגות שנחשבו "עוינות" למפלגת השלטון מפא"י, כמו חרות ומק"י. השב"כ פעל למען מפא"י גם במגזר הערבי. בראשית שנות ה-60 של המאה ה-20 קיבל ראש הממשלה דוד בן-גוריון את עמדת ראש השירות עמוס מנור והחליט לחדול מריגול פוליטי. "מטה 1" בשב"כ, שעסק בכך, פורק וחלק מהחומר הארכיוני שנאגר בו הועלה באש, יתר החומר הארכיוני העוסק בריגול פוליטי נשמר בארגון. בלילה שבו עלה הליכוד לשלטון, בשנת 1977, הורה ראש השב"כ אברהם אחיטוב לשרוף מיד חומרים אלה. השב"כ המשיך לאסוף חומר העוסק בתנועת "הכנענים" עד אמצע שנות ה-80.
הישג חשוב של השב"כ בתחום הריגול הנגדי היה חשיפתו ב-1961 של ישראל בר, סגן-אלוף (מיל.) ופרשן צבאי נודע שהיה מקורב לצמרת הביטחונית, כמרגל סובייטי. בר נשפט, נכלא ומת בכלא.
אחרי מלחמת ששת הימים.
לאחר מלחמת ששת הימים החל המאמץ לסיכול טרור פלסטיני ביהודה, שומרון ועזה ומהם, והפך לחלק גדל והולך של פעילות השב"כ, עד שבמאה ה-21, הוא נתפס כחלק העיקרי של פעילות הארגון.
יעקב פרי כותב על התקופה הראשונה שלאחר המלחמה:
בשנת 1968 בעקבות חטיפת מטוס אל על לאלג'יריה הוחלט בשירות הביטחון הכללי לבצע רפורמה במערך האבטחה הממלכתי. לצורך כך הצטרף לשירות דייב בקרמן כמדריך ירי באקדח. בקרמן אימן את מאבטחי השירות בירי באקדח ובתרגולות לוחמה בטרור. באותה עת כונו אנשי היחידה "הגורילות". בשנת 1972, בעקבות טבח הספורטאים באולימפיאדת מינכן, מונה אברהם שלום לראש אגף האבטחה ויושמה מדיניות אבטחה כוללת לנציגויות מדינת ישראל במדינות אחרות כמו גם במטוסים וספינות. כתוצאה מכך מיסד וכונן בקרמן את תחום הדרכת והכשרת המאבטחים. בין היתר פעלו חניכיו בסיכול מתקפת הטרור ב-18 בפברואר 1969 כנגד מטוס אל על, שהתכונן להמראה בנמל התעופה הבינלאומי ציריך קלוטן ופעולת החילוץ של מטוס סבנה. ב-27 בדצמבר 1985 תקפו מחבלים פלסטינים את דלפקי חברת אל-על בנמלי התעופה בווינה וברומא. מאבטחי השירות ברומא לחמו במחבלים, הרגו שלושה מהם ופצעו אחד באורח קשה ועצרו אותו. בווינה ערכו שוטרים אוסטרים ומאבטחי השירות מרדף רכוב אחר המחבלים הנמלטים הרגו אחד מהם ועצרו את השניים הנוספים.
בשנות מלחמת לבנון הראשונה פעל השב"כ גם כנגד ארגוני הטרור הלבנוניים, ובראשם חזבאללה. בין 135 הרוגי אסון צור הראשון ואסון צור השני היו גם אנשי שב"כ. יובל דיסקין סיפר בריאיון לגלי צה"ל, כי לפני פרוץ האינתיפאדה הראשונה נגרם לשב"כ נזק מודיעיני קשה בשטחי יהודה ושומרון ורצועת עזה, מפני שהארגון מיקד את פעילותו בלבנון והזניח אזורים אלה.
המשברים הגדולים.
בשנים 1986-1984 עבר השב"כ משבר קשה בעקבות פרשת קו 300, שבה שני מחבלים שחטפו אוטובוס ולקחו את נוסעיו כבני ערובה הוצאו להורג בלא משפט בידי אנשי השב"כ, שמסרו לאחר מכן עדויות שקריות על מעורבותם בפרשה. בעקבות זאת נאלץ ראש השב"כ אברהם שלום להתפטר מתפקידו, וכמוהו בכירים נוספים בארגון, וראש השב"כ לשעבר יוסף הרמלין נקרא לעמוד בשנית בראש הארגון כדי לשקמו.
בשנת 1987 נחשפה פרשת עיזאת נאפסו שבסופה זוכה סגן בצה"ל, בן העדה הצ'רקסית מהאשמות של בגידה וריגול, לאחר שישב כשבע שנים בכלא. בפסק דינו של בית המשפט העליון נמתחה ביקורת על נוהלי החקירה של השב"כ ועל בידוי ראיות שהפך לנורמה בארגון. ביקורת ציבורית הופנתה אל הבכיר בשב"כ יוסי גנוסר, שאותו האשים נאפסו ב"תפירת התיק" כנגדו.
משבר נוסף פקד את השב"כ בסוף 1995, בעקבות רצח יצחק רבין. בעקבות כישלון זה (בעיקר של היחידה לאבטחת אישים), עוד לפני שהוגשו מסקנות ועדת שמגר (רצח רבין), החליט ראש השב"כ, כרמי גילון, להתפטר מתפקידו. לפני שעזב גילון, חיסל השב"כ את "המהנדס" יחיא עיאש מהחמאס שהיה אחראי לסדרת פיגועי טרור ב-1994. עיאש חוסל באמצעות טלפון סלולרי ממולכד, במבצע שהעלה במעט את המורל והמוניטין של הארגון.
חשיפתו של אבישי רביב ("שמפניה") כסוכן מדיח בקרב הימין הקיצוני לאחר רצח רבין, הציבה את השירות במוקד של ויכוח ציבורי בנוגע להפעלת סוכנים. הלחץ הציבורי להעמידו לדין העמיד את השירות בדילמה בין ערך ההגנה על סוכנים וסייענים לבין היותו שירות ביטחון של מדינה דמוקרטית. לבסוף הועמד רביב לדין באשמת אי מניעת רצח רבין אך זוכה. כפי שאירועי קו 300 הובילו לבחינה מקיפה של נושא הטיפול הפיזי בחקירות, פרשת רביב הפכה לקו פרשת מים בכל הנוגע להפעלת סוכנים במגזר הלא ערבי.
אחרי התפטרותו של גילון ב-1996, "הוצנח" לתפקיד ראש השב"כ עמי אילון, לשעבר מפקד חיל הים, על מנת לשקם את הארגון. בשנת 2000 הוחלף על ידי אבי דיכטר, שצמח בשב"כ, דבר שאילון טוען לזכותו כעדות להצלחה בשיקום הארגון.
האינתיפאדה השנייה.
אבי דיכטר נכנס לתפקיד בסמיכות לפריצת האינתיפאדה השנייה. פיגועי ההתאבדות, שהפכו למרכיב עיקרי של הטרור הפלסטיני נגד תושבי ישראל העמידו בפני השב"כ אתגר של מתן מידע מודיעיני, שיאפשר סיכול פיגועים אלה בטרם ביצועם. לשב"כ היו הישגים יוצאי דופן בתחום זה, הן במניעתם של פיגועי התאבדות והן בלכידת האחראים להם. מאידך, פיגועי התאבדות רבים יצאו אל הפועל, ופגעו פגיעה קשה בביטחונם האישי של תושבי ישראל.
כחלק ממלחמתו בפיגועי ההתאבדות נהג השב"כ להפיץ לשאר גורמי הביטחון התרעות לפיגועים צפויים. חלק מההתרעות הוגדרו כ"חמות" ו"ממוקדות" וגררו פרישת מחסומי משטרה ומג"ב לאורך מרחב התפר ובאזורים שעליהם התריע המודיעין. במקרים רבים הצליחו כוחות הביטחון לסכל פיגועים בזמן אמת באמצעות התרעות של השב"כ. את המודיעין לצורך סיכול הפיגועים השיג השב"כ באמצעות חקירות ושימוש ב"מודיעין אנושי (HUMINT)" - הפעלת סוכנים ומשת"פים.
אחד הסוכנים הבכירים והמוצלחים ביותר שהפעיל השב"כ ביהודה ובשומרון היה מסעב חסן יוסף, בנו של ראש החמאס ביהודה ושומרון, שהפיק מודיעין רב, אמין ואיכותי, וכונה "הנסיך הירוק" בידי מפעיליו. בנוסף, סוכני שטח של השב"כ ליוו את כוחות צה"ל ביהודה ושומרון וסייעו להם בביצוע מעצרים של מחבלים ובחשיפת מעבדות נפץ. כך למשל, בשנת 2005, חשף השב"כ שלוש רשתות טרור של חמאס ועצר רבים מהמחבלים הפעילים בהן.