דיכטר לא הסתיר את הסתייגותו מתוכנית ההתנתקות שיזם ראש הממשלה שרון. הוא העריך כי תוכנית ההתנתקות מרצועת עזה "תביא להפחתה במספר הפיגועים ותשנה את דפוסם". עם זאת, דיכטר התריע כי פינוי ציר פילדלפי יהפוך את דרום ישראל לדרום לבנון ואמר כי צה"ל חייב להיות בשטח כדי למנוע את ירי המרגמות והרקטות באשר לאיום הרקטות מרצועת עזה הוסיף דיכטר כי ההתנתקות לא תביא להרעה במצב, וכי התוכנית דווקא תיתן לישראל חופש פעולה נרחב יותר. עם זאת הוסיף כי על ישראל להמשיך ולפעול בעיר ג'נין אף לאחר ההתנתקות, על מנת שלא ינצלו ארגוני הטרור את החלל שייווצר לאחר נסיגת צה"ל מהאזור. בנושא זה הבהיר דיכטר בפני ועדת החוץ והביטחון כי נסיגה של צה"ל מצפון השומרון במסגרת תוכנית ההתנתקות, עלולה להביא להגברת הטרור באותו אזור ולהפכו לרצועת עזה מבחינה ביטחונית.
יומיים לאחר סיום ההתנתקות מעזה, נסע דיכטר לשליחות בת שלושה חודשים לארצות הברית ושימש כעמית מחקר במכון ברוקינגס שבוושינגטון. במהלך שהותו שם הרבה לתת הרצאות ברחבי ארצות הברית בנושא מדיניות וביטחון ולחימה בטרור במזרח התיכון.
כשנה לאחר ההתנתקות, בעקבות המשך ירי קסאמים מרצועת עזה טען דיכטר כי הפיגועים שיצאו מעזה לפני ההתנתקות גבו מחיר רב יותר בחיי אדם מאשר הטילים, וכי הדרג המדיני לא יצר הרתעה מספיק יעילה נגד ירי הקסאם. דיכטר תומך בשמירה על בקעת הירדן כגבולה המזרחי של ישראל, יחד עם הגושים הצמודים לקו הירוק, והגושים המושכים לבקעת הירדן: עופרה-בית אל, קדומים-קרני שומרון ואריאל.
ביוני 2006 במהלך ישיבת הממשלה, הציע דיכטר להעלות מדרגה בפעילות צה"ל ברצועת עזה, ובמסגרת זו אף לכבוש שטחים ברצועה שצה"ל ישתלט עליהם, כדי להבטיח את הפסקת ירי הרקטות. לדבריו, "כפי שפעלנו בעוצמה רבה נגד חזבאללה בגבול הצפון, כך עלינו לפעול גם ברצועת עזה מול הג'יהאד האיסלמי".
ביולי 2006 אמר דיכטר כי הדרג המדיני צריך לתת לצה"ל הנחיה להפסיק את ירי הקסאמים ויהי מה. לדבריו "צה"ל יודע לתרגם הנחיה כזאת למושגים מבצעיים. גם אם המשמעות היא להפוך את בית חאנון לעיר רפאים".
קריירה פוליטית.
במפלגת קדימה.
ב-28 בדצמבר 2005 הודיע דיכטר במסיבת עיתונאים על הצטרפותו למפלגת קדימה של אריאל שרון. שרון ייעד אותו לתפקיד השר לביטחון פנים על מנת להילחם בפשיעה, אם כי אחרים ראו בו מתחרה על תפקיד שר הביטחון כנגד שאול מופז. במהלך מסיבת העיתונאים הצהיר דיכטר כי מאז ההתנתקות "הנתונים מדברים בעד עצמם, הירידה במספר הפיגועים היא דרמטית". הצהרה זו, שבאה על רקע מטח קסאמים על יישובי הנגב המערבי והפגזות בגבול הצפון, גררה גינויים מצד הימין.
דיכטר שובץ במקום החמישי ברשימת קדימה לכנסת ונבחר להיות חבר הכנסת בכנסת ה-17. ב-4 במאי 2006, עם כינון הממשלה ה-31 בראשות אהוד אולמרט, נתמנה לשר לביטחון פנים.
עם כניסתו לתפקיד השר לביטחון פנים חייב את המשטרה והשב"ס לעבור לתכנון רב שנתי (חמש שנים) וביצע מספר רפורמות. הרפורמות המרכזיות שנכנסו לתוקף היו:
לאחר מלחמת לבנון השנייה קרא לחידוש המגעים עם סוריה וליצירת הסדר ברמת הגולן, במטרה להוציא את סוריה מציר הרשע, לפני סיום פיתוח היכולת הגרעינית של איראן.
בפברואר 2007, הוגש דו"ח ועדת זיילר, על התנהלות המשטרה בפרשת האחים העבריינים פריניאן. במסגרתו פורסמו מסקנות קשות נגד בכירים במשטרה, בהם המפכ"ל עצמו, משה קראדי. אבי דיכטר החליט לפטרו, אך זה הקדים אותו והודיע על התפטרותו. במקומו מינה את מפקד השב"ס, יעקב גנות, לתפקיד המפכ"ל ה-16. צעדו זה התקבל בביקורת מצד גורמים פוליטיים וציבוריים, בשל העובדה כי יעקב גנות הואשם בקבלת שוחד בעת שהיה מפקד המחוז הצפוני במשטרה ובסופו של דבר הודיע יעקב גנות כי הוא מוותר על התפקיד. בהמשך דיכטר התעניין למנות לתפקיד אנשים מחוץ לשורות המשטרה לרבות אריק טשרניחובסקי שאותו הכיר בשב"כ, אך בסופו של דבר לתפקיד המפכ"ל מונה דודי כהן.
באוגוסט 2008, לאחר ההחלטה על ביצוע פריימריס ב"קדימה", הודיע על כוונתו להתמודד על ראשות התנועה. בבחירות לראשות התנועה, שנערכו ב-17 בספטמבר, הגיע למקום הרביעי והאחרון, כשזכה ב-6.5% מקולות הבוחרים.
כיהן כיושב ראש ועדת המשנה לתפיסת הביטחון ובניין הכח, בוועדת החוץ והביטחון.
ב-3 באוגוסט 2011 הגיש דיכטר, יחד עם עוד 39 חברי כנסת, את הצעת "חוק יסוד: ישראל - מדינת הלאום של העם היהודי", שביקשה לקבוע את אופייה של מדינת ישראל כמדינת הלאום של העם היהודי, ובכך מפרשת את המונח "מדינה יהודית ודמוקרטית" שמופיע ב וב. לפי ההצעה, ישראל תוגדר כ"הבית הלאומי של העם היהודי", וייקבע שהוא העם היחיד שיממש בה את זכותו להגדרה עצמית, וזאת כדי למנוע מדינה דו לאומית. ההצעה קבעה שהאמור בכל חוק יפורש בהתאם לכך, כולל היותה של ישראל מדינה דמוקרטית (עובדה שצוינה בסעיף 2 להצעה). עוד על-פי ההצעה, בין היתר, שהמדינה תפעל ל"התיישבות יהודית בתחומיה" ותוכל לאפשר התיישבות קהילתית נפרדת לבני לאום אחד או דת אחת (וכך לשנות את הפסיקה בבג"ץ קעדאן), שרק העברית תהיה שפה רשמית (ואילו לערבית יהיה "מעמד מיוחד", שהלוח העברי יהיה לוח רשמי של המדינה, ושהמשפט העברי ישמש מקור השראה למחוקקים. כמו כן, יש לעגן את הכתוב בחוק יסודות המשפט בחוק יסוד. ההצעה זכתה להתנגדות נרחבת במערכת הפוליטית, וחברי כנסת חזרו בהם מתמיכתם בה. ההצעה לא הועלתה לקריאה טרומית בכנסת ולא קודמה.
במפלגת הליכוד.
ב-13 באוגוסט 2012 פרש דיכטר ממפלגת קדימה ונענה בחיוב להצעתם של ראש הממשלה בנימין נתניהו ושר הביטחון אהוד ברק לכהן כשר להגנת העורף בממשלת נתניהו השנייה. ב-16 באוגוסט הסתיימה כהונתו בכנסת, והוא מונה לשר להגנת העורף.
לקראת הבחירות לכנסת ה-19 התמודד דיכטר בבחירות המקדימות של הליכוד בהשקעה של כ-435 אלף שקל מכספי תרומות, מוקם במקום ה-59 ברשימת הליכוד ישראל ביתנו ולא נבחר לכנסת. במרץ 2013 נבחר דיכטר ליו"ר הקרן לרווחה לנפגעי השואה בישראל, תפקיד אותו קיבל על עצמו בהתנדבות.
לקראת הבחירות לכנסת העשרים התמודד שוב בבחירות המקדימות של תנועת "הליכוד" ונבחר למקום ה-16 ברשימה הארצית שהביא לכך שמוקם במקום ה-26 ברשימת הליכוד לכנסת, שלא נחשב לריאלי. בשל הפרש הקולות הקטן בינו ובין ציפי חוטובלי שמוקמה במקום ה-20 ובשל שיבושים בספירה, מיקומו נקבע סופית רק בתום סאגת ערעורים שנמשכה ארבעה שבועות, הובילה לבדיקה חוזרת של כל הטפסים, והגיעה עד לבית המשפט העליון. עם זאת, לאחר שהליכוד קיבל 30 מנדטים, דיכטר נבחר לכנסת.
ב-31 במאי 2016 נכנס לתפקיד יו"ר ועדת חוץ וביטחון. דיכטר כיהן במקביל גם כראש ועדת המשנה למודיעין ולשירותים החשאיים.
ב-20 ביוני 2016 אמר דיכטר כי במצב הנוכחי קיימות שלוש מדינות בין הירדן לים - שלוש ישויות: ישראל, הרשות הפלסטינית ביהודה ושומרון והחמאס בעזה. לאור חוסר הנוכחות של הרשות ברצועת עזה, אומר דיכטר שלא ניתן לקדם היום את תהליך השלום. כמו כן הוא סבור כי מדינת ישראל צריכה להתעקש בכל דרך שכל משא ומתן עתידי יהיה מול רשות פלסטינית אחת, לה יש חוק אחד ונשק אחד לביטחון פנים.
באוגוסט 2016 התייחס דיכטר לגל הטרור העולמי ולדרכים בהן יש להתמודד עמו: "חלק מהמדינות באירופה משלמות את המחיר של אדישות מסוימת או היאחזות בעקרונות דמוקרטיים שלא רלוונטיים ללחימה בטרור וניסיונות לנהל משחק הוגן מול מחבלים. בעשרות שנותיי בלחימה בטרור למדתי כלל ברזל אחד 'אלף אמהות של מחבלים תבכנה אבל אמי לא תבכה'. בלחימה בטרור מפעילים את כל הכלים כמדינה כדי לפגוע בטרור. אם צריך להפעיל F-16 כדי להרוג מחבל עם M16 זה לגיטימי".
באוקטובר 2016 הציג דיכטר את עמדתו בנוגע להקמת נמל ימי בעזה. לדבריו, נמל ימי בידי חמאס משמעותו "הגדלה דרמטית של יכולות הלחימה של חמאס, אשר יהפוך בוודאות את הנמל לשער קליטה עבור יכולות צבאיות משופרות לאין שיעור בהשוואה ליכולות הנוכחיות". דיכטר הבהיר כי נמל בעזה יכול להיבנות "רק לאחר שהרשות הפלסטינית תפרז בפועל את הרצועה מנשק צבאי ותכיר בהסכמים שנחתמו בינה לבין ישראל". בכל מקרה, הסביר דיכטר במבט צופה פני עתיד "היעד חייב להיות הסכם כולל עם שלבים מובנים, שבו כל צד נבחן על פי ביצועיו בטרם מעבר לשלב מתקדם יותר, עד להסכם המלא".
ב-10 במאי 2017, עבר שהגיש ח"כ דיכטר בקריאה טרומית בכנסת. דיכטר הסביר כי "מטרת החוק היא להגן על מעמדה של ישראל כמדינה יהודית ודמוקרטית". דיכטר הדגיש כי "הצעת החוק מקבעת ואינה פוגעת בזכויות המיעוטים בישראל. ההצעה מאפשרת לקהילות החיות בישראל לקיים התיישבות קהילתית נפרדת. המדינה תשמור ותגן על המקומות הקדושים לבני כל הדתות ותבטיח חופש גישה אליהם". לדבריו "ישראל היא מדינת כל אזרחיה כפרטים אך אינה מדינת הלאום של המיעוטים החיים בה - ישראל היא מדינת הלאום של העם היהודי".
ב-1 במאי 2018, עבר חוק הלאום שיזם ח"כ דיכטר בקריאה ראשונה בכנסת, וב-19 ביולי 2018 עבר בקריאה שנייה ושלישית ברוב של 62 ח"כים בעד מול 55 נגד ושני נמנעים.
ב-2 ביולי 2018, אושר במליאת הכנסת, בקריאה שנייה ושלישית החוק לקיזוז משכורות מחבלים, אותו יזם ח"כ דיכטר יחד עם ח"כ אלעזר שטרן. לפי החוק, הממשלה מחויבת לקזז את הסכום שהרשות הפלסטינית משלמת למחבלים על-פי חוק, 1.2 מיליארד בשנה האחרונה, מתוך כלל כספי המיסים אותם מעבירה ישראל לרשות הפלסטינית. הצעת החוק הפרטית עברה בניגוד לעמדת הממשלה שרצתה לאפשר שיקול דעת מלא לקבינט באם לקזז את הכספים או לא.