את פעילותו הפוליטית במסגרת תנועת האחים המוסלמים החל אבו מרזוק בשנת 1986. הוא התקדם בהיררכיה של חמאס בעיקר ב-1989, לאחר מעצר מרבית מנהיגי התנועה במהלך האינתיפאדה הראשונה. לטענת ישראל, בשנים 1991–1993 הוא שלח כספים ממקום מושבו בארצות הברית לאנשי חמאס ביהודה ושומרון ורצועת עזה לצורך מימון פעילות החמאס. בשנת 1992 נבחר לעמוד בראש הלשכה המדינית של חמאס ומילא את התפקיד ממקום מושבו בעמאן, בירת ירדן, עד אשר גורש ממנה ב-30 ביוני 1995. לאחר גירושו מירדן הגיע לארצות הברית ונעצר בנמל התעופה הבינלאומי ג'ון פ. קנדי, כמי שנכלל ברשימת טרוריסטים. בתחילה, ישראל דרשה את הסגרתו, אולם בהמשך חזרה בה בהוראת ראש הממשלה דאז בנימין נתניהו, מחשש שמשפטו יעורר את הארגון לחדש פיגועים, והוא נשאר בכלא האמריקני עד ששוחרר ב-4 במאי 1997. לאחר שחרורו מהכלא האמריקני נבחר לסגן ראש הלשכה המדינית של חמאס, תפקיד שאותו הוא ממלא עד היום. חוסיין מלך ירדן הסכים לתת לו מקלט בשל הלחץ הגובר מצד הציבור הירדני.