סוויפט החלה להלחין בעבור מחזות בברודוויי ואף כתבה שירים למילים מאת בעלה, שהשתמש בשם העט ג'יימס פול, הידוע שבהם הוא "?Can't We Be Friends" שנכתב ב-1929. נישואיהם של ג'ימי ורבורג וקיי סוויפט הגיעו לקיצם ב-1934, אך גרשווין לא נשא אותה לאשה ואף עזב להוליווד ב-1936 (שנה לפני מותו). בהמשך הייתה סוויפט אחראית על המוזיקה הקלה בתערוכה העולמית של ניו יורק (1939), כתבה מוזיקה להצגת יחיד בשם "פריז 90" שהועלתה ב-1950 על ידי השחקנית קורנליה אוטיס סקינר ולבלט בכוריאוגרפיה של ג'ורג' בלנשין והייתה מלחינת הבית של אולם המוזיקה רדיו סיטי.