City boss Manuel Pellegrini vill markera sin debut säsong i England genom att säkra alla fyra troféer de är i.
Och Kompany, 27, säger att det är oundvikligt att staden kommer att göra fyrdubbla i ett skede inom en snar framtid.
"Vi kan inte lova att det kommer att hända nu, men så småningom måste det ske", sade Belgiens försvarare.
"Vi är de spelare för tillfället som har valts att göra det. Om det inte är vi så blir det andra spelare.
Mediauppspelning stöds inte på den här enheten
"Denna klubb har definitivt ett mål att vinna varje tävling som är möjlig."
Pellegrinis sida är tvåa i Premier League bordet, leda West Ham 6-0 efter det första benet av deras Capital One Cup semifinal och möta Barcelona i Champions League sista 16.
De gick vidare till den fjärde omgången av FA Cup på onsdag med en 5-0 replay seger över Blackburn Rovers.
Stadens grannar Manchester United säkrade treble Premier League, Champions League och FA Cup 1998-99.
Kompany också krediterar Pellegrini, som ersatte Roberto Mancini som chef förra sommaren, med den större attackerande avsikt City har visat denna säsong.
Staden har gjort 99 mål den här säsongen från 33 matcher och genomsnittliga fyra mål ett spel hemma, med 64 från 16 fixturer.
"Han är mycket offensivt sinnad och jag tror att det visas i våra resultat och hur vi spelar," Kompany sade.
"Jag tror att vi har varit ett av de bästa lagen att titta på i Premier League hittills."
Manchester City kapten Vincent Kompany säger att det är bara en tidsfråga innan klubben slutföra ett rekord drag av fyra stora troféer under en säsong.