Att sälja djur under 8 veckor har också stoppats enligt den nya regeln.
Katy Tang, en av de politiker som hjälpte till att införa förbudet, sade att hon gjorde det eftersom hon inte tror att vissa djuraffärer tillbringar tillräckligt med tid med att tänka på djurens hälsa eller välbefinnande.
Hon säger ibland valpar och kattungar behandlas inte så bra som de ska vara och djur kan också säljas när de är mycket unga - innan de är redo att lämna sina föräldrar.
San Francisco är inte det första stället i Amerika att införa en sådan här regel.
Ett antal andra städer i Amerika - som Phoenix i Arizona och Montgomery County i Maryland - har också lagar som innebär att katter och hundar som säljs i djuraffärer måste komma från räddningscentraler.
I Storbritannien kan husdjursaffärer inte sälja katter eller hundar som är under 8 veckor gamla och husdjursaffärerna måste få tillstånd av myndigheterna i deras område.
San Francisco har infört en ny lag som säger att djuraffärer bara kan sälja katter och hundar som kommer från räddningscentraler.