Förbudet, som föreslogs av statens två främsta sammanslutningar av handlare, trädde i kraft på onsdag.
Föreningarna säger att läskedrycksföretag tar för mycket vatten från floder, vilket gör att jordbrukare kämpar för att bevattna sin mark i en tid av svår torka.
Mer än en miljon butiksinnehavare förväntas följa förbudet.
Två stora handelsorganisationer - Federation of Tamil Nadu Traders Associations (FTNTA) och Tamil Nadu Traders Associations Forum (TNTAF) - sade att de föreslog förbud efter att ha sett ungdomar komma ut i enorma antal förra månaden mot ett förbud mot den lokala tjurtämjande festivalen, jallikattu.
Många som protesterade mot förbudet mot jallikattu sade att de såg det som ett angrepp på lokala seder och traditioner.
"Vi startade kampanjen mot läskedrycker för flera månader sedan. Men det fick fart när vi utökade stödet till den pro-jallikattu rörelsen," Tha Vellaiyan, president för FTNTA, berättade BBC Tamil.
"Dricker som Pepsi och Coca-Cola är inte bra för din hälsa på grund av deras höga socker och kemiska innehåll. Vi främjar indiska läskedrycker, och kommer att uppmuntra bättre försäljning av fruktjuicer," sade han.
Föreningarna har också uppmanat stormarknader, restauranger och hotell att följa förbudet och "hjälpa lokala företag och jordbrukare att blomstra".
Pepsi och Coca-Cola har inte kommenterat förbudet.
Handlare i delstaten Tamil Nadu i södra Indien har förbjudit försäljning av Coca-Cola och Pepsi till förmån för lokala produkter.