McCarthy, 26, tillbringade bara en säsong på Palace, efter ett drag från QPR förra sommaren, och undertecknar ett treårigt avtal med Saints.
Pied, 27, spelade för den nya Southampton bossen Claude Puel för Nice förra säsongen, samt arbetade under honom på Lyon.
Han har skrivit på ett tvåårigt kontrakt med South Coast Club.
Saints har nu gjort fyra signeringar i sommar, efter ankomsten av Nathan Redmond från Norwich och Pierre-Emile Hojbjerg från Bayern München.
McCarthy, som bara spelat sju gånger för Palace, kommer att tävla med England internationella Fraser Forster om en första lag plats på St Mary's.
"Klubben är känd för att producera unga spelare och de har haft framgångsrika säsonger", sade den tidigare läsvakten.
"Det finns Europa League att se fram emot den här säsongen, så det kommer att bli en hel del spel."
Pied, som också kan spela på vingen, sade: "Jag är mycket glad över att kunna gå med i detta nya lag. Den engelska ligan är mycket attraktiv och det var ett mål för mig att kunna spela i den."
Southampton har undertecknat Crystal Palace målvakt Alex McCarthy för en hemlig avgift och franska höger tillbaka Jeremy Pied på en fri överföring.