Sachverhalt:
A. Der 1982 geborene K._ beendete am 30. November 2008 sein Studium und erlangte am 22. Januar 2009 das Diplom als Master of Science ETH. Vom 8. Dezember 2008 bis 15. März 2009 leistete er Zivildienst und wurde dafür mit dem Minimalansatz von Fr. 54.- resp. ab Januar 2009 Fr. 62.- pro Tag entschädigt. Die Ausgleichskasse des Kantons Zürich bestätigte diese Ansätze mit Verfügung vom 6. April 2010, woran sie mit Einspracheentscheid vom 17. Mai 2010 festhielt.
B. Die Beschwerde des K._ wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 16. Dezember 2010 ab.
C. K._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, unter Aufhebung des Entscheids vom 16. Dezember 2010 seien die Tagesansätze der EO-Entschädigung auf Basis des branchenüblichen Anfangslohnes festzusetzen.
Die Ausgleichskasse und das Bundesamt für Sozialversicherungen (BSV) beantragen die Abweisung der Beschwerde. Das kantonale Gericht verzichtet auf eine Vernehmlassung.
D. In einem vom Bundesgericht angeordneten zweiten Schriftenwechsel äusserten sich die Parteien zur Frage nach der Anwendbarkeit von <ref-law> (SR 834.1) resp. der Absolvierung einer Rekrutenschule.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (<ref-law>).
2. 2.1 Der zivildienstleistenden Person (vgl. <ref-law>), die keine Rekrutenschule absolviert hat, stehen für die Anzahl Tage des Zivildienstes, die der Dauer einer Rekrutenschule entsprechen, in der Regel 25 Prozent des Höchstbetrages der Gesamtentschädigung zu. Eine teilweise absolvierte Rekrutenschule wird angerechnet (<ref-law>).
2.2 Während anderer Dienste beträgt die tägliche Grundentschädigung in der Regel 80 % des durchschnittlichen vordienstlichen Erwerbseinkommens (<ref-law>). War die dienstleistende Person vor Beginn des Dienstes nicht erwerbstätig, so entspricht die tägliche Grundentschädigung den Mindestbeträgen gemäss Artikel 16 Absätze 1-3 (<ref-law>). Der Bundesrat kann für Dienstleistende, die nur vorübergehend nicht erwerbstätig waren oder die wegen des Dienstes keine Erwerbstätigkeit aufnehmen konnten, besondere Vorschriften über die Bemessung ihrer Entschädigung erlassen (<ref-law>).
Den Erwerbstätigen gleichgestellt sind (a) Arbeitslose, (b) Personen, die glaubhaft machen, dass sie eine Erwerbstätigkeit von längerer Dauer aufgenommen hätten, wenn sie nicht eingerückt wären (dazu <ref-ruling>) sowie (c) Personen, die unmittelbar vor dem Einrücken ihre Ausbildung abgeschlossen haben oder diese während des Dienstes beendet hätten (<ref-law> [SR 834.11]). Für Personen, die glaubhaft machen, dass sie während des Dienstes eine unselbstständige Erwerbstätigkeit von längerer Dauer aufgenommen hätten oder einen wesentlich höheren Lohn als vor dem Einrücken erzielt hätten, wird die Entschädigung auf Grund des Lohns berechnet, der ihnen entgangen ist. Haben sie unmittelbar vor dem Einrücken ihre Ausbildung abgeschlossen oder hätten sie diese während des Dienstes beendet, so wird die Entschädigung auf Grund des ortsüblichen Anfangslohns im betreffenden Beruf berechnet (<ref-law>).
3. Der Beschwerdeführer absolvierte die Rekrutenschule, weshalb <ref-law> für die Bemessung der Entschädigung nicht anwendbar ist. Streitig und zu prüfen ist, ob er für die Dienstzeit als Nichterwerbstätiger oder Erwerbstätiger zu qualifizieren ist und ihm demnach eine Entschädigung gemäss <ref-law> oder gemäss <ref-law> zusteht. Die Vorinstanz ist der Auffassung, <ref-law> enthalte eine mit einer Umkehr der Beweislast verbundene gesetzliche Vermutung für eine (hypothetische) Erwerbstätigkeit, welche sie im konkreten Fall für widerlegt gehalten hat. Folglich hat sie für die Entschädigungsbemessung <ref-law> die Anwendung versagt und lediglich den Anspruch auf eine Minimalentschädigung bejaht. Demgegenüber beruft sich der Beschwerdeführer auf den Wortlaut von Art. 1 Abs. 2 lit. c und <ref-law>; überdies macht er geltend, sich bereits während des Dienstes um eine Arbeitsstelle bemüht zu haben.
4. 4.1 Das Gesetz muss in erster Linie aus sich selbst heraus, das heisst nach dem Wortlaut, Sinn und Zweck und den ihm zugrunde liegenden Wertungen auf der Basis einer teleologischen Verständnismethode ausgelegt werden. Die Gesetzesauslegung hat sich vom Gedanken leiten zu lassen, dass nicht schon der Wortlaut die Norm darstellt, sondern erst das an Sachverhalten verstandene und konkretisierte Gesetz. Gefordert ist die sachlich richtige Entscheidung im normativen Gefüge, ausgerichtet auf ein befriedigendes Ergebnis der Ratio legis. Dabei befolgt das Bundesgericht einen pragmatischen Methodenpluralismus und lehnt es namentlich ab, die einzelnen Auslegungselemente einer hierarchischen Ordnung zu unterstellen. Die Gesetzesmaterialien können beigezogen werden, wenn sie auf die streitige Frage eine klare Antwort geben (<ref-ruling> E. 6.6.2.1 S. 37; <ref-ruling> E. 7.1 S. 203; <ref-ruling> E. 5.1 S. 53; <ref-ruling> E. 5.2 S. 311). Verordnungsrecht ist gesetzeskonform auszulegen. Es sind die gesetzgeberischen Anordnungen, Wertungen und der in der Delegationsnorm eröffnete Gestaltungsspielraum mit seinen Grenzen zu berücksichtigen (<ref-ruling> E. 3.3 S. 170 f. mit Hinweisen).
4. 4.1 Das Gesetz muss in erster Linie aus sich selbst heraus, das heisst nach dem Wortlaut, Sinn und Zweck und den ihm zugrunde liegenden Wertungen auf der Basis einer teleologischen Verständnismethode ausgelegt werden. Die Gesetzesauslegung hat sich vom Gedanken leiten zu lassen, dass nicht schon der Wortlaut die Norm darstellt, sondern erst das an Sachverhalten verstandene und konkretisierte Gesetz. Gefordert ist die sachlich richtige Entscheidung im normativen Gefüge, ausgerichtet auf ein befriedigendes Ergebnis der Ratio legis. Dabei befolgt das Bundesgericht einen pragmatischen Methodenpluralismus und lehnt es namentlich ab, die einzelnen Auslegungselemente einer hierarchischen Ordnung zu unterstellen. Die Gesetzesmaterialien können beigezogen werden, wenn sie auf die streitige Frage eine klare Antwort geben (<ref-ruling> E. 6.6.2.1 S. 37; <ref-ruling> E. 7.1 S. 203; <ref-ruling> E. 5.1 S. 53; <ref-ruling> E. 5.2 S. 311). Verordnungsrecht ist gesetzeskonform auszulegen. Es sind die gesetzgeberischen Anordnungen, Wertungen und der in der Delegationsnorm eröffnete Gestaltungsspielraum mit seinen Grenzen zu berücksichtigen (<ref-ruling> E. 3.3 S. 170 f. mit Hinweisen).
4.2 4.2.1 Dem Beschwerdeführer ist beizupflichten, dass ihm, im Gegensatz zu Personen, die von <ref-law> erfasst werden, grundsätzlich nicht obliegt, eine hypothetische Erwerbstätigkeit glaubhaft zu machen. Das ändert indessen nichts daran, dass die Vorinstanz - in Übereinstimmung mit der Auffassung des BSV (vgl. Rz. 5006 der Wegleitung zur Erwerbsersatzordnung für Dienstleistende und Mutterschaft [WEO]) - die Vorschrift von <ref-law> zu Recht als widerlegbare gesetzliche Vermutung aufgefasst hat. Die formell-gesetzliche Bestimmung von <ref-law> trifft für die Entschädigungsbemessung eine sachlich begründete Unterscheidung zwischen (hypothetisch) Erwerbstätigen und Erwerbslosen. Diese Vorgabe kann nicht mittels Regelung in der entsprechenden Verordnung geändert werden ("lex superior derogat legi inferiori"). <ref-law> erlaubt demnach nicht die Umqualifikation einer grundsätzlich nicht erwerbstätigen Person zu einer erwerbstätigen. Er kann daher nur so verstanden werden, dass er lediglich die Beweisanforderungen für die Qualifikation modifiziert: Während sich für Arbeitslose im Sinn von <ref-law> (SR 837.0) die grundsätzliche Erwerbstätigkeit schon aus diesem Gesetz ergibt, müssen von lit. b erfasste Personen die hypothetische Aufnahme einer Erwerbstätigkeit zwar nicht mit überwiegender Wahrscheinlichkeit nachweisen (vgl. zum Regelbeweismass <ref-ruling> E. 5b S. 360 mit Hinweisen), aber immerhin glaubhaft machen. Unter lit. c fallende Personen profitieren von einer noch weiter gehenden Beweiserleichterung, indem - im Sinne einer gesetzlichen Vermutung - die Beweislast zu Gunsten des Leistungsansprechers umgekehrt und dessen Erwerbstätigkeit unterstellt wird. Diese Vermutung kann indessen durch den Beweis des Gegenteils umgestossen werden (<ref-ruling> E. 4b S. 397; <ref-ruling> E. 2c S. 156; Urteil 9C_749/2009 vom 12. November 2009 E. 2.2), indem die Verwaltung Umstände geltend macht, welche darauf schliessen lassen, dass der Leistungsansprecher auch ohne Dienstabsolvierung keine Erwerbstätigkeit aufgenommen hätte. Dieses Ergebnis steht im Einklang mit der Entstehungsgeschichte von <ref-law>: Die massgebliche Bestimmung von Art. 1 Abs. 2 der auf den 31. Juni 2005 aufgehobenen EOV vom 24. Dezember 1959 (AS 1959 2143) lautete wie folgt: "Haben [Personen] unmittelbar vor dem Einrücken ihre Ausbildung abgeschlossen oder hätten sie diese während des Dienstes beendet, so wird vermutet, dass sie eine Erwerbstätigkeit aufgenommen hätten." Den Erläuterungen des BSV zur revidierten EOV (http://www.bsv.admin.ch/themen/eo/00054/index.html?lang=de, besucht am 23. September 2011) lässt sich entnehmen, dass die neue Fassung des Artikels "im Grossen und Ganzen die Grundzüge" der aufgehobenen Bestimmung wiedergibt.
4.2.2 Was der Beschwerdeführer gegen diese Auslegung von <ref-law> vorbringt, hält nicht stand: Zwar trifft zu, dass die Verwaltung bei entsprechenden Anhaltspunkten prüfen muss, auf welcher Grundlage die Entschädigung zu bemessen ist. Dass dies aber einen unverhältnismässig hohen Verwaltungsaufwand zur Folge haben oder nur schwer praktikabel sein soll, ist nicht ersichtlich. Auch eine Rechtsunsicherheit entsteht daraus nicht, obliegt es doch der Verwaltung, anhand besonderer Umstände mit überwiegender Wahrscheinlichkeit nachzuweisen, dass der Dienstleistende ohnehin keine Erwerbstätigkeit aufgenommen hätte. Dass die Bemessung des Erwerbsersatzes an den Status als erwerbstätige oder erwerbslose Person resp. an den durch den Dienst verursachten Erwerbsausfall anknüpft (vgl. <ref-law>; PASCAL MAHON, Le régime des allocations pour perte de gain, in: Soziale Sicherheit, SBVR Bd. XIV, 2. Aufl. 2007, S. 1925 N. 17), erscheint sachgerecht und wird auch vom Beschwerdeführer nicht in Abrede gestellt. Schliesslich ist eine Verletzung des Rechtsgleichheitsgebotes (<ref-law>) nicht ersichtlich, gilt doch die in <ref-law> statuierte Vermutung, auch ohne dass davon erfasste Personen die (hypothetische) Aufnahme einer Erwerbstätigkeit glaubhaft machen müssen. Die vorinstanzliche Auslegung von <ref-law> stellt daher keine Rechtsverletzung dar.
4.2.2 Was der Beschwerdeführer gegen diese Auslegung von <ref-law> vorbringt, hält nicht stand: Zwar trifft zu, dass die Verwaltung bei entsprechenden Anhaltspunkten prüfen muss, auf welcher Grundlage die Entschädigung zu bemessen ist. Dass dies aber einen unverhältnismässig hohen Verwaltungsaufwand zur Folge haben oder nur schwer praktikabel sein soll, ist nicht ersichtlich. Auch eine Rechtsunsicherheit entsteht daraus nicht, obliegt es doch der Verwaltung, anhand besonderer Umstände mit überwiegender Wahrscheinlichkeit nachzuweisen, dass der Dienstleistende ohnehin keine Erwerbstätigkeit aufgenommen hätte. Dass die Bemessung des Erwerbsersatzes an den Status als erwerbstätige oder erwerbslose Person resp. an den durch den Dienst verursachten Erwerbsausfall anknüpft (vgl. <ref-law>; PASCAL MAHON, Le régime des allocations pour perte de gain, in: Soziale Sicherheit, SBVR Bd. XIV, 2. Aufl. 2007, S. 1925 N. 17), erscheint sachgerecht und wird auch vom Beschwerdeführer nicht in Abrede gestellt. Schliesslich ist eine Verletzung des Rechtsgleichheitsgebotes (<ref-law>) nicht ersichtlich, gilt doch die in <ref-law> statuierte Vermutung, auch ohne dass davon erfasste Personen die (hypothetische) Aufnahme einer Erwerbstätigkeit glaubhaft machen müssen. Die vorinstanzliche Auslegung von <ref-law> stellt daher keine Rechtsverletzung dar.
4.3 4.3.1 Die Vorinstanz hat festgestellt, der Beschwerdeführer habe sich nach Dienstende am 15. März 2009 bis zum 29. Juni 2009 im Ausland aufgehalten. Unter diesen Umständen sei nicht davon auszugehen, dass er unmittelbar nach Studienabschluss eine Erwerbstätigkeit hätte aufnehmen wollen. Daran ändere nichts, dass sich der Beschwerdeführer mit E-Mail vom 18. Februar 2009 um eine (nicht ausgeschriebene) Stelle beworben habe.
4.3.2 Es ist nicht ersichtlich und wird auch nicht vorgebracht, dass diese Feststellungen (zur Qualifikation als Tatfrage vgl. Urteile 9C_447/2011 vom 21. Juli 2011 E. 4.1.2; 9C_152/2010 vom 24. August 2011 E. 4.3) offensichtlich unrichtig sein sollen. Weitere Stellenbewerbungen als die erwähnte sind nicht aktenkundig und wurden nicht geltend gemacht. Dem unmittelbar an den Dienst anschliessenden und über drei Monate dauernden Auslandaufenthalt steht lediglich eine einzige Arbeitsbemühung gegenüber, weshalb namentlich die vorinstanzliche Schlussfolgerung betreffend die Erwerbstätigkeit nachvollziehbar ist. Schliesslich beruhen die Feststellungen nicht auf einer Rechtsverletzung, so dass sie für das Bundesgericht verbindlich bleiben (E. 1).
4.4 Nach dem Gesagten hat das kantonale Gericht zu Recht einen höheren Anspruch als jenen auf die Grundentschädigung für erwerbslose Personen gemäss <ref-law> verneint. Die Beschwerde ist unbegründet.
5. Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 12. Oktober 2011
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Die Gerichtsschreiberin: Dormann