Sachverhalt:
A. Am 9. Dezember 2010 erstattete D._ bei der Staatsanwaltschaft Zürich-Sihl Strafanzeige gegen Polizeibeamte wegen einfacher Körperverletzung, eventuell Tätlichkeiten. Er machte geltend, die Polizeibeamten hätten ihn bei seiner Verhaftung am 18. August 2010 misshandelt.
Die Staatsanwaltschaft Zürich-Sihl ermittelte in der Folge die Personalien der betroffenen Beamten. Mit Verfügung vom 5. Januar 2011 überwies die Leitende Staatsanwältin die Akten auf dem Dienstweg über die Oberstaatsanwaltschaft dem Obergericht des Kantons Zürich zum Entscheid über die Eröffnung oder Nichtanhandnahme einer Untersuchung gegen die Polizeibeamten wegen Amtsmissbrauchs etc.; dies mit dem Antrag, auf die Anzeige sei nicht einzutreten.
B. Mit Beschluss vom 21. Januar 2011 trat das Obergericht (III. Strafkammer) auf das Gesuch um Eröffnung oder Nichtanhandnahme der Strafuntersuchung nicht ein.
Es befand, § 148 des Gesetzes vom 10. Mai 2010 des Kantons Zürich über die Gerichts- und Behördenorganisation im Zivil- und Strafprozess (GOG/ZH; LS 211.1), wonach über die Eröffnung oder Nichtanhandnahme einer Strafuntersuchung gegen Beamte gemäss <ref-law> wegen im Amt begangener Verbrechen oder Vergehen das Obergericht entscheidet, widerspreche der Schweizerischen Strafprozessordnung vom 5. Oktober 2007 (StPO; SR 312.0) und sei damit nichtig (<ref-law>). Gemäss Art. 309 f. StPO entscheide über die Eröffnung oder Nichtanhandnahme einer Strafuntersuchung die Staatsanwaltschaft. Auf <ref-law> könne sich § 148 GOG/ZH nicht stützen.
Das Obergericht erwog abschliessend, im Interesse einer einheitlichen Praxis wäre es wünschenswert, wenn bei der Staatsanwaltschaft eine zentrale Stelle mit dem Entscheid über die Eröffnung oder Nichtanhandnahme von Strafuntersuchungen gegen Beamte betraut würde. Dies wäre mit Art. 309 f. StPO vereinbar. Die Akten würden daher der Oberstaatsanwaltschaft zur weiteren Veranlassung überwiesen.
C. Die Oberstaatsanwaltschaft des Kantons Zürich führt in der gleichen Rechtsschrift Beschwerde in Strafsachen und subsidiäre Verfassungsbeschwerde mit dem Antrag, der Beschluss des Obergerichts sei aufzuheben und die Sache an dieses zur Fällung des Ermächtigungsentscheids zurückzuweisen.
D. Das Obergericht und die Staatsanwaltschaft Zürich-Sihl haben auf Gegenbemerkungen verzichtet. Die Polizeibeamten haben sich nicht vernehmen lassen.

Erwägungen:
1. 1.1 Die Beschwerdeführerin erhebt sowohl Beschwerde in Strafsachen nach <ref-law> als auch subsidiäre Verfassungsbeschwerde nach <ref-law>.
Gemäss <ref-law> beurteilt das Bundesgericht Verfassungsbeschwerden gegen Entscheide letzter kantonaler Instanzen, soweit keine Beschwerde nach den Artikeln 72-89 zulässig ist. Zu prüfen ist also zunächst, ob eine dieser Beschwerden gegeben ist.
1.2 Art. 72-89 BGG regeln die Beschwerde in Zivilsachen, in Strafsachen und in öffentlich-rechtlichen Angelegenheiten. Die Abgrenzung zwischen diesen Beschwerden ergibt sich grundsätzlich aus dem vom angefochtenen Entscheid betroffenen Rechtsgebiet. Je nachdem, ob der angefochtene Entscheid in einer Zivilsache, einer Strafsache oder einer öffentlich-rechtlichen Angelegenheit erging, ist die entsprechende Beschwerde zu ergreifen (Botschaft vom 28. Februar 2001 zur Totalrevision der Bundesrechtspflege, BBl 2001 4235).
1.2 Art. 72-89 BGG regeln die Beschwerde in Zivilsachen, in Strafsachen und in öffentlich-rechtlichen Angelegenheiten. Die Abgrenzung zwischen diesen Beschwerden ergibt sich grundsätzlich aus dem vom angefochtenen Entscheid betroffenen Rechtsgebiet. Je nachdem, ob der angefochtene Entscheid in einer Zivilsache, einer Strafsache oder einer öffentlich-rechtlichen Angelegenheit erging, ist die entsprechende Beschwerde zu ergreifen (Botschaft vom 28. Februar 2001 zur Totalrevision der Bundesrechtspflege, BBl 2001 4235).
1.3 1.3.1 Gemäss <ref-law> beurteilt das Bundesgericht Beschwerden gegen Entscheide in Angelegenheiten des öffentlichen Rechts. <ref-law> regelt die Ausnahmen. Nach <ref-law> ist die Beschwerde unzulässig gegen Entscheide über die Verweigerung der Ermächtigung zur Strafverfolgung von Behördenmitgliedern oder von Bundespersonal. Aus dieser Bestimmung ergibt sich, dass das Ermächtigungsverfahren als öffentlich-rechtliche Angelegenheit zu betrachten ist. Die Ermächtigung stellt eine Prozessvoraussetzung für das Strafverfahren dar (CHRISTOF RIEDO/GERHARD FIOLKA, in: Basler Kommentar zur Schweizerischen Strafprozessordnung, 2011, N. 73 zu <ref-law>). Sie wird aber in einem davon getrennten Verwaltungsverfahren erteilt (THOMAS HÄBERLI, in: Basler Kommentar zum Bundesgerichtsgesetz, 2008, S. 771 Fn. 157; ALAIN WURZBURGER, in: Commentaire de la LTF, 2009, N. 71 zu <ref-law>). Erst nach der Ermächtigung kann das Strafverfahren durchgeführt werden. Das Ermächtigungsverfahren ist von diesem daher notwendig getrennt.
1.3.2 Der Ausschlussgrund von <ref-law> knüpft an aArt. 347 Abs. 2 lit. b StGB (in der Fassung von 2002) an. Danach konnten die Kantone die Strafverfolgung der Mitglieder lediglich ihrer obersten Vollziehungs- und Gerichtsbehörden wegen Verbrechen oder Vergehen im Amt vom Vorentscheid einer nicht richterlichen Behörde abhängig machen. Der Grund für den Ausschluss der Beschwerde in öffentlich-rechtlichen Angelegenheiten insoweit besteht darin, dass bei solchen Entscheiden politische Gesichtspunkte berücksichtigt werden dürfen. Die Entscheide eignen sich damit nur beschränkt für die gerichtliche Überprüfung.
Mit dem Erlass von <ref-law> wurde die Zulässigkeit eines Strafverfolgungsprivilegs auf alle Mitglieder kantonaler Vollziehungs- und Gerichtsbehörden ausgedehnt (vgl. RIEDO/FIOLKA, a.a.O., N. 80 zu <ref-law>). Es bestehen keine Hinweise, dass damit eine Erweiterung des Ausschlusses der Beschwerde gemäss <ref-law> auch auf kantonale Staatsbedienstete, welche nicht Mitglieder der obersten Vollziehungs- und Gerichtsbehörden sind, vorgenommen werden sollte. Dafür bestünde kein sachlicher Grund. Wie unten (E. 2.4) näher darzulegen ist, dürfen bei diesen Beamten politische Gesichtspunkte für den Ermächtigungsentscheid keine Rolle spielen. Dieser ist daher der gerichtlichen Überprüfung in jeder Hinsicht zugänglich, womit kein Grund besteht, die Beschwerde in öffentlich-rechtlichen Angelegenheiten auszuschliessen. Zu berücksichtigen ist überdies, dass gemäss Art. 15 Abs. 5 des Bundesgesetzes vom 14. März 1958 über die Verantwortlichkeit des Bundes sowie seiner Behördenmitglieder und Beamten (VG; SR 170.32) bei Bundesbeamten gegen die Verweigerung der Ermächtigung durch das Eidgenössische Justiz- und Polizeidepartement die Beschwerde an das Bundesverwaltungsgericht zulässig ist. Das unterstreicht die Justiziabilität solcher Entscheide.
In der vorliegenden Sache geht es um die Ermächtigung zur Strafverfolgung von Stadtpolizisten. Diese gehören nicht den obersten kantonalen Vollziehungs- und Gerichtsbehörden an. Der Ausschlussgrund von <ref-law> greift somit nicht.
1.4 <ref-law> regelt die Beschwerdelegitimation. Absatz 1 umschreibt die allgemeine Beschwerdebefugnis. Absatz 2 enthält eine abschliessende Aufzählung besonderer Beschwerderechte.
Ein besonderes Beschwerderecht nach <ref-law> besteht im vorliegenden Fall nicht. Es stellt sich somit die Frage, ob die allgemeine Beschwerdebefugnis nach <ref-law> gegeben sei. Danach ist zur Beschwerde in öffentlich-rechtlichen Angelegenheiten berechtigt, wer a) vor der Vorinstanz am Verfahren teilgenommen hat oder keine Möglichkeit zur Teilnahme erhalten hat; b) durch den angefochtenen Entscheid besonders berührt ist und c) ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung hat.
<ref-law> ist in erster Linie auf Privatpersonen zugeschnitten, doch kann sich auch das Gemeinwesen darauf stützen, falls es durch den angefochtenen Entscheid gleich oder ähnlich wie ein Privater betroffen ist. Das Gemeinwesen kann auch in hoheitlichen Interessen derart berührt sein, dass ein schutzwürdiges Interesse im Sinne von <ref-law> anzunehmen ist. Bei Eingriffen in spezifische eigene Sachanliegen bejaht die Rechtsprechung die Beschwerdebefugnis des Gemeinwesens, wenn es in qualifizierter Weise betroffen ist. Dies ist dann anzunehmen, wenn ein Hoheitsakt wesentliche öffentliche Interessen in einem Politikbereich betrifft, der ihm zur Regelung zugewiesen wurde. Die Beschwerdebefugnis des Gemeinwesens zur Durchsetzung hoheitlicher Anliegen setzt eine erhebliche Betroffenheit in wichtigen öffentlichen Interessen voraus. Gestützt auf die allgemeine Legitimationsklausel von <ref-law> dürfen Gemeinwesen nur restriktiv zur Beschwerdeführung zugelassen werden. Das allgemeine Interesse an der richtigen Rechtsanwendung genügt nicht (<ref-ruling> E. 2.3 f. S. 385 f., 274 E. 4.1 f. S. 278 ff.; je mit Hinweisen). Das Bundesgericht hat die allgemeine Beschwerdebefugnis des Gemeinwesens namentlich bejaht in Fällen, in denen einem Entscheid präjudizielle Bedeutung zukam (<ref-ruling> E. 1.2.2 S. 15 f.; <ref-ruling> E. 2a/bb S. 195).
Der Kanton ist hier durch den angefochtenen Entscheid nicht gleich oder ähnlich wie eine Privatperson betroffen.
Wie das Bundesgericht in einem in der amtlichen Sammlung nicht veröffentlichten Urteil (8C_1025/2009 vom 19. August 2010) erwogen hat, sind schutzwürdige Interessen des Kantons zu bejahen, wenn es um die Prüfung geht, ob einem kantonalen Gesetz zu Recht wegen Bundesrechtswidrigkeit die Anwendung versagt wurde (E. 3.3.4.2). Ob dies ausnahmslos zutrifft, kann hier dahingestellt bleiben. Ein schutzwürdiges Interesse ist jedenfalls unter den gegebenen Umständen zu bejahen. Der angefochtene Entscheid betrifft wesentliche öffentliche Interessen des Kantons in einem Bereich, der diesem gemäss <ref-law> zur Regelung überlassen wurde. Die Vorinstanz ist der Auffassung, der Kanton habe diese Bestimmung mit § 148 GOG/ZH nicht rechtswirksam umgesetzt. Dies führt dazu, dass Beamte nicht nur im vorliegenden, sondern auch in einer Vielzahl von künftigen Fällen vor ungerechtfertigter Strafverfolgung entgegen der Absicht des kantonalen Gesetzgebers keinen besonderen Schutz geniessen. Dies kann sich nachteilig auf das Funktionieren staatlicher Organe auswirken. Das Interesse an einem funktionierenden Staatsapparat ist für das Gemeinwesen aber von zentraler Bedeutung und deshalb als schutzwürdig anzuerkennen. Die Beschwerdeberechtigung des Kantons ist somit zu bejahen.
1.5 Gestützt auf <ref-law> kann nur das Gemeinwesen als solches an das Bundesgericht gelangen, nicht eine einzelne Behörde oder ein Verwaltungszweig ohne eigene Rechtspersönlichkeit (<ref-ruling> E. 2.2.3 S. 48 mit Hinweis).
Gemäss § 107 Abs. 1 lit. a GOG/ZH vertritt die Oberstaatsanwaltschaft den Kanton in Rechtsmittelverfahren vor dem Bundesgericht. Es ist somit davon auszugehen, dass die Oberstaatsanwaltschaft hier in Vertretung des Kantons Beschwerde führt.
1.6 Die übrigen Sachurteilsvoraussetzungen sind erfüllt und geben zu keinen Bemerkungen Anlass. Die Beschwerde ist als solche in öffentlich-rechtlichen Angelegenheiten entgegenzunehmen. Die falsche Bezeichnung des Rechtsmittels schadet nicht (<ref-ruling> E. 3.1 S. 399 mit Hinweis). Die subsidiäre Verfassungsbeschwerde scheidet aus.
2. 2.1 Gemäss <ref-law> können die Kantone vorsehen, dass die Strafverfolgung der Mitglieder ihrer Vollziehungs- und Gerichtsbehörden wegen im Amt begangener Verbrechen oder Vergehen von der Ermächtigung einer nicht richterlichen Behörde abhängt. Diese Bestimmung bietet den Kantonen die Möglichkeit, die Strafverfolgung sämtlicher Mitglieder ihrer Vollziehungs- und Gerichtsbehörden von einer Ermächtigung abhängig zu machen (RIEDO/FIOLKA, a.a.O., N. 77 ff. zu <ref-law>; WOLFGANG WOHLERS, in: Kommentar zur Schweizerischen Strafprozessordnung, 2010, N. 22 zu <ref-law>; NIKLAUS SCHMID, Schweizerische Strafprozessordnung, Praxiskommentar, 2009, N. 9 zu <ref-law>).
Als Vollziehungsbehörden gelten alle Organisationen, die öffentliche Aufgaben wahrnehmen (RIEDO/FIOLKA, a.a.O., N. 83 zu <ref-law>). Die beschuldigten Polizeibeamten sind somit als Mitglieder von Vollziehungsbehörden anzusehen.
2.2 <ref-law> spricht ausdrücklich von der Ermächtigung einer nicht richterlichen Behörde. Diese Kompetenz hat der Kanton Zürich in Bezug auf Mitglieder des Regierungsrats, des Obergerichts, des Verwaltungsgerichts und des Sozialversicherungsgerichts ausgeschöpft, indem in Bezug auf diese Personen nach § 38 Abs. 1 des Kantonsratsgesetzes vom 5. April 1981 (KRG/ZH; LS 171.1) die Eröffnung einer Strafuntersuchung für im Amt begangene Verbrechen oder Vergehen eine Ermächtigung des Kantonsrats voraussetzt. Dabei dürfen nach der Rechtsprechung im Ermächtigungsentscheid nicht nur strafrechtliche Gesichtspunkte, sondern auch politische bzw. staatspolitische Überlegungen berücksichtigt werden (<ref-ruling> E. 1 S. 115 f. mit Hinweisen).
In Bezug auf Beamte gemäss <ref-law> entscheidet nach § 148 GOG/ZH das Obergericht über die Eröffnung oder Nichtanhandnahme einer Strafuntersuchung wegen im Amt begangener Verbrechen oder Vergehen. Vorbehalten bleibt die Zuständigkeit des Kantonsrats (vgl. § 38 Abs. 1 KRG/ZH). § 148 GOG/ZH wurde auf den Zeitpunkt des Inkrafttretens der StPO am 1. Januar 2011 erlassen.
Aus der Weisung des Regierungsrats vom 1. Juli 2009 zur kantonalen Gesetzesvorlage (im Entwurf § 150 GOG/ZH) ergibt sich, dass für Beamte und staatliche Angestellte, die nicht zu den in § 38 Abs. 1 KRG/ZH genannten Personen gehören, eine richterliche Ermächtigungsbehörde vorgesehen werden sollte. Es gehe hier nur um die Prüfung des Anfangsverdachts nach rechtlichen Gesichtspunkten, nicht um einen Entscheid nach Opportunitätsgründen. Somit werde die Möglichkeit von <ref-law> nicht vollständig ausgeschöpft (ABl/ZH 2009 1632).
Es ist grundsätzlich zulässig, dass ein Kanton von den in <ref-law> gewährten Gesetzgebungskompetenzen nur teilweise oder überhaupt keinen Gebrauch macht. Bei der Schaffung einer kantonalen Regelung hat er jedoch den bundesrechtlichen Anforderungen Rechnung zu tragen. In <ref-law> wird ausdrücklich ein Ermächtigungsverfahren vor einer nicht richterlichen Behörde als zulässig bezeichnet. Damit wollte der Bundesgesetzgeber aber nicht ausschliessen, dass die Kantone richterliche Behörden zur Ermächtigung der Strafverfolgung einsetzen. Wenn es den Kantonen gestattet ist, nicht richterliche Ermächtigungsbehörden vorzusehen, muss es ihnen nach dem Grundsatz "in maiore minus" erst recht erlaubt sein, mit entsprechender Unabhängigkeit ausgestattete richterliche Behörden einzusetzen. Dass der eidgenössische Gesetzgeber mit <ref-law> richterliche Ermächtigungsbehörden in den Kantonen ausschliessen wollte, kann umso weniger angenommen werden, als er im Bund teilweise selber solche eingesetzt hat (<ref-law>; <ref-law>; Art. 12 Abs. 1 VGG; ebenso RIEDO/FIOLKA, a.a.O., N. 95 zu <ref-law>).
2.3 Nach dem Wortlaut von § 148 Satz 1 GOG/ZH entscheidet das Obergericht über die Eröffnung oder Nichtanhandnahme einer Strafuntersuchung. In der Sache geht es dabei jedoch um eine Ermächtigung. Dies zeigt bereits der Vorbehalt nach § 148 Satz 2 GOG/ZH betreffend die Zuständigkeit des Kantonsrats. Gemeint ist damit dessen Zuständigkeit zum Ermächtigungsentscheid nach § 38 KRG/ZH. § 148 GOG/ZH stellt somit den Entscheid des Obergerichts jenem des Kantonsrats insoweit gleich. § 148 GOG/ZH verfolgt sodann denselben Zweck wie § 38 KRG/ZH. Auch mit § 148 GOG/ZH sollen Staatsbedienstete vor mutwilliger Strafverfolgung geschützt werden. Das Strafverfahren soll daher erst durchgeführt werden können, wenn eine (höhere) Behörde vorher ihre Zustimmung dazu erteilt hat. Alsdann kann die Staatsanwaltschaft die Untersuchung eröffnen. Der förmliche Entscheid über die Eröffnung oder die Nichtanhandnahme obliegt kraft ausdrücklicher bundesrechtlicher Regelung (Art. 309 und 310 StPO) in jedem Fall ihr, auch wenn § 148 GOG/ZH missverständlich die gleichen Begriffe verwendet.
§ 148 GOG/ZH kann sich demnach auf <ref-law> stützen. Wenn die Vorinstanz vom Gegenteil ausgeht, verkennt sie die Tragweite dieser Bestimmung.
2.4 Klarzustellen ist Folgendes:
Wenn der Regierungsrat in der Weisung vom 1. Juli 2009 (ABl/ZH 2009 1632) ausführt, bei § 148 GOG/ZH gehe es um einen Entscheid nach rechtlichen Gesichtspunkten und nicht um einen solchen nach Opportunitätsgründen, so ergibt sich dies aus einer verfassungskonformen Auslegung von <ref-law>. In <ref-ruling> wurde erwogen, dass beim Ermächtigungsentscheid nicht nur strafrechtliche, sondern auch politische Überlegungen berücksichtigt werden dürfen (E. 1 S. 115 f.). Doch ging es beim damals anwendbaren Art. 347 Abs. 2 lit. b aStGB, wie oben (E. 1.3.2) dargelegt, um die Strafverfolgung der Mitglieder der obersten Vollziehungs- und Gerichtsbehörden. Bei diesen mag es triftige Gründe geben, auch ausserstrafrechtliche Gesichtspunkte zu berücksichtigen, nicht aber beim übrigen Staatspersonal. Es ist nicht ersichtlich, weshalb es die Staatsräson gebieten soll, auch bei diesem Opportunität walten zu lassen. Dies wäre mit dem Gebot der Rechtsgleichheit (<ref-law>) unvereinbar und stünde zudem in Widerspruch zum für Bundesbeamte geltenden Regime, wonach die Ermächtigung nur in leichten Fällen und sofern die Tat nach allen Umständen durch eine disziplinarische Massnahme des Fehlbaren als genügend geahndet erscheint, verweigert werden darf (Art. 15 Abs. 3 VG). Nach verfassungskonformer Auslegung von <ref-law> dürfen demnach in Ermächtigungsverfahren - ausser bei obersten Vollziehungs- und Gerichtsbehörden - nur strafrechtliche Gesichtspunkte berücksichtigt werden (vgl. NICCOLÒ RASELLI, Die Ermächtigung zur Strafverfolgung gegen Mitglieder der obersten kantonalen Behörden, in: Aktuelle Probleme der Kriminalitätsbekämpfung, Festschrift SKG, 1992, S. 148 f.).
2.5 Die Vorinstanz scheint (angefochtener Entscheid S. 5 E. 4) davon auszugehen, von einem Ermächtigungsentscheid könne nur gesprochen werden, wenn die zuständige Behörde auch politischen Gesichtspunkten Rechnung tragen könne. Dem kann nicht gefolgt werden. <ref-law> sagt nicht, nach welchen Kriterien die kantonale Behörde über die Ermächtigung zu befinden hat. Berücksichtigt die kantonale Behörde keine politischen Gesichtspunkte bzw. darf sie das nicht, ändert dies an der rechtlichen Natur ihres Entscheids nichts. So bleiben etwa Entscheide des Zürcher Kantonsrats nach § 38 KRG/ZH auch dann Ermächtigungsentscheide, wenn er keine politischen Gesichtspunkte berücksichtigt.
2.6 Die Vorinstanz verweist darauf, § 148 GOG/ZH enthalte keine Bestimmungen über den Ablauf des Verfahrens, obwohl ein kantonales Ermächtigungsverfahren gemäss <ref-law> dem kantonalen Verwaltungsrecht und nicht dem Strafprozessrecht unterstehe. Dem ist entgegenzuhalten, dass auch § 38 Abs. 2-5 KRG/ZH - wie das Bundesgericht (<ref-ruling> E. 1 S. 115) bereits dargelegt hat - das Verfahren nur höchst rudimentär regelt. Gleichwohl handelt es sich dabei um ein auf <ref-law> gestütztes Ermächtigungsverfahren. Zur ausführlichen Regelung des Verfahrens vor Obergericht hatte der kantonale Gesetzgeber im Übrigen keinen zwingenden Grund. Gemäss § 38 Abs. 1 GOG/ZH bildet das Obergericht zur Behandlung der einzelnen Rechtsstreitigkeiten Kammern. § 39 Abs. 1 GOG/ZH regelt deren Besetzung. Im Übrigen richtet sich das Ermächtigungsverfahren nach den allgemeinen Grundsätzen der Bundesverfassung und der Europäischen Menschenrechtskonvention. So haben die Beteiligten insbesondere Anspruch auf rechtliches Gehör nach <ref-law> (<ref-ruling> E. 2.2 f. S. 118; RIEDO/FIOLKA, a.a.O., N. 99 zu <ref-law>; SCHMID, a.a.O., N. 11 zu <ref-law>).
2.6 Die Vorinstanz verweist darauf, § 148 GOG/ZH enthalte keine Bestimmungen über den Ablauf des Verfahrens, obwohl ein kantonales Ermächtigungsverfahren gemäss <ref-law> dem kantonalen Verwaltungsrecht und nicht dem Strafprozessrecht unterstehe. Dem ist entgegenzuhalten, dass auch § 38 Abs. 2-5 KRG/ZH - wie das Bundesgericht (<ref-ruling> E. 1 S. 115) bereits dargelegt hat - das Verfahren nur höchst rudimentär regelt. Gleichwohl handelt es sich dabei um ein auf <ref-law> gestütztes Ermächtigungsverfahren. Zur ausführlichen Regelung des Verfahrens vor Obergericht hatte der kantonale Gesetzgeber im Übrigen keinen zwingenden Grund. Gemäss § 38 Abs. 1 GOG/ZH bildet das Obergericht zur Behandlung der einzelnen Rechtsstreitigkeiten Kammern. § 39 Abs. 1 GOG/ZH regelt deren Besetzung. Im Übrigen richtet sich das Ermächtigungsverfahren nach den allgemeinen Grundsätzen der Bundesverfassung und der Europäischen Menschenrechtskonvention. So haben die Beteiligten insbesondere Anspruch auf rechtliches Gehör nach <ref-law> (<ref-ruling> E. 2.2 f. S. 118; RIEDO/FIOLKA, a.a.O., N. 99 zu <ref-law>; SCHMID, a.a.O., N. 11 zu <ref-law>).
2.7 2.7.1 Fragen kann man sich höchstens, ob der angefochtene Entscheid im Ergebnis bundesrechtskonform sei, weil es sich bei den Polizeibeamten um solche der Stadtpolizei und damit um Beamte der Gemeinde handelt (vgl. § 1 ff. des Polizeiorganisationsgesetzes vom 29. November 2004 des Kantons Zürich [POG/ZH; LS 551.1]). Gemäss <ref-law> können die Kantone vorsehen, dass die Strafverfolgung der Mitglieder ihrer Vollziehungs- und Gerichtsbehörden von einer Ermächtigung abhängt. Im Schrifttum wird die Auffassung vertreten, erfasst seien damit ausschliesslich Mitglieder kantonaler Behörden. Die Strafverfolgung von Mitgliedern kommunaler Behörden dürfe daher nicht von einer Ermächtigung abhängig gemacht werden (RIEDO/FIOLKA, a.a.O., N. 81 zu <ref-law>; ROBERT ROTH, in: Commentaire Romand, Code de procédure pénale suisse, 2011, N. 29 zu <ref-law>; PETER GOLDSCHMID UND ANDERE: Kommentierte Textausgabe zur Schweizerischen Strafprozessordnung, 2008, S. 7; STEFAN TRECHSEL/VIKTOR LIEBER; in: Schweizerisches Strafgesetzbuch, Praxiskommentar, 2008, N. 5 zu <ref-law>; tendenziell ebenso SCHMID, a.a.O., N. 9 zu <ref-law>).
Wie es sich damit verhält, hat das Bundesgericht in <ref-ruling> - der die insoweit mit <ref-law> identische frühere Bestimmung des Strafgesetzbuches betraf - offengelassen (E. 1a S. 81).
2.7.2 § 148 GOG/ZH sieht den Entscheid des Obergerichts nicht nur bei Beamten des Kantons, sondern bei Beamten schlechthin und damit auch bei solchen der Gemeinde vor.
Dies ist bundesrechtlich nicht zu beanstanden. Dass es den Kantonen gestattet sein muss, auf eine Differenzierung zwischen Beamten des Kantons und der Gemeinde zu verzichten, zeigt gerade der vorliegende Fall. § 27 POG/ZH sieht gemeinsame Einsätze der Kantons- und der Stadtpolizei vor. Bei einer Festnahme kann es somit ohne Weiteres vorkommen, dass Beamte der Kantons- und der Stadtpolizei zusammenwirken. Es wäre ungereimt und auch für die betroffenen Polizeibeamten nicht nachvollziehbar, wenn das Ermächtigungserfordernis - im gleichen Verfahren - nur bei den Kantons-, nicht aber bei den Stadtpolizisten gelten würde. Bei beiden Kategorien besteht das Bedürfnis, die Beamten vor mutwilliger Strafverfolgung zu schützen.
Zu berücksichtigen ist zudem Folgendes: Gemäss <ref-law> dürfen die Kantone nach der klaren Entscheidung des Gesetzgebers die Strafverfolgung auch ihrer niederen Beamten vom Ermächtigungserfordernis abhängig machen. Damit kann es ihnen vernünftigerweise nicht verwehrt sein, das Ermächtigungserfordernis ebenso vorzusehen bei Beamten von Gemeinden wie insbesondere der Stadt Zürich, die gegebenenfalls eine viel höhere Stellung bekleiden und daher für das Funktionieren staatlicher Organe wichtiger sind.
Es ist im Übrigen kein sachlicher Grund dafür ersichtlich, einzig bei Gemeindebeamten die Möglichkeit des Ermächtigungserfordernisses auszuschliessen. Auch Gemeindebeamte tragen wesentlich zum guten Funktionieren der Staatstätigkeit bei und verdienen daher Schutz vor mutwilliger Strafverfolgung.
3. Die Beschwerde ist demnach gutzuheissen und die Angelegenheit in Aufhebung des angefochtenen Entscheids an die Vorinstanz zurückzuweisen, damit diese in der Sache entscheide.
Es sind weder Kosten zu erheben noch Parteientschädigungen zuzusprechen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, der Beschluss des Obergerichts des Kantons Zürich vom 21. Januar 2011 aufgehoben und die Sache an dieses zurückgewiesen.
2. Es werden keine Kosten erhoben und keine Parteientschädigungen ausgerichtet.
3. Dieses Urteil wird den Parteien, der Staatsanwaltschaft Zürich-Sihl und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 15. Juli 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Härri