Sachverhalt:
A. S._ (geb. 1951) wurde mit Verfügung der IV-Stelle des Kantons Zürich vom 14. März 2007 rückwirkend ab 1. April 2002 eine ganze Invalidenrente, samt Zusatzrente für die Ehefrau und zwei Kinderrenten zugesprochen. Zudem gewährte ihm die Geschäftsstelle für Zusatzleistungen zur AHV/IV der Stadt Opfikon (nachstehend: Durchführungsstelle) gemäss Verfügung vom 21. September 2007 mit Wirkung ab November 2002 Ergänzungsleistungen zur Invalidenversicherung. Dagegen erhoben S._ und seine Ehefrau, L._ (geb. 1951), Einsprache, mit welcher sie kantonale und kommunale Zusatzleistungen geltend machten. Mit Verfügung vom 12. Dezember 2007 sprach die IV-Stelle L._ ab 1. Juli 2004 ebenfalls eine ganze Invalidenrente und zwei Kinderrenten zu. Die Durchführungsstelle nahm daher eine Neuberechnung des Leistungsanspruchs von S._ ab Juli 2004 vor (Verfügung vom 28. Februar 2008) und wies die Einsprache mit Entscheid vom 28. Februar 2008 ab. Dabei verneinte sie den Anspruch auf kantonale Beihilfe und kommunale Zuschüsse.
B. Gegen den Einspracheentscheid vom 28. Februar 2008 erhoben S._ und L._ Beschwerde beim Sozialversicherungsgericht des Kantons Zürich. Sie beantragten mit Wirkung ab 1. November 2004 kantonale Beihilfen und kommunale Mietzinszuschüsse, eventuell eine rechnerische Überprüfung ihres Anspruchs. Das kantonale Gericht wies die Beschwerde mit Entscheid vom 31. März 2010 ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lassen S._ und L._ beantragen, der Entscheid des Sozialversicherungsgerichts sei aufzuheben, und die Durchführungsstelle sei zu verpflichten, ihnen ab 1. November 2004 kantonale Beihilfen und kommunale Mietzinszuschüsse auszurichten; eventuell sei die Sache zur Festsetzung des Anspruchs an die Vorinstanz oder die Verwaltung zurückzuweisen. Zudem ersuchen sie um unentgeltliche Rechtspflege.
Die Durchführungsstelle schliesst auf Abweisung der Beschwerde, während das Bundesamt für Sozialversicherungen und das Sozialversicherungsgericht auf eine Vernehmlassung verzichten.

Erwägungen:
1. 1.1 Angefochten ist ein in Anwendung von kantonalem Sozialversicherungsrecht ergangener kantonal letztinstanzlicher Endentscheid in einer Angelegenheit des öffentlichen Rechts (Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Art. 90 BGG), welche unter keine der Ausnahmebestimmungen von <ref-law> fällt. Er kann daher mit Beschwerde in öffentlich-rechtlichen Angelegenheiten angefochten werden (vgl. <ref-law>).
1.2 Das Bundesgericht kann angefochtene Entscheide nicht uneingeschränkt, sondern nur hinsichtlich der im Gesetz (<ref-law>) genannten Beschwerdegründe überprüfen. Ist auf die zu beurteilenden Fragen, wie hier, ausschliesslich kommunales oder kantonales Recht anwendbar, sind die Bundesrechtsrügen gemäss <ref-law> auf Verfassungsrügen beschränkt. Hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht gilt der in <ref-law> verankerte Grundsatz der Rechtsanwendung von Amtes wegen nicht; insofern besteht eine qualifizierte Rügepflicht (vgl. <ref-law>). Es obliegt den Beschwerdeführenden namentlich darzulegen, inwiefern der angefochtene Entscheid gegen die gerügten Grundrechte verstossen soll. Das Bundesgericht prüft nur klar und detailliert erhobene und, soweit möglich, belegte Rügen. Auf ungenügend begründete Rügen und bloss allgemein gehaltene, appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein (<ref-ruling> E. 1.3 S. 262; <ref-ruling> E. 2.1 S. 120, je mit Hinweisen).
1.3 In Ergänzung zu den Rügen, die sich auf Art. 95 f. BGG stützen, sind unter den engen Voraussetzungen von <ref-law> auch Vorbringen gegen die Sachverhaltsfeststellung zulässig. Ein solcher Einwand kann nach der letztgenannten Bestimmung nur erhoben werden, wenn die Feststellung des Sachverhalts durch die Vorinstanz offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinn von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann.
2. 2.1 Gemäss § 1 des Gesetzes des Kantons Zürich vom 7. Februar 1971 über die Zusatzleistungen zur eidgenössischen Alters-, Hinterlassenen- und Invalidenversicherung (Zusatzleistungsgesetz, ZLG; LS 831.3) werden nach Massgabe der Vorschriften des ELG (SR 831.30) und aufgrund des ZLG Zusatzleistungen ausgerichtet, welche aus Ergänzungsleistungen gemäss ELG (lit. a), Beihilfen (lit. b) und Zuschüssen (lit. c) bestehen. Laut § 13 ZLG setzt die Ausrichtung von Beihilfen voraus, dass die Voraussetzungen für Ergänzungsleistungen gemäss Art. 4-6 ELG erfüllt sind und die Person in den letzten 25 Jahren vor der Gesuchstellung während einer Mindestdauer im Kanton gewohnt hat (Abs. 1). Nach § 15 ZLG finden die Vorschriften, die für die jährliche Ergänzungsleistung nach Art. 9 ff. ELG gelten, entsprechende Anwendung, soweit für die Beihilfe nichts Abweichendes bestimmt ist. Bei fehlendem Bedarf kann die Beihilfe nach dem seit 1. Januar 2004 in Kraft stehenden § 18 ZLG gekürzt oder verweigert werden, soweit sie für den Unterhalt nicht benötigt wird und der bundesrechtlich gewährleistete Anspruch auf Prämienverbilligung gewahrt bleibt. Die Gemeinden können gemäss § 20 ZLG Gemeindezuschüsse zu den Beihilfen gewähren, die nicht als Einkommen anzurechnen sind.
2.2 Bei der Anwendung kantonalen Rechts kann das in <ref-law> als allgemeiner Verfassungsgrundsatz verankerte Verhältnismässigkeitsgebot im Rahmen einer Beschwerde in öffentlich-rechtlichen Angelegenheiten ausserhalb des Schutzbereichs spezieller Grundrechte nur unter dem Gesichtswinkel des Willkürverbots (<ref-law>) angerufen werden (<ref-ruling> E. 7.3.2 S. 182; <ref-ruling> E. 4 S. 156 ff.). Soweit die Beschwerdeführenden neben einer willkürlichen Anwendung von § 18 ZLG rügen, die Vorinstanz habe auch das Verhältnismässigkeitsgebot missachtet, ist dieser Einwand demzufolge ebenfalls nur unter dem Gesichtswinkel des Willkürverbots zu prüfen. Willkürlich im Sinne von <ref-law> ist ein Entscheid nicht schon dann, wenn eine andere Lösung ebenfalls vertretbar erscheint oder gar vorzuziehen wäre, sondern erst dann, wenn er offensichtlich unhaltbar ist, zur tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (<ref-ruling> E. 1.3 S. 4 f.; <ref-ruling> E. 4.2.1 S. 362; <ref-ruling> E. 5.1 S. 260 f.; <ref-ruling> E. 3.1 S. 153; je mit Hinweisen).
3. 3.1 Das Sozialversicherungsgericht hat gestützt auf § 18 ZLG erwogen, diese Bestimmung ziele nicht nur auf Fälle mit privilegierten, bei der Berechnung der Ergänzungsleistungen nicht angerechneten Erwerbseinkommen ab. Die Voraussetzungen von § 18 ZLG seien vielmehr grundsätzlich immer dann erfüllt, wenn die Beihilfe aufgrund der jeweiligen konkreten Umstände für den Unterhalt nicht benötigt würden. Insofern stelle die in § 19 der Zusatzleistungsverordnung vom 5. März 2008 (ZLV; LS 831.31) erwähnte Kürzung um die Netto-Erwerbseinkünfte nicht invalider Familienmitglieder lediglich einen Anwendungsfall von § 18 ZLG dar.
3.2 Was die Beschwerdeführenden dagegen vorbringen, lässt diese Auslegung des kantonalen Rechts nicht als willkürlich erscheinen. Denn sie entspricht durchaus dem Wortlaut sowie Sinn und Zweck der Zusatzleistungen zur AHV/IV. Aufgrund der offenen Formulierung in § 18 ZLG "soweit sie für den Unterhalt nicht benötigt wird" erscheint die vorinstanzliche Betrachtungsweise, bei § 18 ZLG handle es sich um eine allgemeine Kürzungsbestimmung, welche nicht auf den Kürzungstatbestand von § 19 ZLV beschränkt sei, nicht als unhaltbar. § 19 ZLV hat folgenden Wortlaut: "Bei Mehrpersonenhaushalten wird der rechnerische Anspruch auf Beihilfe um denjenigen Betrag gekürzt, um den die Netto-Erwerbseinkünfte nicht invalider Familienmitglieder in der Berechnung der jährlichen Ergänzungsleistungen herabgesetzt werden". Aus dem Umstand, dass § 19 ZLV keine weiteren Kürzungsgründe nennt, kann nicht gefolgert werden, solche seien im Rahmen der kantonalen Beihilfe generell ausgeschlossen. Das Fehlen einer Aufzählung von (weiteren) Anwendungsfällen in Gesetz und Vollzugsverordnung lässt vielmehr darauf schliessen, dass im Einzelfall anhand der konkreten Umstände zu prüfen ist, ob die Beihilfe im Umfang des in § 16 ZLG festgesetzten Höchstbetrages "benötigt" wird, oder ob sie im Sinne von § 18 ZLG zu kürzen oder zu verweigern ist. Hinzu kommt, dass die ZLV die Beihilfen in den §§ 18 und 19 nur sehr summarisch regelt und den Anspruch einzig mit Bezug auf Ehepaare und eingetragene Partnerschaften sowie Haushalte mit mehreren Personen präzisiert, was gegen eine abschliessende Regelung spricht.
4. 4.1 Nach den unbestrittenen Feststellungen des Sozialversicherungsgerichts wurde die vierköpfige Familie in der Zeit von Ende 2002 bis Sommer 2007 von der Sozialhilfe finanziell unterstützt. Nachdem die Sozialhilfeleistungen im Verlaufe des Jahres 2007 durch die neu zugesprochenen Invalidenrenten und Ergänzungsleistungen abgelöst worden waren, wurde ihnen gemäss Abrechnung der Sozialberatung Opfikon vom 7. Februar 2008 Ende März 2008 rückwirkend zusätzlich noch Sozialhilfe in Höhe von Fr. 49'913.10 zugesprochen.
4.2 Das kantonale Gericht hat erwogen, es sei davon auszugehen, dass der Unterhaltsbedarf der Familie im Sinne von § 18 ZLG während des Bezugs von Sozialhilfe habe gedeckt werden können, zumal die Sozialhilfe nicht nur Anspruch auf ein minimales betreibungsrechtliches Existenzminimum gebe, sondern auf ein soziales Existenzminimum, welches neben den üblichen Aufwendungen für den Lebensunterhalt auch individuelle Bedürfnisse angemessen berücksichtige. Danach hätten die Beschwerdeführer kumulativ zu den bereits laufenden Renten und Ergänzungsleistungen sowie einem Lehrlingslohn noch fast Fr. 50'000.- an Sozialhilfe erhalten, was auf eine Deckung des Unterhaltsbedarfs im Sinne von § 18 ZLG bis zum für die Beurteilung massgebenden Zeitpunkt des streitigen Einspracheentscheids vom 28. Februar 2008 schliessen lasse. Weiter hat das Sozialversicherungsgericht erkannt, die Beschwerdeführenden würden mit Bezug auf keine der einzelnen Unterhaltspositionen substanziiert nachweisen, dass diese nicht durch die bereits erhaltenen Leistungen ausreichend gedeckt worden wären. Gemäss eigenen Angaben in der Beschwerdeschrift verfügten sie nach Rückzahlung der während der Wartezeit bei Bekannten eingegangenen Schulden und dem Kauf neuer Möbel sogar noch über ein kleines Vermögen. Das kantonale Gericht kam daher zum Schluss, dass eine Zusprechung von Beihilfe ab November 2004 bloss das Vermögen der Beschwerdeführenden erhöhen würde, was offenkundig nicht Sinn der Beihilfe sein könne.
Da somit kein Anspruch auf kantonalrechtliche Beihilfe besteht und die Ausrichtung von Gemeindezuschüssen und weiteren Gemeindeleistungen laut Art. 4 und Art. 8 der Verordnung der Stadt Opfikon vom 8. Mai 1978 über die Zusatzleistungen zur eidgenössischen Alters-, Hinterlassenen- und Invalidenversicherung und die freiwilligen Gemeindezuschüsse die Ausrichtung von (kantonaler) Beihilfe voraussetzt, besteht nach Ansicht des Sozialversicherungsgerichts auch kein Anspruch auf kommunale Mietzinszuschüsse.
4.3 Diese Anwendung der massgebenden rechtlichen Grundlagen durch das Sozialversicherungsgericht auf den Fall der Beschwerdeführenden kann weder als willkürlich noch als rechtsungleich bezeichnet werden. Soweit die Beschwerdeführenden vorbringen, sie hätten im Verfügungszeitpunkt über kein grosses Vermögen mehr verfügt und den anrechenbaren Einnahmen und Zusatzleistungen würden gleich hohe anerkannte Auslagen gegenüber stehen, so dass der Familie für den Lebensunterhalt nicht mehr Geld zur Verfügung stehe als anderen Ergänzungsleistungsberechtigten, gilt es darauf hinzuweisen, dass kantonale Zusatzleistungen zur AHV/IV nach dem in Erwägung 3 hievor Gesagten nur bei entsprechender Bedarfssituation zu erbringen sind. Indem das kantonale Gericht festgestellt hat, für den zu beurteilenden Zeitraum sei eine solche nicht ausgewiesen, erweist sich dies nicht als willkürlich.
4.4 Die Beschwerdeführenden berufen sich zusätzlich auf den Vertrauensschutz sowie auf Treu und Glauben (Art. 5 Abs. 3 und <ref-law>; vgl. allgemein <ref-ruling> E. 6.1 S. 637 mit Hinweisen). Es gehe nicht an, Personen mit Anrecht auf Zusatzleistungen zunächst fünfeinhalb Jahre in der Sozialhilfe zu belassen und anschliessend, wenn der Wechsel zu den Zusatzleistungen erfolge und damit eine Nachzahlung verbunden sei, den Anspruch auf Beihilfe mit dem Hinweis auf eben diese Nachzahlung zu verweigern.
Nach <ref-law> werden staatliche Organe sowie Private zum Handeln nach Treu und Glauben angehalten. Jede Person hat zudem gemäss <ref-law> den grundrechtlichen Anspruch darauf, von den staatlichen Organen nach Treu und Glauben behandelt zu werden. Insbesondere ist berechtigtes Vertrauen in behördliche Zusicherungen oder sonstiges, bestimmte Erwartungen begründendes Verhalten zu schützen (vgl. <ref-ruling> E. 8.1 S. 60). Es ist weder erkennbar noch von den Beschwerdeführenden dargelegt worden, welche Dispositionen sie mit Blick auf das Verhalten der Behörden getroffen haben, die sie nicht mehr ohne Schaden rückgängig machen können. Zudem kann von einer rechtsmissbräuchlichen Verzögerung der Prüfung des Anspruchs auf Zusatzleistungen zur IV-Rente keine Rede sein, da über das vom 20. Juni 2007 datierte Gesuch bereits am 21. September 2007 verfügt worden ist.
5. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist somit abzuweisen. Die Gerichtskosten werden den unterliegenden Beschwerdeführenden auferlegt (<ref-law>), da ihrem Gesuch um unentgeltliche Rechtspflege mangels der gemäss <ref-law> hierfür erforderlichen Voraussetzung der Nichtaussichtslosigkeit der Rechtsvorkehr nicht entsprochen werden kann.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 500.- werden den Beschwerdeführenden auferlegt.
4. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 23. August 2010
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Hofer