Sachverhalt: A. Der 1970 geborene R._ leidet an einer fazio-scapulo-humeralen Muskeldystrophie. Nachdem am 24. Januar 2002 und am 4. Februar 2004 die Ausrichtung einer Hilflosenentschädigung abgelehnt wurde, stellte R._ am 25 Juli 2007 ein erneutes Gesuch um Hilflosenentschädigung. Die IV-Stelle des Kantons Zürich holte einen Bericht von Dr. med. B._, Allgemeinmedizin FMH, ein, der von diesem am 27. Februar 2008 vorgelegt wurde. Ebenso veranlasste die IV-Stelle des Kantons Zürich eine Abklärung, worüber am 4. März 2008 ein Bericht erstellt wurde. Am 4. März 2008 teilte die IV-Stelle des Kantons Zürich R._ die Ausrichtung einer unveränderten Invalidenrente bei einem Invaliditätsgrad von 90% mit und stellte ihm gleichzeitig mit Vorbescheid vom 4. März 2008 die Ablehnung der Ausrichtung einer Hilflosenentschädigung in Aussicht, was am 4. November 2008 verfügt wurde. B. Am 4. Dezember 2008 hat R._ gegen die Verfügung der IV-Stelle Zürich vom 4. November 2008 Beschwerde beim Sozialversicherungsgericht des Kantons Zürich erhoben. Im Rahmen des Beschwerdeverfahrens wurden mit Verfügung vom 3. Februar 2009 Dr. B._ ergänzende Fragen zur Hilfsbedürftigkeit unterbreitet, die von Dr. B._ am 3. März 2009 beantwortet wurden. Das Sozialversicherungsgericht des Kantons Zürich, II. Kammer, hat in teilweiser Gutheissung der Beschwerde die angefochtene Verfügung vom 4. November 2008 aufgehoben und festgestellt, dass R._ ab dem 1. September 2007 Anspruch auf eine Entschädigung für leichte Hilflosigkeit hat. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten hat R._ am 21. Juni 2010 den Entscheid des Sozialversicherungsgerichts des Kantons Zürich, II. Kammer, vom 5. Mai 2010 angefochten. Vom Beschwerdeführer werden die Aufhebung des Urteils der Vorinstanz und die Ausrichtung einer Hilflosenentschädigung mittleren Grades ab 1. September 2007 verlangt. Die Vorinstanz hat auf eine Stellungnahme zur Beschwerde verzichtet. Die IV-Stelle des Kantons Zürich beantragt deren Abweisung. Das Bundesamt für Sozialversicherungen (BSV) hat sich nicht vernehmen lassen.