Sachverhalt:
A. Der 1943 geborene B._ ist gelernter Metzger und war seit 1984 als selbstständigerwerbender Metzger und nebenerwerblich als Landwirt tätig. Am 22. Mai 1992 erlitt er bei einem Arbeitsunfall eine Schnittverletzung am Ringfinger der linken Hand, weshalb er in der Folge den eigenen Schlachthausbetrieb aufgab. Im Januar 1994 meldete sich B._ bei der Invalidenversicherung zum Bezug einer Rente an. Mit Verfügung vom 25. September 1997 lehnte die IV-Stelle Luzern den Anspruch auf eine Rente ab. Diese Verfügung hob das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 31. Mai 2000 auf und wies die Sache an die Verwaltung zurück. Mit Verfügung vom 3. April 2001 wies die IV-Stelle das Leistungsbegehren bei einem Invaliditätsgrad von 10 % erneut ab und teilte B._ mit, dass über die Zeit ab 25. September 1997 nach Abschluss der BEFAS-Abklärung entschieden werde. Gestützt auf den BEFAS-Abklärungsbericht vom 2. November 2001 und verschiedene Arztberichte sprach die IV-Stelle dem Versicherten mit Verfügung vom 17. Juli 2003, bestätigt durch den Einspracheentscheid vom 13. April 2004, ab 1. Oktober 2000 eine Viertelsrente zu. Auf Beschwerde hin hob das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 23. März 2005 den Einspracheentscheid auf und wies die Sache zur polydisziplinären Begutachtung und anschliessenden Neuverfügung an die IV-Stelle zurück. Gestützt auf das Gutachten der Medizinischen Abklärungsstelle (MEDAS) vom 28. April 2006 teilte die IV-Stelle B._ mit Vorbescheid vom 29. September 2006 mit, er habe ab 1. Oktober 2000 Anspruch auf eine halbe Rente, ab 1. März 2002 Anspruch auf eine ganze Rente, ab 1. Oktober 2002 Anspruch auf eine halbe Rente und ab 1. Juli 2005 Anspruch auf eine halbe Rente. Mit Verfügung vom 5. März 2007 sprach sie dem Versicherten ab 1. März 2007 eine halbe Rente zu und bestätigte die im Vorbescheid mitgeteilten Rentenansprüche. Am 16. Mai 2007 erfolgte die Verfügung über die rückwirkende Zusprache einer halben Rente ab 1. Oktober 2000, einer ganzen Rente ab 1. März 2002, einer halben Rente ab 1. Oktober 2002 und einer halben Rente ab 1. Juli 2005.
B. Beschwerdeweise liess B._ die Aufhebung der Verfügungen vom 5. März und 16. Mai 2007 sowie die Zusprechung mindestens einer halben Rente für die Zeit zwischen 1. Oktober 1999 und 28. Februar 2002, einer ganzen Rente bei einem Invaliditätsgrad von 100 % für die Zeit zwischen 1. März und 30. September 2002 und einer unbefristeten ganzen Rente bei einem Invaliditätsgrad von mindestens 70 % ab 1. Oktober 2002 beantragen. Eventualiter sei die Sache an die IV-Stelle zurückzuweisen, damit sie die Prozentwerte der Arbeitsfähigkeiten für körperlich leichte, angepasste Tätigkeiten und die Zahlen der Valideneinkommen für die Jahre 1999 bis heute entsprechend neu festlege und gestützt darauf die Werte der Invaliditätsgrade neu berechne.
Mit Entscheid vom 11. Juni 2008 hiess das Verwaltungsgericht des Kantons Luzern die Beschwerden teilweise gut, hob die Verfügungen vom 5. März und 16. Mai 2007 auf und verpflichtete die IV-Stelle, B._ ab 1. Oktober 2000 eine halbe IV-Rente, ab 1. März 2002 eine ganze IV-Rente, ab 1. Oktober 2002 wiederum eine halbe IV- Rente und ab 1. Juli 2005 eine ganze IV-Rente auszurichten.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt die IV-Stelle die Aufhebung des kantonalen Entscheids und die Bestätigung ihrer Verfügungen vom 5. März und 16. Mai 2007. Eventuell sei dem Versicherten ab 1. Oktober 2000 eine Viertelsrente, ab 1. März 2002 eine ganze Rente, ab 1. Oktober 2002 eine Viertelsrente und ab 1. Juli 2005 eine Dreiviertelsrente auszurichten.
B._ verzichtet auf eine Vernehmlassung. Das Bundesamt für Sozialversicherungen beantragt Gutheissung der Beschwerde und schliesst sich den Begehren der IV-Stelle an.
Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (Art. 82 ff. BGG) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Mit Blick auf diese Kognitionsregelung ist auf Grund der Vorbringen in der Beschwerde ans Bundesgericht zu prüfen, ob der angefochtene kantonale Gerichtsentscheid in der Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen (u.a.) Bundesrecht, Völkerrecht oder kantonale verfassungsmässige Rechte verletzt (Art. 95 lit. a-c BGG), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG). Hingegen hat unter der Herrschaft des BGG eine freie Überprüfung des vorinstanzlichen Entscheids in tatsächlicher Hinsicht zu unterbleiben, ausser wenn sich die Beschwerde gegen einen Entscheid über die Zusprechung oder Verweigerung von Geldleistungen der Militär- oder Unfallversicherung richtet (Art. 97 Abs. 2 BGG).
2. 2.1 Die im Streite liegenden Verfügungen datieren vom 5. März und 16. Mai 2007, weshalb die am 1. Januar 2008 in Kraft getretenen Änderungen des IVG vom 6. Oktober 2006 und der IVV vom 28. September 2007 (5. IV-Revision) nicht anwendbar sind (BGE 131 V 107 E. 1 S. 108 f., 133 E. 1 S. 136 und 242 E. 2.1 S. 243 f., je mit Hinweisen).
2.2 Streitig und zu prüfen ist der Rentenanspruch ab 1. Oktober 2000. Damit ist teilweise ein Sachverhalt zu beurteilen, der sich vor dem Inkrafttreten des ATSG und der ATSV am 1. Januar 2003 sowie der Änderungen des IVG vom 21. März 2003 und der IVV vom 21. Mai 2003 (4. IV-Revision) am 1. Januar 2004 verwirklicht hat. Daher und auf Grund dessen, dass der Rechtsstreit eine Dauerleistung betrifft, über welche noch nicht rechtskräftig verfügt wurde, ist entsprechend den allgemeinen intertemporalrechtlichen Regeln für die Zeit bis 31. Dezember 2002 sowie bis 31. Dezember 2003 auf die damals geltenden Bestimmungen und ab diesen Zeitpunkten auf die neuen Normen des ATSG bzw. der 4. IV-Revision und deren Ausführungsverordnungen abzustellen (BGE 130 V 445 ff.). Diese übergangsrechtliche Lage zeitigt indessen - wie das kantonale Gericht zutreffend dargelegt hat - keine materiellrechtlichen Folgen, da das ATSG hinsichtlich des Begriffs und der Bemessung der Invalidität keine substantiellen Änderungen gegenüber der bis Ende 2002 gültig gewesenen Rechtslage gebracht hat; gleiches gilt für die 4. IV-Revision (BGE 130 V 343; Urteil 8C_814/2007 und 8C_580/2008 vom 25. September 2008, E. 4.3).
2.3 Die Vorinstanz hat die Bestimmungen und Grundsätze über die Arbeitsunfähigkeit (Art. 6 ATSG), die Erwerbsunfähigkeit (Art. 7 ATSG), die Invalidität (Art. 8 Abs. 1 ATSG; Art. 4 Abs. 1 IVG), den Anspruch auf eine Invalidenrente (Art. 28 Abs. 1 IVG in der bis Ende 2003 gültig gewesenen und in der seit 1. Januar 2004 geltenden Fassung), die Invaliditätsbemessung bei Erwerbstätigen nach der Einkommensvergleichsmethode (bis Ende 2002: Art. 28 Abs. 2 IVG; während des Jahres 2003: Art. 16 ATSG; seit 1. Januar 2004: Art. 28 Abs. 2 IVG in Verbindung mit Art. 16 ATSG; BGE 130 V 343 E. 3.4 S. 348, 128 V 29 E. 1 S. 30) und das auf rückwirkend abgestufte Renten anwendbare Revisionsrecht (bis 31. Dezember 2002: Art. 41 IVG; ab 1. Januar 2003: Art. 17 ATSG) zutreffend dargelegt. Richtig sind auch die Ausführungen über die Aufgabe des Arztes oder der Ärztin im Rahmen der Invaliditätsbemessung (BGE 125 V 256 E. 4 S. 261) sowie über den Beweiswert und die Beweiswürdigung medizinischer Berichte und Gutachten (BGE 125 V 351 E. 3a S. 352). Darauf wird verwiesen.
3. Was zunächst die gesundheitliche Beeinträchtigung und die daraus resultierende Arbeitsunfähigkeit anbelangt, hat das kantonale Gericht im Wesentlichen gestützt auf den BEFAS-Bericht vom 2. November 2001 und das MEDAS-Gutachten vom 28. April 2006 festgestellt, dass der Beschwerdegegner unter Berücksichtigung der Schnittverletzung an der linken Hand, eines chronischen thorakolumbovertebralen Schmerzsyndroms sowie einer chronisch obstruktiven Lungenerkrankung für körperlich schwere Arbeiten wie die gelernte Tätigkeit als Metzger nicht mehr arbeitsfähig ist, dass hingegen in einer leidensangepassten, körperlich leichten Arbeit wie beispielsweise die zuletzt ausgeübte Tätigkeit als Hilfskoch folgende Restarbeitsfähigkeiten bestehen: 75 % vom 1. Oktober 1999 bis 30. November 2001, 0 % vom 1. Dezember 2001 bis 30. Juni 2002, 75 % vom 1. Juli 2002 bis 31. März 2002 und 50 % ab 1. April 2005. Den Beginn des Wartejahres für den Rentenanspruch hat die Vorinstanz auf 1. Oktober 1999 festgelegt. Diese Sachverhaltsfeststellungen werden in der Beschwerde nicht bestritten und sind nach Gesagtem für das Bundesgericht verbindlich.
4. Streitig und zu prüfen ist der Rentenanspruch ab 1. Oktober 2000, dabei namentlich das durch die Vorinstanz dem Einkommensvergleich zu Grunde gelegte Valideneinkommen.
Auf der nichtmedizinischen beruflich-erwerblichen Stufe der Invaliditätsbemessung charakterisieren sich als Rechtsfragen die gesetzlichen und rechtsprechungsgemässen Regeln über die Durchführung des Einkommensvergleichs (BGE 130 V 343 E. 3.4 S. 348 f., 128 V 29 E. 1 S. 30 f., 104 V 135 E. 2a und b S. 136 f.), einschliesslich derjenigen über die Anwendung der Schweizerischen Lohnstrukturerhebung/LSE (BGE 129 V 472 E. 4.2.1 S. 475 f., 126 V 75 E. 3b/bb S. 76 f., 124 V 321 E. 3b/aa S. 322 f.) und der Dokumentation von Arbeitsplätzen/DAP (BGE 129 V 472). In dieser Sicht stellt sich die Feststellung der beiden hypothetischen Vergleichseinkommen als Tatfrage dar, soweit sie auf konkreter Beweiswürdigung beruht, hingegen als Rechtsfrage, soweit sich der Entscheid nach der allgemeinen Lebenserfahrung richtet. Letztes betrifft etwa die Frage, ob Tabellenlöhne anwendbar sind, welches die massgebliche Tabelle ist und ob ein (behinderungsbedingt oder anderweitig begründeter) Leidensabzug vorzunehmen sei. Demgegenüber beschlägt der Umgang mit den Zahlen in der massgeblichen LSE-Tabelle und in den Arbeitsplatznachweisen der DAP Tatfragen (BGE 132 V 393 E. 3.3 S. 399).
5. 5.1 In erwerblicher Hinsicht ging das kantonale Gericht davon aus, der Beschwerdegegner wäre ohne die aus dem im Mai 1992 erlittenen Unfall resultierende gesundheitliche Beeinträchtigung weiterhin als selbstständiger Metzger tätig gewesen. Als Valideneinkommen zog es das gemäss dem Zusammenruf der IK-Auszüge in den Jahren 1990 und 1991 erzielte Einkommen von Fr. 52'300.- bei und rechnete dieses gemäss Nominallohnentwicklung per 2000 auf Fr. 59'956.-, per 2002 auf Fr. 62'155.70 und per 2005 auf Fr. 64'299.- hoch. Das Invalideneinkommen ermittelte die Vorinstanz gestützt auf die Tabellenlöhne gemäss Lohnstrukturerhebung (LSE) des Bundesamtes für Statistik anhand des Wertes für die mit einfachen und repetitiven Aufgaben (Anforderungsniveau 4) beschäftigten Männer im Gastgewerbe, unter Umrechnung auf die durchschnittlichen Wochenstunden im Sektor Gastgewerbe und unter Berücksichtigung der Nominallohnentwicklung. Das kantonale Gericht setzte das Invalideneinkommen entsprechend der zumutbaren Restarbeitsfähigkeit (nach Berücksichtigung der mindestens dreimonatigen anspruchsbeeinflussenden Verschlechterung des Gesundheitszustandes gemäss Art. 88a Abs. 2 IVV) von 75 % zwischen 1. Oktober 2000 und 30. Februar 2002 und unter Vornahme eines leidensbedingten Abzuges von 15 % für das Jahr 2000 auf Fr. 25'592.35, entsprechend der vollständigen Arbeitsunfähigkeit zwischen 1. März 2002 und 30. September 2002 auf Fr. 0.-, entsprechend der 75%igen Arbeitsfähigkeit ab 1. Oktober 2002 auf Fr. 26'899.80 und entsprechend der aus einer Verschlechterung des Gesundheitszustandes ab 1. Juli 2005 resultierenden Restarbeitsfähigkeit von 50 % auf Fr. 19'090.70 fest. Aus der Gegenüberstellung von Validen- und Invalideneinkommen ermittelte die Vorinstanz für die Zeit ab 1. Oktober 2000 bis 30. Februar 2002 einen Invaliditätsgrad von 57 %, ab 1. März 2002 bis 30. September 2002 von 100 %, ab 1. Oktober 2002 bis 30. Juni 2005 wiederum von 57 % und ab 1. Juli 2005 von 70 %, was einen Anspruch auf eine halbe Rente ab 1. Oktober 2000, auf eine ganze Rente ab 1. März 2002, wiederum auf eine halbe Rente ab 1. Oktober 2002 und auf eine ganze Rente ab 1. Juli 2005 ergab.
5.2 Die Ermittlung des Invalideneinkommens anhand der LSE ist unbestritten und im Rahmen der bundesgerichtlichen Überprüfungsbefugnis nicht zu beanstanden.
6. 6.1 Bezüglich Ermittlung des Valideneinkommens macht die IV-Stelle im Wesentlichen geltend, die vor Eintritt des Gesundheitsschadens erzielten Einkommen lägen mehr als 15 Jahre zurück und in den 90-er Jahren habe ein auch die Metzgereigeschäfte betreffender grosser Strukturwandel stattgefunden, weshalb es nicht realistisch sei, die Berechnung des heute erzielbaren Einkommens aufgrund des IK-Zusammenzugs zu erstellen. Sie ermittelte das Valideneinkommen anhand der Gewerbe-Statistik des Schweizerischen Gewerbeverbandes, Branche Metzger, Selbstständigerwerbende, und setzte es für das Jahr 2000 auf Fr. 53'600.-, für das Jahr 2002 auf Fr. 58'300.- und für das Jahr 2004 auf Fr. 41'300.- fest, was aus der Gegenüberstellung mit dem Invalideneinkommen Anspruch auf eine halbe Rente ab 1. Oktober 2000, auf eine ganze Rente ab 1. März 2002, auf eine halbe Rente ab 1. Oktober 2002 und auf eine halbe Rente ab 1. Juli 2005 ergibt. Für den Fall, dass das Valideneinkommen anhand der abgerechneten Einkommen gemäss IK-Zusammenzug festgelegt werde, macht die IV-Stelle geltend, aufgrund der sehr unterschiedlichen Einkommen rechtfertige es sich, das Durchschnittseinkommen der Jahre 1986 bis 1991 von Fr. 40'285.- beizuziehen und zu indexieren. Dies ergebe für das Jahr 2000 ein hypothetisches Valideneinkommen von Fr. 46'182.-, für 2002 von Fr. 47'876.- und für 2005 von Fr. 49'527.- sowie - in Gegenüberstellung mit dem Invalideneinkommen - Anspruch auf eine Viertelsrente ab 1. Oktober 2000, auf eine ganze Rente ab 1. März 2002, auf eine Viertelsrente ab 1. Oktober 2002 und auf eine Dreiviertelsrente ab 1. Juli 2005.
6.2 Für die Ermittlung des Einkommens, welches die versicherte Person ohne Invalidität erzielen könnte (Valideneinkommen), ist entscheidend, was sie im massgebenden Zeitpunkt auf Grund ihrer beruflichen Fähigkeiten und persönlichen Umstände nach dem Beweisgrad der überwiegenden Wahrscheinlichkeit als Gesunde tatsächlich verdient hätte. Die Einkommensermittlung hat so konkret wie möglich zu erfolgen. Da nach empirischer Feststellung in der Regel die bisherige Tätigkeit im Gesundheitsfall weitergeführt worden wäre, ist Anknüpfungspunkt für die Bestimmung des Valideneinkommens grundsätzlich der letzte vor Eintritt der Gesundheitsschädigung erzielte, nötigenfalls der Teuerung und der realen Einkommensentwicklung angepasste Verdienst (BGE 134 V 322 E. 4.1 S. 325, 129 V 222 Erw. 4.3.1 S. 224 mit Hinweisen). Angesichts der in Art. 25 Abs. 1 IVV vorgeschriebenen Parallelisierung der IV-rechtlich massgebenden hypothetischen Vergleichseinkommen mit den AHV-rechtlich beitragspflichtigen Einkommen kann das Valideneinkommen von Selbstständigerwerbenden grundsätzlich auf Grund der IK-Einträge bestimmt werden (Urteile I 84/06 vom 10. Mai 2006, E. 4.1 und I 297/02 vom 28. April 2003 E. 3.2.4). Weist das bis Eintritt der Invalidität erzielte Einkommen starke und verhältnismässig kurzfristig in Erscheinung getretene Schwankungen auf, ist dabei auf den während einer längeren Zeitspanne erzielten Durchschnittsverdienst abzustellen (ZAK 1985 S. 464 E. 2c, I 370/84; vgl. auch AHI 1999 S. 237 E. 3b, I 377/98, mit Hinweisen; Urteil I 316/04 vom 23. Dezember 2004 E. 5.1.1).
6.3 Der Beschwerdegegner ist gelernter Metzger und war ab 1984 bis zu seinem Unfall im Jahre 1992 als Selbstständigerwerbender auf seinem erlernten Beruf tätig. Nach Gesagtem ist daher nicht zu beanstanden, dass die Vorinstanz das dem Einkommensvergleich zu Grunde zu legende Valideneinkommen anhand der IK-Einträge und unter Berücksichtigung der Nominallohnentwicklung ermittelt hat. Diese Einkommensermittlung ist konkreter als das Abstellen auf Durchschnittsangaben der Gewerbe-Statistik, welche auch bei Einschränkung auf eine Umsatzgrösse von Fr. 200'000.- bis Fr. 500'000.- unterschiedlichste Metzgereibetriebe umfasst. Wenn die IV-Stelle geltend macht, bei der Ermittlung des Valideneinkommens anhand der IK-Einträge sei aufgrund der unterschiedlichen Einkommen der Durchschnittsbetrag der Jahre 1986 bis 1991 von Fr. 40'285.- und nicht der Betrag der Jahre 1990 und 1991 von Fr. 52'300.- als Grundlage zu nehmen, verkennt sie, dass es sich bei den Angaben der Jahre 1986 bis 1991 nicht um starke und verhältnismässig kurzfristig in Erscheinung getretene Schwankungen handelt, die gemäss Rechtsprechung das Abstellen auf den während einer längeren Zeitspanne erzielten Durchschnittsverdienst rechtfertigen. Vielmehr liegt eine Steigerung des Einkommens von Fr. 23'000.- im Jahr 1986 auf Fr. 38'000.- in den Jahren 1987 bis 1989 und auf Fr. 52'300.- in den Jahren 1990 und 1991 vor, welche mit dem Aufbau eines Geschäfts verbunden ist, sind doch in den ersten Jahren grössere Abschreibungen vorzunehmen und der Kundenstamm aufzubauen. Unter Berücksichtigung dieser Umstände ist nicht zu beanstanden, dass das kantonale Gericht auf das Einkommen der Jahre 1990 und 1991 von Fr. 52'300.- abgestellt und dieses entsprechend der Nominallohnentwicklung auf Fr. 59'956.- für das Jahr 2000, auf Fr. 62'155.70 für das Jahr 2002 und auf Fr. 64'299.- für das Jahr 2005 hochgerechnet hat. Vergleichsweise kann auf die statistischen Lohnangaben für angestellte, gelernte Metzger verwiesen werden, welche unter Berücksichtigung der betriebsüblichen Wochenarbeitszeit im Jahr 2000 Fr. 65'729.-, im Jahr 2002 Fr. 67'288.- und im Jahr 2004 Fr. 65'953.- betragen haben (LSE 2000, 2002 und 2004, TA 1, Herstellung von Nahrungsmitteln und Getränken, Männer im Anforderungsniveau 3 [Berufs- und Fachkenntnisse vorausgesetzt]). Der IV-Stelle ist insoweit zuzustimmen, als bei Selbstständigerwerbenden nicht mit den Lohnangaben für Angestellte gerechnet werden kann. Wenn aber die Einkommen von Selbstständigerwerbenden derart unter denjenigen von Angestellten liegen würden und insbesondere bei einem Einkommenseinbruch von Fr. 58'300.- im Jahr 2002 auf Fr. 41'300.- im Jahr 2004, wie er der Verfügung zu Grunde liegt, kann nicht mehr mit dem Beweisgrad der überwiegenden Wahrscheinlichkeit davon ausgegangen werden, der Versicherte würde sein Geschäft trotz allem weiterführen.
6.4 Zusammenfassend hat es bei dem von der Vorinstanz als massgebend erachteten Valideneinkommen und dem aus der Gegenüberstellung mit den unbestrittenen Invalideneinkommen resultierenden Anspruch auf eine halbe Rente ab 1. Oktober 2000, auf eine ganze Rente ab 1. März 2002, auf eine halbe Rente ab 1. Oktober 2002 und auf eine ganze Rente ab 1. Juli 2005 zu bleiben.
7. Entsprechend dem Verfahrensausgang sind die Gerichtskosten von der Beschwerdeführerin als unterliegender Partei zu tragen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Luzern, Sozialversicherungsrechtliche Abteilung, der Ausgleichskasse Luzern und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 10. Februar 2009
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Kopp Käch