Sachverhalt:
A. Der 1963 im ehemaligen Jugoslawien geborene I._ reiste am 1. Juli 1998 in die Schweiz ein. Im Oktober 1998 stürzte er auf einer Treppe und erlitt eine Rotatorenmanschetten-Ruptur. Im April 1999 kam eine Meniskusläsion mit persistierender Knieschwellung dazu. Am 19. Juni 2002 meldete sich I._ erstmals zum Bezug von IV-Leistungen (Berufsberatung, Umschulung) an. Mit in Rechtskraft erwachsener Verfügung vom 10. Juni 2005 wies die IV-Stelle Obwalden das Gesuch ab, da die versicherungsmässigen Voraussetzungen nicht erfüllt seien.
Am 6. Dezember 2007 beantragte I._ erneut IV-Leistungen (Medizinische Eingliederungsmassnahmen, Rente) und machte neben den bestehenden Beschwerden einen Diabetes Mellitus Typ II und eine periphere Polyneuropathie geltend. Nach Abklärungen zum Gesundheitszustand des Versicherten wies die IV-Stelle das Leistungsbegehren mit Vorbescheid vom 21. Februar 2008 und Verfügung vom 25. April 2008 ab, da sich die Verhältnisse nicht in einer für den Anspruch erheblichen Weise geändert hätten.
B. Die hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Obwalden mit Entscheid vom 12. November 2009 ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt I._ beantragen, der Entscheid des Verwaltungsgerichts des Kantons Obwalden sei aufzuheben, er sei zu berenten und es seien weitere medizinische Abklärungen anzuordnen. Gleichzeitig ersucht er um Gewährung der unentgeltlichen Verbeiständung.
Das Verwaltungsgericht des Kantons Obwalden und die IV-Stelle schliessen auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>; vgl. auch <ref-law>). Mit Blick auf diese Kognitionsregelung ist aufgrund der Vorbringen in der Beschwerde ans Bundesgericht zu prüfen, ob der angefochtene Gerichtsentscheid in der Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen (u.a.) Bundesrecht verletzt (<ref-law>), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, <ref-law>).
2. Streitig und zu prüfen ist der Anspruch des Beschwerdeführers auf eine Invalidenrente.
2.1 Im vorinstanzlichen Entscheid werden die gesetzlichen Bestimmungen und Grundsätze zu den für schweizerische und ausländische Staatsangehörige mit Wohnsitz und gewöhnlichem Aufenthalt in der Schweiz geltenden versicherungsmässigen Voraussetzungen des Anspruchs auf eine Invalidenrente sowie zum leistungsspezifischen Eintritt der Invalidität zutreffend dargelegt. Richtig sind insbesondere auch die Ausführungen zur Anwendbarkeit der im Zuge der 4. und 5. IV-Revision revidierten Bestimmungen des IVG. Darauf kann verwiesen werden.
2.2 Anspruch auf eine ordentliche Rente der Invalidenversicherung haben - wie das kantonale Gericht zutreffend ausgeführt hat - die rentenberechtigten Versicherten, die bei Eintritt der Invalidität während mindestens eines vollen Jahres Beiträge geleistet haben (Art. 36 Abs. 1 aIVG in der bis 31. Dezember 2007 gültig gewesenen Fassung). Die Invalidität gilt gestützt auf <ref-law> als eingetreten, sobald sie die für die Begründung des Anspruchs auf die jeweilige Leistung erforderliche Art und Schwere erreicht hat. Im Falle einer Rente gilt die Invalidität in dem Zeitpunkt als eingetreten, in dem der Anspruch nach Art. 29 Abs. 1 aIVG (in der bis 31. Dezember 2007 gültig gewesenen Fassung) entsteht, d.h. frühestens, wenn der Versicherte mindestens zu 40 % bleibend erwerbsunfähig geworden ist oder während eines Jahres ohne wesentlichen Unterbruch durchschnittlich mindestens zu 40 % arbeitsunfähig gewesen war. Nach ständiger Rechtsprechung begründet eine Verschlechterung des Gesundheitszustandes - wie die Vorinstanz ebenfalls zutreffend dargelegt hat - grundsätzlich keinen neuen Versicherungsfall, wobei bisher die Frage offen gelassen worden ist, ob allenfalls ein neuer Versicherungsfall anzuerkennen wäre, wenn die Erhöhung des Invaliditätsgrades auf eine von der ursprünglichen Beeinträchtigung völlig verschiedene Gesundheitsstörung zurückzuführen wäre (SVR 2007 IV Nr. 7 S. 23 mit Hinweisen).
3. 3.1 Die IV-Stelle hatte mit Verfügung vom 10. Juni 2005 das Begehren um Berufsberatung und Umschulung abgelehnt mit der Begründung, die versicherungsmässigen Voraussetzungen seien nicht erfüllt, da der Beschwerdeführer bei Eintritt der Invalidität nicht während eines vollen Jahres Beiträge an die Schweizerische Sozialversicherung geleistet habe. Das am 6. Dezember 2007 eingereichte Begehren um eine Rente und um Medizinische Massnahmen hat die IV-Stelle als Neuanmeldung qualifiziert und sie ist analog einem Revisionsfall vorgegangen. Mit Verfügung vom 25. April 2008 verneinte sie einen Leistungsanspruch, da sich wohl die gesundheitliche Situation durch Hinzutreten des Diabetes Mellitus Typ II verändert, dies jedoch keine zusätzliche Einschränkung der Erwerbsfähigkeit bewirkt habe.
3.2 Das kantonale Gericht hat korrekt festgestellt, dass sich die von Verordnungsgeber und Rechtsprechung entwickelten Regeln zur Behandlung von Neuanmeldungen nach Erlass einer rechtskräftigen leistungsablehnenden Verfügung (<ref-law>) nur auf gleichlautende Leistungsgesuche beziehen, weshalb der Anspruch auf eine Rente nach einer früheren Verweigerung beruflicher Eingliederungsmassnahmen nicht allein mit der Begründung einer fehlenden leistungsrelevanten Änderung der tatsächlichen Verhältnisse verneint werden könne. Vielmehr hätte ein neues, andersartiges Leistungsbegehren einer umfassenden Prüfung unterzogen werden müssen. Dass die Vorinstanz diese Prüfung selber vorgenommen hat, ist nicht zu beanstanden.
4. 4.1 In tatsächlicher Hinsicht hat das kantonale Gericht in sorgfältiger Würdigung der medizinischen Aktenlage festgestellt, dass seit 1. April 1999 aufgrund der Schulter- und Kniebeschwerden eine 100%ige Arbeitsunfähigkeit für manuelle Tätigkeiten über Kopf- und Brusthöhe, jedoch eine 50%ige Arbeitsfähigkeit in angepasster Tätigkeit besteht und dass weder durch eine Verschlimmerung dieser Beschwerden noch durch die neu diagnostizierten Beschwerden des Diabetes Mellitus Typ II oder der Polyneuropathie eine weitere Einschränkung der Arbeitsfähigkeit eingetreten ist. Dabei stützte sich die Vorinstanz auf die Berichte des Dr. med. D._, Allgemeine Medizin FMH, vom 3. September 2002, des Dr. med. H._, Allgemeine Medizin FMH, vom 30. Januar 2008, auf die Abklärung des PD Dr. med. N._, Chefarzt Medizin II Endokrinologie/Diabetologie Spital X._, vom 17. April 2008, sowie auf die Stellungnahmen des RAD vom 14. und 19. Februar 2008. Sie zeigte überzeugend auf, dass diese Berichte den rechtsprechungsgemässen Anforderungen an eine beweistaugliche medizinische Entscheidgrundlage (<ref-ruling> E. 3a S. 352 mit Hinweis) entsprechen und eine schlüssige Beurteilung ermöglichen, welche durch die abweichende Einschätzung der Arbeitsfähigkeit des Hausarztes Dr. med. H._ vom 20. Mai 2008 nicht in Zweifel gezogen wird. Indem das kantonale Gericht darauf abgestellt hat, und in zulässiger antizipierter Beweiswürdigung auf eine weitere Exploration verzichtet hat, hat es kein Bundesrecht verletzt. Die Einwendungen des Beschwerdeführers vermögen an der vorinstanzlichen Betrachtungsweise nichts zu ändern. Sie sind nicht geeignet, die für das Bundesgericht grundsätzlich verbindlichen Tatsachenfeststellungen (E. 1 hievor) unter dem Blickwinkel der gesetzlichen Kognition als offensichtlich unrichtig oder sonstwie als bundesrechtswidrig (<ref-law>) erscheinen zu lassen.
4.2 In rechtlicher Hinsicht hat das kantonale Gericht sodann überzeugend dargelegt, dass aufgrund der seit 1. April 1999 attestierten 50%igen Arbeitsunfähigkeit der rentenspezifische Versicherungsfall in einem Zeitpunkt eingetreten ist, in welchem noch nicht über die erforderliche Mindestdauer Beiträge entrichtet worden sind, weshalb die Anspruchsvoraussetzungen nicht erfüllt sind. Mangels Abklärung des Invaliditätsgrades durch die IV-Stelle anlässlich der ersten Verfügung vom 10. Juni 2005 - so die Vorinstanz - sei zwar unklar, ob damals eine 40%ige Invalidität vorgelegen habe, doch wäre auch im Falle der Verneinung der Rentenanspruch abzulehnen, da die damals attestierte 50%ige Arbeitsunfähigkeit trotz neu aufgetretener Beschwerden nicht höher geworden sei. Mit der einlässlichen vorinstanzlichen Argumentation setzt sich der Beschwerdeführer überhaupt nicht auseinander, weshalb es damit sein Bewenden hat.
5. Der Vollständigkeit halber ist zu erwähnen, dass die Vorinstanz durch die Prüfung des Anspruchs auf Eingliederungsmassnahmen keine Rechtsverletzung begangen hat. Wie sie in ihrer Vernehmlassung vom 21. Januar 2010 ausführt und was auch aus dem angefochtenen Entscheid hervorgeht, hat sie diesen in der Anmeldung zum Bezug von IV-Leistungen vom 6. Dezember 2007 geltend gemachten Anspruch nicht mit den in der Beschwerde geforderten medizinischen Abklärungen verwechselt. Sie ist diesbezüglich vielmehr zu Recht zum Schluss gekommen, dass die medizinische Sachlage klar ist und sich weitere Beweismassnahmen erübrigen.
6. Das Verfahren ist kostenpflichtig (<ref-law>). Die Gerichtskosten werden dem unterliegenden Beschwerdeführer auferlegt (<ref-law>). Dem Gesuch um unentgeltliche Rechtspflege (im Sinne der vorläufigen Befreiung von den Gerichtskosten und der unentgeltlichen Verbeiständung) kann entsprochen werden, da die Bedürftigkeit ausgewiesen ist, die Beschwerde nicht als aussichtslos zu bezeichnen und die Vertretung durch einen Rechtsanwalt geboten war (Art. 64 Abs. 1 und 2 BGG). Es wird indessen ausdrücklich auf <ref-law> aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4. Rechtsanwalt Stefan Galligani, Schöftland, wird als unentgeltlicher Anwalt des Beschwerdeführers bestellt, und es wird ihm für das bundesgerichtliche Verfahren aus der Gerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Obwalden und dem Bundesamt für Gesundheit schriftlich mitgeteilt.
Luzern, 25. Mai 2010
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Kopp Käch