Sachverhalt:
A. Am 14. Januar 2010 reichte Y._ als Grundeigentümer ein Gesuch für den Neubau eines Einfamilienhauses auf Grundstück Nr. 3080, GB Horw, ein. Innert der Auflagefrist erhob der Nachbar Z._ Einsprache. Daraufhin überarbeitete der Bauherr seine Pläne, legte die Erdgeschossbodenhöhe tiefer und reduzierte damit die Firsthöhe um 22.5 cm auf 589.45 m.ü.M. Auch gegen diese Planänderung reichte Z._ Einsprache ein, wobei er die Geschosshöhen kritisierte. Y._ hielt an seinem Baugesuch inklusive Planänderung fest. Hierauf erteilte der Gemeinderat Horw am 20. Mai 2010 gestützt auf die geänderten Pläne vom 25. März 2010 die Baubewilligung unter Bedingungen und Auflagen. Die erste Einsprache von Z._ wies er ab, bzw. erklärte sie infolge Planänderung als erledigt. Die zweite Einsprache wurde ebenfalls abgewiesen, soweit der Gemeinderat darauf eintrat.
B. Das hierauf angerufene Verwaltungsgericht wies die Beschwerde von Z._ am 9. Mai 2011 ab.
C. Mit seiner Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 10. Juni 2011 beantragt Z._ dem Bundesgericht die Aufhebung des angefochtenen Verwaltungsgerichtsurteils und die Rückweisung der Angelegenheit an die Vorinstanz zur Neubeurteilung im Sinne der Erwägungen. Eventualiter sei das Urteil des Verwaltungsgerichts aufzuheben und die vom Gemeinderat Horw erteilte Baubewilligung vom 20. Mai 2010 zu verweigern. Gleichzeitig ersucht der Beschwerdeführer um Gewährung der aufschiebenden Wirkung.
Y._ als Bauherr und privater Beschwerdegegner schliesst auf Abweisung der Beschwerde. Die Gemeinde Horw verzichtet unter Hinweis auf die von ihr erteilte Baubewilligung und das angefochtene Urteil auf eine Stellungnahme. Auch das Verwaltungsgericht des Kantons Luzern sieht von einer Vernehmlassung ab; es beantragt mit Verweis auf seinen Entscheid die Abweisung der Beschwerde.
Der Beschwerdeführer hält sinngemäss an seinen Anträgen fest. Gleichzeitig teilt er mit, dass er sein Grundstück inzwischen an X._ verkauft habe. Dieser hat denselben Rechtsvertreter mit der Interessenwahrung im anhängigen Rechtsstreit betraut, sodass er nun als Beschwerdeführer am Verfahren teilnimmt.
D. Mit Verfügung vom 13. Juli 2011 hat der Präsident der I. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde die aufschiebende Wirkung zuerkannt.
Erwägungen:
1. 1.1 Dem angefochtenen Entscheid liegt ein Beschwerdeverfahren über eine baurechtliche Bewilligung zugrunde. Nach Art. 34 Abs. 1 RPG (SR 700) gelten für die Rechtsmittel an die Bundesbehörden die allgemeinen Bestimmungen über die Bundesrechtspflege. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach Art. 82 lit. a BGG steht auf dem Gebiet des Raumplanungs- und Baurechts zur Verfügung. Das Bundesgerichtsgesetz enthält keinen Ausschlussgrund (Art. 83 BGG). Angefochten ist ein Entscheid einer letzten kantonalen Instanz, welcher das Verfahren abschliesst (Art. 86 Abs. 1 lit. d, Art. 90 BGG).
1.2 Der neue Eigentümer von Grundstück Nr. 1079, GB Horw, ist als unmittelbar angrenzender Nachbar des umstrittenen Bauvorhabens durch den angefochtenen Entscheid besonders berührt und hat ein schützenswertes Interesse daran, das Projekt zu verhindern. Sein Rechtsvorgänger hat am kantonalen Verfahren teilgenommen, weshalb grundsätzlich auf die Beschwerde einzutreten ist.
1.3 Nach Art. 42 Abs. 2 BGG ist in der Begründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Dies setzt voraus, dass sich der Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheids auseinandersetzt. Genügt die Beschwerdeschrift diesen Begründungsanforderungen nicht, so ist darauf nicht einzutreten. Zwar wendet das Bundesgericht das Recht grundsätzlich von Amtes wegen an (Art. 106 Abs. 1 BGG); dies setzt aber voraus, dass auf die Beschwerde überhaupt eingetreten werden kann, diese also wenigstens die minimalen Begründungsanforderungen von Art. 42 Abs. 2 BGG erfüllt.
Strengere Anforderungen gelten, wenn die Verletzung von Grundrechten (einschliesslich der willkürlichen Anwendung von kantonalem Recht und Willkür bei der Sachverhaltsfeststellung (BGE 133 II 249 E. 1.4.3 S. 255) geltend gemacht wird. Dies prüft das Bundesgericht nicht von Amtes wegen, sondern nur insoweit, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG). Für derartige Rügen gelten die gleichen Begründungsanforderungen, wie sie gestützt auf Art. 90 Abs. 1 lit. b OG für die staatsrechtliche Beschwerde gegolten haben (BGE 133 II 249 E. 1.4.2 S. 254 mit Hinweisen). Die Beschwerdeschrift muss die wesentlichen Tatsachen und eine kurz gefasste Darlegung darüber enthalten, welche verfassungsmässigen Rechte bzw. welche Rechtssätze inwiefern durch den angefochtenen Erlass oder Entscheid verletzt worden sind. Das Bundesgericht prüft nur klar und detailliert erhobene und, soweit möglich, belegte Rügen; auf rein appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein. Wird eine Verletzung des Willkürverbots geltend gemacht, muss anhand der angefochtenen Subsumtion im Einzelnen dargelegt werden, inwiefern der Entscheid an einem qualifizierten und offensichtlichen Mangel leidet (BGE 130 I 258 E. 1.3 S. 261 mit Hinweisen).
2. Der Beschwerdeführer wirft dem Verwaltungsgericht Willkür vor. Anlass zu dieser Rüge gibt die Betrachtungsweise der Vorinstanz, wonach die in § 139 Abs. 1 und 2 des kantonalen Planungs- und Baugesetzes vom 7. März 1985 (PBG/LU; SRL Nr. 735) enthaltenen Geschosshöhen für die Berechnung der Anzahl Vollgeschosse nicht von entscheidender Bedeutung seien. Es sei rechtswidrig und willkürlich, wenn das Verwaltungsgericht davon ausgehe, gestützt auf § 139 Abs. 8 PBG/LU könnten die in § 139 Abs. 2 PBG/LU geregelten Berechnungen der Höhenmasse durch die Festlegung eines anderen Höhenmasses ersetzt werden.
2.1 Zunächst macht der Beschwerdeführer geltend, das Verwaltungsgericht habe gegen das Legalitätsprinzip, das Willkürverbot und das Prinzip der Gewaltentrennung verstossen. Die Feststellung, die in Art. 9 Abs. 2 des kommunalen Bau- und Zonenreglements (BZR) enthaltene Regelung der maximalen Firsthöhe sei eine zulässige Ausnahme von § 139 Abs. 8 PBG/LU, erachtet er für nicht haltbar.
2.2 § 139 Abs. 2 PBG/LU bestimmt unter dem Marginale "Berechnung der Höhenmasse", dass die Höhe des Dachfirsts (die ab Oberkant des Dachgeschossbodens bis zum höchsten Punkt des Dachs gemessen wird) höchstens 5 m betragen darf. Die Höhe des Attikageschosses wird auf maximal 3 m beschränkt. Auf dem Attikageschoss sind ein Dachaufbau von höchstens 2 m und technisch notwendige Aufbauten zulässig. Diese Regelung darf im Bau- und Zonenreglement oder in einem Bebauungs- oder Gestaltungsplan laut § 139 Abs. 8 PBG/LU durch eine andere ersetzt werden. Auf den ersten Blick kann diese Ausnahmeermächtigung zwar nahelegen, Abweichungen nur hinsichtlich der in § 139 Abs. 2 PBG/LU erwähnten Masse zuzulassen, also bei der Höhe des Dachfirsts, des Attikageschosses und der Dachaufbaute. Art. 9 Abs. 2 BZR, auf den sich die Vorinstanz bei ihrer Beurteilung des umstrittenen Projekts stützt, modifiziert aber nicht die einzelnen genannten Masse, sondern beschränkt die Firsthöhe (die in dessen Mitte ab dem ausgemittelten gewachsenen oder tiefer gelegten Terrain bis zum höchsten Punkt des Dachs gemessen wird, § 139 Abs. 4 PBG/LU) in der Landhauszone A und B auf 8.5 m.
2.3 Nach Auffassung der Vorinstanz darf bei einer Baute, die diesem Höhenmass entspricht, von den in § 139 Abs. 2 PBG/LU festgesetzten Massen abgewichen werden. Dies ist nicht willkürlich. Zu Recht macht das Verwaltungsgericht darauf aufmerksam, dass sich die Berechnung der Gebäude- und Firsthöhe grundsätzlich aus der Zahl der zulässigen Vollgeschosse ergibt (§ 139 Abs. 1 PBG/LU i.V.m. § 138 PBG/LU). Für die Höhe der einzelnen Geschosse dürfen in einem solchen Fall im Durchschnitt höchstens 3 m eingesetzt werden (§ 139 Abs. 1 PBG/LU). Dieser allgemeinen gesetzlichen Regelung zur Bemessung der Gebäudehöhe gehen jedoch kommunale Bestimmungen vor, in denen die Gebäudehöhe - gestützt auf die Ermächtigung in § 139 Abs. 6 PBG/LU - in Metermassen definiert wird. Dem Verwaltungsgericht ist nicht vorzuwerfen, dass es in diesem Fall eine Abweichung von den in § 139 Abs. 2 PBG/LU definierten Massen zulassen will. Zwar hat die Gemeinde vorliegend nicht die Gebäude-, sondern die Firsthöhe in Metermassen festgelegt. Das Verwaltungsgericht zeigt in seiner E. 6c überzeugend auf, dass auch die Firsthöhe in Metermassen umschrieben werden kann. Dass dem unumstrittenen Normzweck von § 139 Abs. 2 PBG/LU (dazu ebenfalls E. 6c des angefochtenen Urteils) auch mit der kommunalen Regelung Nachachtung verschaffen wird, zeigt folgende Berechnung: Gemäss Art. 9 Abs. 2 BZR dürfen Bauten in der hier interessierenden Zone zwei Vollgeschosse aufweisen. Für diese dürfen gemäss § 139 Abs. 1 PBG/LU im Durchschnitt 3 m eingesetzt werden. Für ein etwaiges Attikageschoss (3 m) mit Dachaufbaute (2 m) kommen insgesamt 5 m dazu. Daraus resultiert eine zulässige Firsthöhe von 11 m. Art. 9 Abs. 2 BZR setzt dieses Mass gar um 2.5 m auf 8.5 m herab. Angesichts dessen ist es nicht stossend, § 139 Abs. 8 PBG/LU so auszulegen, dass § 139 Abs. 2 PBG/LU (mit den darin figurierenden Massen) durch eine die maximale Firsthöhe reduzierende Regelung ersetzt werden darf. Der Beschwerdeführer verkennt, dass § 139 Abs. 2 PBG/LU schlicht eine Anleitung zur Messung der Gebäude- bzw. Firsthöhe anhand der zulässigen Geschosse beinhaltet, wenn keine andere Regelung getroffen wurde. Soll hingegen die Anzahl Vollgeschosse ermittelt werden, ist in erster Linie § 138 PBG/LU einschlägig. Die Rügen der Willkür und der fehlenden gesetzlichen Grundlage sind unbegründet.
2.4 Damit ist aber auch gesagt, dass die Meinung des Beschwerdeführers, wonach das Projekt mit einer Erdgeschosshöhe von 3.5 m gegen § 139 Abs. 1 PBG/LU verstosse, falsch ist. Wie soeben festgestellt, ist dem Verwaltungsgericht darin zuzustimmen, dass die fragliche Bestimmung die Berechnung der zulässigen Gebäude- und Firsthöhe nur regelt, wenn bloss die zulässige Geschosszahl vorgegeben ist. Würde in einem solchen Fall keine durchschnittliche Geschosshöhe angegeben, könnten die Gebäude- bzw. Firsthöhen trotz festgelegter Geschosszahl erheblich differieren. Diese Gefahr besteht nicht, wenn die maximale Gebäude- oder Firsthöhe mit Metermassen definiert wird. Auch in diesem Punkt ist die Beschwerde abzuweisen.
3. Schliesslich ist das 3.5 m hohe Attikageschoss nach Ansicht des Beschwerdeführers als Vollgeschoss anzurechnen. Zusammen mit dem Erdgeschoss werde das Gebäude zweigeschossig; dies habe zur Folge, dass ein Untergeschoss an keiner Stelle mehr als 80 cm sichtbar sein dürfe (Art. 9 Abs. 2 BZR), was aber nicht der Fall sei.
3.1 Werden zwei Vollgeschosse erstellt, darf das Untergeschoss laut Art. 9 Abs. 2 BZR an keiner Stelle mehr als 80 cm sichtbar sein. Ausnahmen gelten für Zu- und Wegfahrten von Garagen und Einstellhallen. Unbestritten ist, dass es sich beim Erdgeschoss um ein Vollgeschoss handelt. Fraglich ist, wie das Attikageschoss zu qualifizieren ist. Gemäss § 138 Abs. 2 PBG/LU ist ein Dach- oder ein Attikageschoss dann mitzurechnen, wenn seine nutzbare Fläche mehr als zwei Drittel der Grundfläche des darunterliegenden Vollgeschosses beträgt. Als nutzbar gilt jede Fläche ab 1.5 m lichter Raumhöhe.
3.2 Das Verwaltungsgericht hat auf die unbestrittenen Berechnungen der Gemeinde abgestellt: Danach umfasst das Erdgeschoss eine Grundfläche von 240.12 m2. Um angerechnet zu werden, müsste das Attikageschoss eine Grundfläche von 160.08 m2 erreichen. Mit seinen 160.04 m2 hält es diese Grenze knapp ein und gilt infolgedessen nicht als Vollgeschoss. Verfügt aber das Bauvorhaben lediglich über ein Vollgeschoss, ist auch Art. 9 Abs. 2 BZR bezüglich Sichtbarkeit des Untergeschosses nicht einschlägig.
3.3 Der vom Beschwerdeführer wiederholt zitierte § 139 Abs. 2 PBG/LU ändert daran nichts. Das Attikageschoss wird nicht automatisch zum Vollgeschoss, weil es die in § 139 Abs. 2 PBG/LU vorgesehenen 3 m überschreitet. Bei der Frage nach der Anrechenbarkeit von Geschossen ist § 138 PBG/LU massgeblich, lautet doch dessen Marginale ausdrücklich "Berechnung der Anzahl Vollgeschosse". Demgegenüber ist § 139 PBG/LU für die Berechnung der Höhenmasse heranzuziehen, soweit die Gebäude- (bzw. First-)höhe nicht in Metermassen festgelegt wurde. Die Begründung des Verwaltungsgerichts ist überzeugend; sie lässt sich auf die kantonalen und kommunalen Normen stützen. Der Willkürvorwurf ist unbegründet.
4. Demnach ist die Beschwerde abzuweisen, soweit darauf einzutreten ist. Dem Ausgang des Verfahrens entsprechend, hat der Beschwerdeführer für die Gerichtskosten aufzukommen (Art. 66 Abs. 1 BGG). Zudem hat er den Beschwerdegegner für das bundesgerichtliche Verfahren angemessen zu entschädigen (Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat den privaten Beschwerdegegner mit Fr. 2'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Gemeinderat Horw und dem Verwaltungsgericht des Kantons Luzern, Verwaltungsrechtliche Abteilung, schriftlich mitgeteilt.
Lausanne, 17. November 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Die Gerichtsschreiberin: Scherrer Reber