Sachverhalt: A. X._ bewohnt die in der Wohnzone gelegene Liegenschaft Sandgasse 39 in Rüti bei Büren (Parzelle Nr. 585). Seit anfangs 2009 betreibt er dort den Hundebetreuungsdienst "Kusi's Hundeplausch". Neben zwei eigenen Hunden betreut er im Wohnhaus und im Freien bis zu sieben fremde Hunde. Für Spezialfälle (ängstliche, aggressive oder sehr dominante Hunde) bietet er eine Rudeltherapie an, bei der die Tiere bis zu sechs Wochen im Rudel aufgenommen und von diesem sozialisiert werden. B. Am 21. September 2010 veranlasste die Einwohnergemeinde Rüti bei Büren für das Vorhaben "Kusi's Hundeplausch - Hundetraining/-ausbildung" eine Baupublikation im Anzeiger Amt Büren. Gegen das Vorhaben erhob unter anderem Y._ Einsprache (Eigentümer der Nachbarparzelle Kat.-Nr. 547). Mit Verfügung vom 29. November 2010 erteilte die Gemeinde den Bauabschlag, verfügte ein Benützungsverbot und ordnete an, die "Hundepension Kusi's Hundeplausch" sei innert sechs Monaten ab Rechtskraft der Verfügung an einen anderen Standort ausserhalb der Zonen mit Wohnnutzung zu verlegen und zu betreiben. C. Dagegen erhob X._ am 28. Dezember 2010 Beschwerde bei der Bau-, Verkehrs- und Energiedirektion des Kantons Bern (BVE). Diese hiess das Rechtsmittel am 5. Mai 2011 teilweise gut und hob den Bauabschlag bzw. das Baubewilligungsverfahren auf, weil der Beschwerdeführer nie ein Baugesuch eingereicht habe. Allerdings sei die umstrittene Hundehaltung in der Wohnzone zonenwidrig; eine Ausnahmebewilligung könne nicht erteilt werden. Die BVE verfügte daher ein Benützungsverbot für die gewerbsmässige Hundehaltung sowie die hobbymässige Hundehaltung von mehr als drei Hunden auf Parzelle Nr. 585 an der Sandgasse 39; dieses sei innert 6 Monaten nach Rechtskraft des Entscheides umzusetzen. D. Dagegen erhob X._ am 1. Juni 2011 Beschwerde an das Verwaltungsgericht des Kantons Bern. Er beantragte, es sei festzustellen, dass kein baubewilligungspflichtiger Sachverhalt vorliege und die Tierhaltung gemäss Konzept "Kusi's Hundeplausch" mit Haltung von maximal neun Hunden in der Liegenschaft Sandgasse 39 zonenkonform sei. Eventuell sei ihm eine entsprechende Bewilligung zu erteilen. Subeventuell sei die angesetzte Frist zur Reduktion der Hundehaltung auf maximal drei Tiere zu verlängern. Am 28. Oktober 2011 wies das Verwaltungsgericht die Beschwerde ab, soweit es darauf eintrat. E. Gegen den verwaltungsgerichtlichen Entscheid hat X._ am 28. November 2011 Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht erhoben. Er beantragt, der angefochtene Entscheid sei aufzuheben und die Sache sei zur Neubeurteilung an das Verwaltungsgericht, eventualiter an die BVE, zurückzuweisen. Überdies beantragt er die Gewährung der aufschiebenden Wirkung. F. Y._ und das Verwaltungsgericht schliessen auf Abweisung der Beschwerde. Die BVE und das Bundesamt für Raumentwicklung (ARE) haben auf eine Vernehmlassung verzichtet. Das Bundesamt für Umwelt (BAFU) kommt in seiner Vernehmlassung zum Ergebnis, dass der angefochtene Entscheid konform mit der Umweltschutzgesetzgebung des Bundes sei. G. In seiner Replik vom 18. April 2012 hält der Beschwerdeführer an seinen Anträgen fest.