Sachverhalt: Sachverhalt: A. Der 1964 geborene B._ war seit 1. September 1993 bei der Stiftung H._ angestellt und bei den Berner Versicherungen (heute: Allianz Suisse Versicherungs-Gesellschaft, nachfolgend: Allianz) obligatorisch gegen die Folgen von Unfall und Berufskrankheit versichert. Am 31. März 1998 wurde er Opfer eines Verkehrsunfalles. Während er mit seinem Personenwagen vor einem Fussgängerstreifen anhielt, fuhr ein nachfolgendes Fahrzeug auf sein Auto auf. Gemäss Unfallprotokoll klagte der Versicherte bereits am Unfallort über Schulter- und Nackenschmerzen. Dr. med. K._, den er am Unfalltag aufsuchte, diagnostizierte ein Schleudertrauma der Halswirbelsäule. Laut Zeugnis vom 11. September 1998 konnte die Behandlung beschwerdefrei abgeschlossen werden. Im Bericht vom März 1999 hielt derselbe Arzt jedoch fest, die Besserung sei nur vorübergehender Natur gewesen. Wegen erneut massiven Nacken-, Kopf- und Rückenschmerzen habe die Arbeitsunfähigkeit ab 1. September 1998 50 % betragen, am 3. November und vom 7. bis 9. Dezember 1998 sogar 100 %. Ab Januar 1999 nahm B._ an einer Therapiestudie für Patienten mit chronischen Beschwerden nach HWS-Distorision der Psychiatrischen Poliklinik des Spitals X._ teil. Gemäss Bericht vom 21. April 1999 wurde im Rahmen der dortigen Betreuung neben therapieresistenten Beschwerden eine chronische psychosoziale Überforderungssituation mit Gefahr zur Dekompensation festgestellt. Aus diesem Grund erfolgte vom 23. April bis 8. Juli 1999 eine stationäre Behandlung in der Klinik Y._ für Psychosomatik. Dort wurden chronische Schmerzen im HWS-Bereich (ICD-10 S13.4) und eine psychosoziale Krise (ICD-10 Z63.0) aufgrund der chronischen Schmerzen diagnostiziert (Bericht vom 12. Juli 1999). Mit Verfügung vom 2. Februar 2000 stellte die Allianz ihre Leistungen rückwirkend per 1. Juni 1999 ein, da die noch bestehenden Beschwerden psychogener Natur seien und es diesbezüglich am adäquaten Kausalzusammenhang zum Unfallereignis vom 31. März 1998 fehle. Nachdem der Versicherte Einsprache erhoben hatte, veranlasste die Allianz die Gutachten des Orthopäden Dr. med. Z._ vom 17. März 2001 und des Dr. med. lic. phil. O._ vom Institut M._, vom 12. Februar 2002. Mit Einspracheentscheid vom 28. Mai 2002 hielt sie an ihrer Beurteilung fest. A. Der 1964 geborene B._ war seit 1. September 1993 bei der Stiftung H._ angestellt und bei den Berner Versicherungen (heute: Allianz Suisse Versicherungs-Gesellschaft, nachfolgend: Allianz) obligatorisch gegen die Folgen von Unfall und Berufskrankheit versichert. Am 31. März 1998 wurde er Opfer eines Verkehrsunfalles. Während er mit seinem Personenwagen vor einem Fussgängerstreifen anhielt, fuhr ein nachfolgendes Fahrzeug auf sein Auto auf. Gemäss Unfallprotokoll klagte der Versicherte bereits am Unfallort über Schulter- und Nackenschmerzen. Dr. med. K._, den er am Unfalltag aufsuchte, diagnostizierte ein Schleudertrauma der Halswirbelsäule. Laut Zeugnis vom 11. September 1998 konnte die Behandlung beschwerdefrei abgeschlossen werden. Im Bericht vom März 1999 hielt derselbe Arzt jedoch fest, die Besserung sei nur vorübergehender Natur gewesen. Wegen erneut massiven Nacken-, Kopf- und Rückenschmerzen habe die Arbeitsunfähigkeit ab 1. September 1998 50 % betragen, am 3. November und vom 7. bis 9. Dezember 1998 sogar 100 %. Ab Januar 1999 nahm B._ an einer Therapiestudie für Patienten mit chronischen Beschwerden nach HWS-Distorision der Psychiatrischen Poliklinik des Spitals X._ teil. Gemäss Bericht vom 21. April 1999 wurde im Rahmen der dortigen Betreuung neben therapieresistenten Beschwerden eine chronische psychosoziale Überforderungssituation mit Gefahr zur Dekompensation festgestellt. Aus diesem Grund erfolgte vom 23. April bis 8. Juli 1999 eine stationäre Behandlung in der Klinik Y._ für Psychosomatik. Dort wurden chronische Schmerzen im HWS-Bereich (ICD-10 S13.4) und eine psychosoziale Krise (ICD-10 Z63.0) aufgrund der chronischen Schmerzen diagnostiziert (Bericht vom 12. Juli 1999). Mit Verfügung vom 2. Februar 2000 stellte die Allianz ihre Leistungen rückwirkend per 1. Juni 1999 ein, da die noch bestehenden Beschwerden psychogener Natur seien und es diesbezüglich am adäquaten Kausalzusammenhang zum Unfallereignis vom 31. März 1998 fehle. Nachdem der Versicherte Einsprache erhoben hatte, veranlasste die Allianz die Gutachten des Orthopäden Dr. med. Z._ vom 17. März 2001 und des Dr. med. lic. phil. O._ vom Institut M._, vom 12. Februar 2002. Mit Einspracheentscheid vom 28. Mai 2002 hielt sie an ihrer Beurteilung fest. B. Die dagegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Bern mit Entscheid vom 21. November 2003 im Sinne der Erwägungen insofern gut, als es den Einspracheentscheid aufhob und die Sache an die Allianz zurückwies, damit sie über die dem Versicherten zustehenden Leistungen ab dem 1. Juni 1999 neu verfüge. B. Die dagegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Bern mit Entscheid vom 21. November 2003 im Sinne der Erwägungen insofern gut, als es den Einspracheentscheid aufhob und die Sache an die Allianz zurückwies, damit sie über die dem Versicherten zustehenden Leistungen ab dem 1. Juni 1999 neu verfüge. C. Mit Verwaltungsgerichtsbeschwerde beantragt die Allianz die Aufhebung des kantonalen Entscheids. B._ lässt das Rechtsbegehren stellen, die Verwaltungsgerichtsbeschwerde sei abzuweisen. Das Bundesamt für Gesundheit lässt sich nicht vernehmen.