Sachverhalt:
A.
Die Liegenschaft an der U._gasse in V._ steht seit Ende 2011 im Miteigentum von B._ (Gesuchsteller 1, Beschwerdegegner 1) und der einfachen Gesellschaft bestehend aus C._, D._ und E._ (Gesuchsteller 2-4, Beschwerdegegner 2-4). F.F._ und G.F._ sind Nutzniesser des Miteigentumsanteils der Gesuchsteller 2-4. Die einfache Gesellschaft H._ mietete Büroräumlichkeiten im ersten Obergeschoss der Liegenschaft. Seit 2015 waren A._ (Gesuchsgegner, Beschwerdeführer) und I._ die einzigen Gesellschafter dieser einfachen Gesellschaft (bzw. sind es nach wie vor gemäss der Auffassung des Gesuchsgegners).
Mit Schreiben vom 25. April 2019 kündigte die J._ AG Liegenschaften, welche die Büroräumlichkeiten seit 2010 verwaltet, im Namen der Vermieterschaft den Mietvertrag. Das Schreiben wurde an die "H._ & Partner" adressiert und als Vermieterschaft wurde der Gesuchsteller 1 und F.F._ aufgeführt. Da die Verwaltung die Nichtigkeit dieser Kündigung befürchtete, kündigte sie mit je separaten Schreiben und amtlichen Formularen vom 19. Dezember 2019 an den Gesuchsgegner und an I._ per Ende 30. September 2020 im Namen der Vermieterschaft das Mietverhältnis erneut. Als Vermieterschaft wurden die Gesuchsteller 1-4 aufgeführt. Die Kündigung wurde in der Folge nicht angefochten.
B.
Am 4. September 2020 stellten die Gesuchsteller 1-4 beim Regionalgericht Bern-Mittelland ein Ausweisungsgesuch gegen den Gesuchsgegner im Verfahren um Rechtsschutz in klaren Fällen. Am 28. Dezember 2020 hiess das Regionalgericht das Ausweisungsgesuch gut. Im Wesentlichen verurteilte es den Gesuchsgegner, die beiden von ihm benutzen Büros innert zehn Tagen ab Erhalt des Entscheids zu räumen und unter Rückgabe sämtlicher Schlüssel zu verlassen, unter Anordnung der zwangsweisen Räumung für den Fall, dass der Gesuchsgegner der Anordnung nicht Folge leiste.
Gegen den Entscheid des Regionalgerichts erhob der Gesuchsgegner Berufung beim Obergericht des Kantons Bern. Das Obergericht wies die Berufung mit Entscheid vom 2. März 2021 ab, soweit es darauf eintrat. Da die Berufung die Rechtskraft und die Vollstreckbarkeit des erstinstanzlichen Entscheids hemmte, setzte es dem Gesuchsgegner eine neue Räumungsfrist von zehn Tagen ab Erhalt des Berufungsentscheids an und bestätigte im Übrigen den regionalgerichtlichen Entscheid.
C.
Dagegen erhob der Beschwerdeführer mit Eingabe vom 12. März 2021 Beschwerde an das Bundesgericht und ersuchte gleichzeitig um Erteilung der aufschiebenden Wirkung. Er beantragte, der Entscheid des Obergerichts vom 2. März 2021 sei aufzuheben und es sei die Sache an die Vorinstanz zu neuem Entscheid zurückzuweisen. Eventualiter sei auf das Gesuch der Beschwerdegegner vom 4. September 2020 nicht einzutreten. Subeventualiter sei dem Beschwerdeführer eine angemessene Frist zur teilweisen Räumung zu gewähren.
Mit Präsidialverfügung vom 31. März 2021 wurde der Beschwerde die aufschiebende Wirkung erteilt. Am 19. April 2021 reichte der Beschwerdeführer eine ergänzte Beschwerdeschrift ein.

Erwägungen:
1.
Die Sachurteilsvoraussetzungen sind erfüllt, insbesondere auch das Streitwerterfordernis von <ref-law> mit einem von der Vorinstanz festgestellten Streitwert von Fr. 15'000.--, und geben zu keinen Bemerkungen Anlass. Unter Vorbehalt einer rechtsgenüglichen Begründung (Art. 42 Abs. 2 und <ref-law>; vgl. Erwägung 2) ist daher auf die Beschwerde einzutreten.
2.
2.1. Mit Beschwerde in Zivilsachen können Rechtsverletzungen nach Art. 95 und 96 BGG gerügt werden. Die Beschwerde ist hinreichend zu begründen, andernfalls wird darauf nicht eingetreten (<ref-ruling> E. 2.1). In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (<ref-law>). Unerlässlich ist, dass die Beschwerde auf die Begründung des angefochtenen Entscheids eingeht und im Einzelnen aufzeigt, worin eine Verletzung von Bundesrecht liegt. Die beschwerdeführende Partei soll in der Beschwerdeschrift nicht bloss die Rechtsstandpunkte, die sie im kantonalen Verfahren eingenommen hat, erneut bekräftigen, sondern mit ihrer Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen (<ref-ruling> E. 2 S. 89, 115 E. 2 S. 116).
Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (<ref-law>; <ref-ruling> E. 1.4; <ref-ruling> E. 1.3.1). Soweit die Beschwerdeschrift diesen Begründungsanforderungen nicht genügt, so ist darauf nicht einzutreten (BGE <ref-ruling> E. 1.3.1).
2.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Dazu gehören sowohl die Feststellungen über den streitgegenständlichen Lebenssachverhalt als auch jene über den Ablauf des vor- und erstinstanzlichen Verfahrens, also die Feststellungen über den Prozesssachverhalt (<ref-ruling> E. 1.3.1 mit Hinweisen). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (<ref-ruling> E. 2 S. 117; <ref-ruling> E. 1.5). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein können (<ref-law>).
Für eine Kritik am festgestellten Sachverhalt gilt das strenge Rügeprinzip von <ref-law> (<ref-ruling> E. 2.3 S. 266 mit Hinweisen). Die Partei, welche die Sachverhaltsfeststellung der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern diese Voraussetzungen erfüllt sein sollen (<ref-ruling> E. 1.3.1 S. 18 mit Hinweisen). Wenn sie den Sachverhalt ergänzen will, hat sie zudem mit präzisen Aktenhinweisen darzulegen, dass sie entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (<ref-ruling> E. 2 S. 90). Genügt die Kritik diesen Anforderungen nicht, können Vorbringen mit Bezug auf einen Sachverhalt, der vom angefochtenen Entscheid abweicht, nicht berücksichtigt werden (<ref-ruling> E. 1.3.1 S. 18).
3.
Diese Begründungsanforderungen verfehlt der Beschwerdeführer über weite Strecken. Die Vorinstanz ging im angefochtenen Entscheid bereits eingehend auf die verschiedenen vom Beschwerdeführer vorgebrachten Einwände ein und widerlegte diese in ihrem sorgfältig begründeten Entscheid im Einzelnen.
Dagegen schildert der Beschwerdeführer im Wesentlichen bloss erneut seine bereits vorinstanzlich vorgetragenen Standpunkte. So insbesondere, wenn er behauptet, dass die Erstinstanz seine Eingabe vom 30. Oktober 2020 grössenteils nicht beachtet habe, dass die Beschwerdegegner nicht aktivlegitimiert gewesen seien, dass es an der Passivlegitimation fehle, dass die Kündigung nichtig sei, dass eine unzulässige Teilkündigung vorliege, dass den Beschwerdegegnern das Rechtsschutzinteresse am Ausweisungsverfahren fehle, dass die Dispositivziffer 1 des erstinstanzlichen Entscheids zu wenig bestimmt sei und dass die Interessen an den von ihm besetzten Büroräumlichkeiten berechtigen Personen nicht beeinträchtigt würden. Der Beschwerdeführer rügt diesbezüglich zwar eine Vielzahl von Gesetzesbestimmungen und wirft der Vorinstanz eine Verletzung seines verfassungsrechtlichen Anspruchs auf rechtliches Gehör und auf ein faires Verfahren vor. Er setzt sich aber nicht rechtsgenüglich mit den ausführlichen Erwägungen der Vorinstanz auseinander und zeigt auch nicht hinreichend auf, inwiefern diese seine Rechte verletzt hätte (Erwägung 2.1). Im Übrigen geht er mehrfach frei über den vorinstanzlich festgestellten Sachverhalt hinaus, ohne eine rechtsgenügliche Sachverhaltsrüge zu erheben (Erwägung 2.2). Darauf ist nicht einzutreten.
4.
Der Beschwerdeführer wirft der Vorinstanz mehrfach vor, die Begründungspflicht verletzt zu haben.
Diese Vorwürfe sind unbegründet. Aus der Begründungspflicht folgt die Verpflichtung der Behörde, ihren Entscheid zu begründen. Dabei ist es nicht erforderlich, dass sie sich mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt. Vielmehr kann sie sich auf die für den Entscheid wesentlichen Punkte beschränken. Die Begründung muss so abgefasst sein, dass sich der Betroffene über die Tragweite des Entscheids Rechenschaft geben und ihn in voller Kenntnis der Sache an die höhere Instanz weiterziehen kann. In diesem Sinne müssen wenigstens kurz die Überlegungen genannt werden, von denen sich die Behörde hat leiten lassen und auf die sich ihr Entscheid stützt (<ref-ruling> E. 5.2 mit Hinweisen). Diesen Anforderungen genügt das angefochtene Urteil ohne Zweifel.
5.
5.1. Der Beschwerdeführer wiederholt vor Bundesgericht seinen Standpunkt, dass die Erstinstanz ihm die Eingabe der Beschwerdegegner vom 20. November 2020 erst mit Verfügung vom 16. Dezember 2020 zugestellt habe. Diese Verfügung sei ihm am 17. Dezember 2020 zugegangen. Er habe mit Stellungnahme vom 28. Dezember 2020 nach lediglich fünf Arbeitstagen auf die Eingabe der Beschwerdegegner repliziert. Seine Eingabe sei am 29. Dezember 2020 der Erstinstanz zugegangen. Diese habe aber seine Stellungnahme nicht berücksichtigt, sondern am Tag zuvor (28. Dezember 2020) das Urteil gefällt. Indem die Vorinstanz zum Schluss gekommen sei, dass das Replikrecht des Beschwerdeführers nicht verletzt sei, habe sie verkannt, dass unter Berücksichtigung der Gerichtsferien und Feiertage nach <ref-law> zu berechnen sei, ob ihm effektiv genügend Zeit für das Replikrecht zur Verfügung gestanden habe. Da die Eingabe der Beschwerdegegner ihm am 17. Dezember 2020 zugegangen sei, habe die erste Instanz ihren Entscheid nicht am 28. Dezember 2020, sondern jedenfalls nicht vor dem 30. Dezember 2020 fällen dürfen. Auch die im Ausweisungsverfahren geforderte Raschheit rechtfertige keine Verletzung seines Replikrechts. Aufgrund der formellen Natur des Anspruchs auf rechtliches Gehör sei der angefochtene Entscheid aufzuheben und die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen.
5.2. Gemäss <ref-law> steht den Parteien das rechtliche Gehör zu. Der Anspruch auf rechtliches Gehör ist formeller Natur, womit seine Verletzung ungeachtet der materiellen Begründetheit des Rechtsmittels zur Gutheissung der Beschwerde und zur Aufhebung des angefochtenen Entscheids führt (<ref-ruling> E. 1.4.1; <ref-ruling> E. 2.8.1; <ref-ruling> E. 2.2), wenn eine Heilung in oberer Instanz ausser Betracht fällt (zu den Voraussetzungen: BGE <ref-ruling> E. 2.8.1). Die Rechtsprechung des Bundesgerichts, wonach der Gehörsanspruch formeller Natur ist, darf indes nicht darüber hinwegtäuschen, dass auch die Wahrung des rechtlichen Gehörs keinen Selbstzweck darstellt. Wenn nicht ersichtlich ist, inwiefern die Verletzung des rechtlichen Gehörs einen Einfluss auf das Verfahren haben könnte, besteht kein Interesse an der Aufhebung des Entscheids (<ref-ruling> E. 1.4.1; Urteile 4A_428/2020 vom 1. April 2021 E. 3.1; 4A_241/2020 vom 9. September 2020 E. 3.6; 4A_438/2019 vom 23. Oktober 2019 E. 3.2).
Andernfalls besteht die Gefahr, dass die Rückweisung der Sache an die Vorinstanz allein wegen der festgestellten Gehörsverletzung zu einem Leerlauf und einer unnötigen Verzögerung führt. Es wird deshalb für eine erfolgreiche Rüge der Verweigerung des rechtlichen Gehörs grundsätzlich vorausgesetzt, dass die beschwerdeführende Partei in der Begründung des Rechtsmittels angibt, welche Vorbringen sie in das kantonale Verfahren bei Gewährung des rechtlichen Gehörs eingeführt hätte und inwiefern diese hätten erheblich sein können (Urteile 4A_241/2020 vom 9. September 2020 E. 3.6; 4A_438/2019 vom 23. Oktober 2019 E. 3.2 mit Hinweisen).
5.3. Diesen Begründungsanforderungen genügt die Beschwerde nicht. Der Beschwerdeführer begnügt sich pauschal geltend zu machen, dass sein Anspruch auf rechtliches Gehör verletzt sei, weil die Erstinstanz ihr Urteil am 28. Dezember 2020 und damit vor der Kenntnisnahme seiner Eingabe vom gleichen Tag gefällt habe. Er zeigt aber in der Beschwerde vor Bundesgericht nicht genügend auf, welche Vorbringen er mit dieser Eingabe in das erstinstanzliche Verfahren eingeführt hätte und inwiefern diese Vorbringen hätten erheblich sein können. Auf seine Rüge ist daher nicht einzutreten.
6.
6.1. Der Beschwerdeführer moniert, die Räumung der zwei von ihm benutzen Büroräumlichkeiten innert zehn Tagen ab Erhalt des Berufungsentscheids sei nicht verhältnismässig. Die Vorinstanz habe unterschlagen, dass er den Betrieb der Anwaltskanzlei parallel zur Räumung der strittigen Büros und zum Errichten neuer Lokalitäten aufrecht erhalten müsse. Auch weil die Kündigung im Dezember 2019 erfolgt sei, bezeichnete die Vorinstanz die angesetzte Räumungsfrist von zehn Tagen als angemessen. Es liege jedoch an der Behörde, die verfassungsmässig erforderliche Angemessenheit (<ref-law>) allein durch und mit ihrem Entscheid zu wahren. Ebenso habe er die Kündigung durch "unbefugte Dritte (...) schlicht nicht ernst" nehmen müssen, weshalb er auch keine Alternativen zu den aktuellen Büroräumlichkeiten habe suchen müssen. Die Voraussetzungen für ein Eingreifen des Bundesgerichts in den Ermessensentscheid der Vorinstanz seien damit gegeben. Angemessen heisse, dass die Räumungsfrist auf mindestens vier Monate anzusetzen sei.
Für den Fall, dass die Beschwerde nicht geschützt werde, beantragte er subeventualiter, dass ihm eine neue angemessene Frist zur Räumung des Mietobjekts zu gewähren sei.
6.2. Die vom Gericht angesetzte Frist zur Räumung des Mietobjekts muss verhältnismässig sein (<ref-law>). Gleichzeitig muss die Frist aber knapp bemessen bleiben und darf nicht auf eine Erstreckung des Mietverhältnisses hinauslaufen (vgl. dazu Urteile 4A_39/2018 vom 6. Juni 2018 E. 6; 4A_207/2014 vom 19. Mai 2014 E. 3.1; je mit Hinweisen).
Diesen Prinzipien hat die Vorinstanz bei der Ansetzung der Räumungsfrist ohne Weiteres nachgelebt. Sie hat zusammenfassend zutreffend erwogen, dass die Räumung der fraglichen Büroräumlichkeiten der Anwaltskanzlei des Beschwerdeführers nicht besonders aufwändig sei und innert zehn Tagen erfolgen könne, zumal die Kündigung bereits im Dezember 2019 erfolgt sei und der Beschwerdeführer diese nicht angefochten habe. Nicht korrekt ist es, wenn der Beschwerdeführer der Vorinstanz diesbezüglich vorwirft, sie habe nicht berücksichtigt, dass er weiterhin als Anwalt arbeite. Die Vorinstanz gab im angefochtenen Entscheid den Standpunkt des Beschwerdeführers, wonach die Räumung und Verlegung der Kanzlei "unter Erledigung der täglich anfallenden Arbeiten und der Wahrung aller Fristen erfolgen" müsse, ausdrücklich wieder (vorinstanzlicher Entscheid, Erwägung 13.2.1 S. 16) und berücksichtigte diesen Umstand damit auch in ihrem Entscheid über die Räumungsfrist. Im Übrigen versteht sich von selbst, dass der Beschwerdeführer neben der Räumung seiner zwei Büros und der Suche nach einer neuer Lokalität weiterhin seiner beruflichen Tätigkeit als Rechtsanwalt nachzugehen hat.
Ebenso unbehelflich ist das Argument des Beschwerdeführers, dass die Kündigung der Büroräumlichkeiten nicht ernst zu nehmen gewesen sei und er daher keine Vorbereitung habe treffen müssen. Allerspätestens als die Erstinstanz das von den Beschwerdegegnern beantragte Ausweisungsgesuch mit Entscheid vom 28. Dezember 2020 im Verfahren um Rechtsschutz in klaren Fällen guthiess, konnte der Beschwerdeführer von der Räumung der Büroräumlichkeiten nicht mehr ernsthaft überrascht sein. Er hatte nach dem erstinstanzlichen Urteil bis zum Entscheid der Vorinstanz am 2. März 2021 gut zwei Monate Zeit, die Verlegung seiner Kanzlei zu organisieren. Sollte er die nötigen Vorbereitungshandlungen zur Räumung unterlassen haben, so hat er sich dies selbst zuzuschreiben. Die von der Vorinstanz angeordnete Räumungsfrist von zehn Tagen ab dem Berufungsentscheid ist jedenfalls nicht zu beanstanden.
Unter diesen Umständen ist auch bei Berücksichtigung des Verhältnismässigkeitsprinzips nicht ersichtlich, warum das Bundesgericht dem Beschwerdeführer eine zusätzliche Frist zur Räumung seiner Büros gewähren müsste. Das entsprechende Subeventualbegehren ist abzuweisen.
7.
Die Beschwerde ist nach dem Ausgeführten abzuweisen, soweit auf sie überhaupt eingetreten werden kann.
Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kosten- und entschädigungspflichtig (<ref-law> und <ref-law>). Den Beschwerdegegnern, die sich nur zum Gesuch um aufschiebende Wirkung zu äussern hatten, ist eine reduzierte Parteientschädigung für das bundesgerichtliche Verfahren zuzusprechen.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3.
Der Beschwerdeführer hat die Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 500.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Bern, 1. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 12. Mai 2021
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Brugger