Sachverhalt: A. Mit Verfügung vom 4. Januar 2013 setzte die IV-Stelle die bisherige ganze Invalidenrente von B._ auf eine halbe Invalidenrente herab. Im dagegen geführten Beschwerdeverfahren vor dem Versicherungsgericht des Kantons Solothurn liess sich B._ durch Rechtsanwalt A._ vertreten. Nach durchgeführter Verhandlung informierte das kantonale Versicherungsgericht den Rechtsvertreter über die Möglichkeit einer reformatio in peius, worauf dieser ein Ausstandsgesuch gegen die am Verfahren beteiligten Gerichtspersonen einreichte. Zu dessen Begründung stellte Rechtsanwalt A._ die Kernthese auf, die Möglichkeit einer reformatio in peius sei - auch angesichts des späten Zeitpunktes ihrer Androhung - ohne hinreichenden materiellen Anlass und damit sachfremd motiviert in Aussicht gestellt worden. Am 30. Januar 2014 eröffnete die Anwaltskammer gegen Rechtsanwalt A._ gestützt auf die aufsichtsrechtliche Meldung vom 10. Oktober 2013 ein Disziplinarverfahren wegen Vorwurfs der Verletzung von Berufspflichten im Sinne von Art. 12 lit. a des Bundesgesetzes vom 23. Juni 2000 über die Freizügigkeit der Anwältinnen und Anwälte (BGFA; SR 935.61). Nach durchgeführtem Schriftenwechsel wurde ihm mit Beschluss der Anwaltskammer vom 22. Mai 2014 wegen Verstosses gegen die Berufsregeln ein Verweis erteilt. B. Gegen den Beschluss der Anwaltskammer vom 22. Mai 2014 liess Rechtsanwalt A._ Beschwerde beim Verwaltungsgericht des Kantons Solothurn führen. Er beantragte die Aufhebung des angefochtenen Beschlusses und den Freispruch vom Vorwurf der Verletzung einer Berufspflicht. Das kantonale Verwaltungsgericht wies diese Beschwerde mit Urteil vom 28. November 2014 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 16. Januar 2015 beantragt Rechtsanwalt A._, das Urteil des Verwaltungsgerichts des Kantons Solothurn vom 28. November 2014 sowie der Beschluss der Anwaltskammer vom 22. Mai 2014 seien kostenfällig aufzuheben. Seiner Beschwerde sei die aufschiebende Wirkung zu erteilen. Die Vorinstanz und die Anwaltskammer schliessen auf Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Mit Präsidialverfügung vom 2. Februar 2015 wurde der Beschwerde die aufschiebende Wirkung erteilt. Am 22. Juli 2015 hat der Beschwerdeführer dem Bundesgericht unaufgefordert eine zusätzliche Eingabe eingereicht.