Faits :
A.
A la suite de la plainte pénale déposée le 2 avril 2019 par B._ SA, le Ministère public de la République et canton de Genève a ouvert le 3 avril 2019 une instruction pénale contre A._ notamment pour soustraction de données (art. 143 CP) et extorsion et chantage (art. 156 CP).
B.
B.a. Sur mandat du Ministère public de la République et canton de Genève délivré le 11 avril 2019, la police s'est présentée au domicile de A._ le 12 avril 2019, à 6 heures 10, en vue de procéder à une perquisition. A la suite de celle-ci, A._ a été conduit dans les locaux de la police pour y être auditionné. Il était assisté à cette occasion de Me C._, avocat de permanence.
Par télécopie envoyée le 12 avril 2019 à 10 heures 58 au Ministère public, l'avocat Loïc Parein a avisé la Procureure que A._ avait tenté de le contacter lors de la perquisition "en vue d'être constitué avocat", expliquant que c'était alors son associé, l'avocat D._, qui s'était entretenu avec le prévenu. Me Loïc Parein a relaté qu'ensuite, lorsqu'il avait tenté de rappeler A._, un inspecteur de police lui aurait fait savoir qu'il ne pourrait entrer en contact téléphonique ni avec son client ni avec Me C._. Estimant qu'il s'agissait d'une atteinte aux droits du prévenu de s'entretenir librement avec son avocat, Me Loïc Parein a requis du Ministère public une décision formelle et motivée instituant cette restriction.
Le 12 avril 2019, la Procureure a informé Me Loïc Parein qu'elle ne donnerait pas suite à sa requête, considérant que les art. 158 et 159 CPP n'avaient pas été violés.
B.b. Par ailleurs, par décisions des 15 et 16 avril 2019, adressées respectivement à Me C._ et Me Loïc Parein, la Procureure a refusé d'autoriser A._ à consulter le dossier, considérant que les preuves principales n'avaient pas encore été administrées (cf. art. 101 al. 1 CPP).
B.c. Par arrêt du 3 septembre 2019, la Chambre pénale de recours de la Cour de justice genevoise a rejeté, dans la mesure où il conservait un objet, le recours formé par A._ contre les décisions des 12, 15 et 16 avril 2019. Elle l'a en outre condamné aux frais de l'instance, qui comprenaient un émolument de 1000 francs.
C.
A._ forme un recours en matière pénale au Tribunal fédéral contre l'arrêt du 3 septembre 2019. Il conclut, avec suite de frais et dépens, à sa réforme en ce sens qu'il est constaté que son droit à choisir librement son avocat a été illicitement atteint, que des dépens à hauteur de 1369 fr. 80 lui sont octroyés et qu'il n'est condamné à aucun frais de justice à raison de la décision attaquée. Subsidiairement, il conclut à l'annulation de l'arrêt et au renvoi de la cause à la cour cantonale pour nouvelle décision dans le sens des considérants.
Invitée à se déterminer, la cour cantonale a renoncé à présenter des observations, se référant aux considérants de l'arrêt. Le Ministère public a pour sa part conclu au rejet du recours.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office (art. 29 al. 1 LTF) et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 358).
1.1. L'arrêt attaqué a été rendu à la suite d'un recours formé par le recourant le 17 avril 2019 et portant sur trois décisions distinctes, à savoir, d'une part, le refus du Ministère public, exprimé le 12 avril 2019, de donner suite à la demande du recourant tendant au constat du caractère illicite de l'interdiction de communiquer avec son défenseur de choix (cf. consid. 1.3) et, d'autre part, les deux refus du Ministère public, exprimés les 15 et 16 avril 2019, d'autoriser le recourant à consulter le dossier (cf. consid. 1.4).
1.2. Contrairement à ce que soutient le recourant en parlant de décision finale, aucune des problématiques susmentionnées ne permet de mettre un terme à la procédure pénale, de sorte que l'arrêt attaqué constitue une décision incidente. L'hypothèse de l'art. 93 al. 1 let. b LTF n'entrant manifestement pas en considération en l'espèce, la recevabilité du recours en matière pénale présuppose donc l'existence d'un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF, notion qui se rapporte, en matière pénale, à un préjudice de nature juridique qui ne puisse pas être réparé ultérieurement par un jugement final ou une autre décision favorable au recourant (<ref-ruling> consid. 1.1.3 p. 95; <ref-ruling> consid. 2.3 p. 177). Cette réglementation est fondée sur des motifs d'économie de procédure. En tant que cour suprême, le Tribunal fédéral doit en principe ne s'occuper qu'une seule fois d'un procès et cela seulement lorsqu'il est certain que le recourant subit effectivement un dommage définitif (<ref-ruling> consid. 1 p. 115).
En vertu de l'art. 42 al. 1 LTF, il incombe au recourant d'alléguer les faits qu'il considère comme propres à fonder sa qualité pour recourir et ceux permettant de démontrer l'existence d'un préjudice irréparable lorsque celui-ci n'est pas d'emblée évident (<ref-ruling> consid. 2.3 p. 287).
1.3. Le recourant n'explique aucunement en quoi il subirait un préjudice irréparable en raison du refus de la cour cantonale de constater, à ce stade de la procédure, le caractère illicite de l'interdiction de contacter son défenseur de choix qui lui aurait été signifiée avant son audition du 12 avril 2019. Or, un tel préjudice à cet égard n'a rien d'évident, en particulier dès lors qu'il ressort de l'arrêt entrepris qu'il avait finalement été assisté de Me C._, avocat de permanence, lors de l'audition du 12 avril 2019 et que ses intérêts sont défendus, à tout le moins depuis le 16 avril 2019, par Me Loïc Parein, son défenseur de choix.
Faute d'une motivation suffisante (cf art. 42 al. 1 LTF), le recours doit être déclaré irrecevable dans cette mesure.
1.4.
1.4.1. S'agissant d'un refus d'accès au dossier, la jurisprudence admet l'existence d'un préjudice irréparable de nature juridique lorsque le prévenu est en droit de consulter le dossier à ce stade de la procédure, en particulier sur la base de l'art. 101 al. 1 CPP (arrêts 1B_144/2016 du 20 juin 2016 consid. 1; 1B_439/2012 du 8 novembre 2012 consid. 1.2; 1B_597/2011 du 7 février 2012 consid. 1.2, publié in SJ 2012 I p. 215).
En revanche, le prononcé accessoire sur les frais et dépens, contenu dans une décision incidente, n'est en lui-même pas de nature à causer un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF (<ref-ruling> consid. 1.3 p. 419; <ref-ruling> consid. 1.2 p. 47; <ref-ruling> consid. 1.2.2 p. 333 s.). Il peut faire l'objet d'un recours immédiat au Tribunal fédéral uniquement dans le cadre d'un recours intenté contre le point principal traité dans la décision incidente à supposer qu'une telle voie de droit soit ouverte en application des art. 92 ou 93 al. 1 LTF. A défaut, il n'est possible de contester la seule question de la répartition des frais et dépens que dans un recours contre la décision finale (cf. art. 93 al. 3 LTF; <ref-ruling> consid. 2.3 p. 95 s.; <ref-ruling> consid. 1.2.2 p. 333 s.; arrêt 1B_51/2013 du 27 septembre 2013 consid. 1.2). Si la décision finale n'est pas contestée sur le point principal, la voie du recours direct au Tribunal fédéral est ouverte pour faire trancher la question accessoire restée litigieuse (<ref-ruling> consid. 1.1 p. 59; <ref-ruling> consid. 1.2.1 p. 332; <ref-ruling> consid. 2.2 p. 648).
1.4.2. La cour cantonale a estimé que le recours contre les décisions des 15 et 16 avril 2019 était dépourvu d'objet dès lors que l'accès au dossier avait finalement été accordé au recourant le 5 juin 2019, soit durant la procédure de recours.
A cet égard, le recourant se plaint uniquement que les frais de procédure ont été entièrement mis à sa charge et qu'aucune indemnité pour ses dépens ne lui a été accordée par la cour cantonale. En particulier, il n'allègue pas de circonstances propres à démontrer que les refus de consulter le dossier qui lui avaient été signifiés les 15 et 16 avril 2019 sont de nature à lui causer un préjudice irréparable, ni qu'il disposait, au regard de l'art. 101 al. 1 CPP et des preuves administrées jusqu'alors, d'un droit de consulter le dossier avant le 5 juin 2019.
Il s'ensuit que, faute d'être en mesure de contester le point principal traité dans la décision incidente, il n'est pas non plus fondé à se plaindre, dans le cadre d'un recours immédiat au Tribunal fédéral, de la répartition des frais et dépens contenue dans cette décision incidente.
2.
Le recours doit dès lors être déclaré irrecevable. Le recourant, qui succombe, prendra en charge les frais du présent arrêt (art. 65 et 66 al. 1 LTF). Il n'est pas alloué de dépens.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
Les frais judiciaires, arrêtés à 2000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au mandataire du recourant, au Ministère public de la République et canton de Genève et à la Cour de justice de la République et canton de Genève, Chambre pénale de recours.
Lausanne, le 5 février 2020
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Chaix
Le Greffier : Tinguely