Faits :
A.
Le 16 novembre 2016, B._ a déposé une plainte pénale contre inconnu pour tentative de vol (art. 22 et 139 CP), dommages à la propriété (art. 144 CP), violation de domicile (art. 186 CP) et déplacement de bornes (art. 256 CP), subsidiairement de déplacement de signaux trigonométriques ou limnimétriques (art. 257 CP), au motif que, le 17 août 2016, trois ouvriers portant un tee-shirt au logo de la société C._ SA avaient, sans préavis ni autorisation, démonté la totalité du mur de soutènement en pierres sèches qui bordait à l'est sa parcelle n° YYY du registre foncier de la commune de V._ et qui surplombait de ce côté la route communale.
Par ordonnance du 26 mars 2019, la Procureure Corinne Caldelari a ordonné le classement de la procédure pénale ouverte contre A._, administratrice unique de C._ SA, pour violation de domicile (art. 186 CP), déplacement de bornes (art. 256 CP) et déplacement de signaux trigonométriques ou limnimétriques (art. 257 CP).
Par ordonnance du même jour, la Procureure prénommée a reconnu A._ coupable de dommages à la propriété (art. 144 al. 1 CP). Elle l'a condamnée à une peine pécuniaire de 40 jours-amende à 190 fr. le jour, avec sursis pendant deux ans, ainsi qu'à une amende de 1'000 francs A._ a formé opposition contre cette ordonnance pénale.
Le 29 janvier 2021, la Procureure Caldelari a auditionné B._ en qualité de personne appelée à donner des renseignements. Une note figure au procès-verbal de cette audition selon laquelle "la Procureure informe les parties qu'au vu du dernier courrier de Me Rouiller, elle autorisera exceptionnellement toutes les questions de ce dernier, même celles n'ayant aucun rapport avec la présente procédure, afin que la présente séance se poursuive dans des conditions acceptables".
B.
Le 8 février 2021, A._ a déposé une demande tendant à la récusation de la Procureure Caldelari. Celle-ci n'y a pas donné une suite favorable.
Par ordonnance du 16 mars 2021, le Juge unique de la Chambre pénale du Tribunal cantonal du canton du Valais (ci-après: le Tribunal cantonal) a rejeté la demande de récusation dans la mesure de sa recevabilité.
C.
Agissant par la voie du recours en matière pénale, A._ demande principalement au Tribunal fédéral de réformer l'ordonnance du 16 mars 2021 en ce sens que la demande de récusation litigieuse est admise. Elle conclut subsidiairement au renvoi de la cause à l'instance précédente pour nouvelle décision dans le sens des considérants.
Le Tribunal cantonal se réfère à son ordonnance et la Procureure prénommée ne s'est pas déterminée.

Considérant en droit :
1.
Conformément aux art. 78, 79 et 92 al. 1 LTF, une décision cantonale relative à la récusation d'un magistrat pénal peut faire immédiatement l'objet d'un recours en matière pénale. La recourante en tant que prévenue, dont la demande de récusation a été rejetée, a qualité pour recourir en vertu de l'art. 81 al. 1 LTF. Pour le surplus, le recours a été interjeté en temps utile (art. 100 al. 1 LTF) contre une décision rendue en instance cantonale unique (art. 80 al. 2 in fine LTF) et les conclusions présentées sont recevables (art. 107 al. 2 LTF). Il y a donc lieu d'entrer en matière.
2.
La recourante reproche à l'instance précédente d'avoir rejeté la demande de récusation de la Procureure intimée. Elle se plaint d'une violation des art. 56 et 58 CPP.
2.1. Un magistrat est récusable pour l'un des motifs prévus aux art. 56 let. a à e CPP, qui n'ont pas été invoqués en l'espèce. Il l'est aussi selon l'art. 56 let. f CPP, "lorsque d'autres motifs, notamment un rapport d'amitié étroit ou d'inimitié avec une partie ou son conseil, sont de nature à le rendre suspect de prévention". Cette disposition a la portée d'une clause générale recouvrant tous les motifs de récusation non expressément prévus aux lettres précédentes. Elle correspond à la garantie d'un tribunal indépendant et impartial instituée par les art. 30 Cst. et 6 CEDH. Elle n'impose pas la récusation seulement lorsqu'une prévention effective du magistrat est établie, car une disposition interne de sa part ne peut guère être prouvée. Il suffit que les circonstances donnent l'apparence de la prévention et fassent redouter une activité partiale du magistrat. Seules les circonstances constatées objectivement doivent être prises en considération. Les impressions purement individuelles d'une des parties au procès ne sont pas décisives (<ref-ruling> consid. 4.3; <ref-ruling> consid. 3.2). L'impartialité subjective d'un magistrat se présume jusqu'à preuve du contraire (<ref-ruling> consid. 3.2.1).
Dans la phase de l'enquête préliminaire, ainsi que de l'instruction et jusqu'à la mise en accusation, le ministère public est l'autorité investie de la direction de la procédure (art. 61 let. a CPP). A ce titre, il doit veiller au bon déroulement et à la légalité de la procédure (art. 62 al. 1 CPP). Durant l'instruction, il doit établir, d'office et avec un soin égal, les faits à charge et à décharge (art. 6 CPP); il doit statuer sur les réquisitions de preuves et peut rendre des décisions quant à la suite de la procédure (classement ou mise en accusation), voire rendre une ordonnance pénale pour laquelle il assume une fonction juridictionnelle. Dans ce cadre, le ministère public est tenu à une certaine impartialité même s'il peut être amené, provisoirement du moins, à adopter une attitude plus orientée à l'égard du prévenu ou à faire état de ses convictions à un moment donné de l'enquête. Tout en disposant, dans le cadre de ses investigations, d'une certaine liberté, le magistrat reste tenu à un devoir de réserve. Il doit s'abstenir de tout procédé déloyal, instruire tant à charge qu'à décharge et ne point avantager une partie au détriment d'une autre (<ref-ruling> consid. 3.2.2; <ref-ruling> consid. 2.2.1).
Des décisions ou des actes de procédure qui se révèlent par la suite erronés ne fondent pas en soi une apparence objective de prévention; seules des erreurs particulièrement lourdes ou répétées, constitutives de violations graves des devoirs du magistrat, peuvent fonder une suspicion de partialité, pour autant que les circonstances dénotent que la personne en cause est prévenue ou justifient à tout le moins objectivement l'apparence de prévention. Il appartient en outre aux juridictions de recours normalement compétentes de constater et de redresser les erreurs éventuellement commises dans ce cadre. La procédure de récusation n'a donc pas pour objet de permettre aux parties de contester la manière dont est menée l'instruction et de remettre en cause les différentes décisions incidentes prises par la direction de la procédure (ATF <ref-ruling> consid. 3.2).
De manière générale, les déclarations d'un magistrat doivent être interprétées de façon objective, en tenant compte de leur contexte, de leurs modalités et du but apparemment recherché par leur auteur (arrêts 1B_140/2020 du 6 octobre 2020 consid. 2.1). Il incombe en particulier à la direction de la procédure de veiller à la sécurité, à la sérénité et au bon ordre des débats (art. 63 al. 1 CPP). Il n'est ainsi, par principe, pas inadmissible que le magistrat en charge de cette fonction puisse adopter un ton plus ferme, notamment afin de rappeler les règles de bienséance à une partie dont le comportement procédural serait inadéquat ou pour mettre la personne entendue face aux incohérences de ses déclarations. Le magistrat sort cependant de ce cadre lorsque les propos émis ne se limitent plus à un tel rappel, mais font référence à des éléments extérieurs à la procédure susceptibles d'influencer la conduite de celle-ci (arrêt 1B_96/2017 du 13 juin 2017 consid. 2.4). Des propos maladroits ne suffisent en principe pas pour retenir qu'un magistrat serait prévenu, sauf s'ils paraissent viser une personne particulière et que leur tenue semble constitutive d'une grave violation notamment des devoirs lui incombant (<ref-ruling> consid. 2d; arrêt 1B_65/2020 du 18 mai 2020 consid. 4.1 et l'arrêt cité).
Par ailleurs, conformément à l'art. 58 al. 1 CPP, la récusation doit être demandée sans délai, dès que la partie a connaissance du motif de récusation (arrêt 1B_576/2020 du 3 décembre 2020 consid. 2.1 et les arrêts cités), sous peine de déchéance (<ref-ruling> consid. 8.4.3).
2.2. En l'espèce, la recourante reproche à la Procureure intimée d'avoir manifesté un parti pris défavorable à son égard lors de l'audition de la partie plaignante du 29 janvier 2021. Elle voit un motif de partialité de la magistrate intimée dans le fait qu'elle a mentionné et inscrit au procès-verbal qu'elle poserait les questions de la recourante "même celles n'ayant aucun rapport avec la présente procédure, afin que la présente séance se poursuive dans des conditions acceptables". Elle fait valoir qu'un tel comportement n'est pas assimilable au refus d'instruire une réquisition de preuve et qu'il revient à décrédibiliser la défense devant la partie plaignante qui allait se faire interroger: cela signifierait à la partie plaignante que les questions qui allaient lui être posées, pas pertinentes, n'avaient pas à être prises au sérieux. La recourante soutient encore qu'il ressortirait des réponses apportées par la plaignante qu'elle n'aurait pas pris au sérieux les questions posées et qu'elle se serait contentée d'y répondre vaguement ou de ne pas y répondre du tout.
La manière dont la Procureure a introduit les questions posées par la défense est certes maladroite. Elle ne fait cependant pas naître une apparence de prévention à l'encontre de la prévenue dans la mesure où la Procureure a posé toutes les questions à la plaignante et a correctement dicté le procès-verbal. Rien n'indique par ailleurs que la plaignante n'ait pas répondu sérieusement aux questions qui lui ont été posées, dès lors qu'au début de son audition, la Procureure a dûment attiré son attention sur son obligation de déposer (cf. art. 181 al. 1 CPP) ainsi que sur les conséquences pénales possibles d'une dénonciation calomnieuse, de déclarations visant à induire la justice en erreur ou d'une entrave à l'action pénale (cf. art. 181 al. 2 CPP). Quoi qu'en dise la recourante, le fait que la plaignante ait parfois répondu "Je ne sais pas vous dire" ou "Je ne m'en souviens pas" ne permet pas de retenir qu'elle n'aurait pas répondu avec sérieux aux questions posées et encore moins que le comportement de la Procureure intimée aurait influencé ses réponses. L'argument de la recourante à cet égard relève d'ailleurs du procès d'intention.
La recourante met encore en évidence le fait que la Procureure a levé les yeux au ciel pour montrer l'exaspération à l'égard des questions de la recourante, ce qui aurait pour conséquence de vicier l'entier de l'instruction à décharge dans l'interrogatoire de la partie plaignante. La gestuelle de la Procureure, peut-être malhabile, ne dénote toutefois pas une hostilité à l'encontre de la prévenue et n'est pas de nature à rendre la magistrate professionnelle suspecte de partialité. Au demeurant, les impressions purement individuelles d'une des parties à la procédure ne sont pas décisives.
Quant à la phrase "afin que la présente séance se poursuive dans des conditions acceptables" figurant au procès-verbal de l'audition du 29 janvier 2021, elle n'apparaît pas objectivement de nature à entacher l'impartialité de la magistrate intimée.
Enfin, le fait que la Procureure ne partage pas actuellement le point de vue de la recourante quant à la partie sud du mur, que celle-ci qualifie d'amoncellement de pierres, ne permet pas de remettre en cause la capacité d'une magistrate professionnelle à instruire de manière impartiale sur les faits dénoncés dans la présente cause. Retenir le contraire reviendrait à récuser systématiquement tous les magistrats qui ne suivent pas l'avis des parties à la procédure.
2.3. En définitive, aucun des motifs avancés par la recourante, pris séparément ou dans leur ensemble, ne permet objectivement de retenir une apparence de prévention de la Procureure intimée. Dans ces conditions, il y a lieu de constater que la garantie du juge impartial a été respectée, de sorte que c'est à bon droit que le Tribunal cantonal a rejeté la demande de récusation.
3.
Le recours est par conséquent rejeté, sans qu'il soit nécessaire d'examiner la prétendue violation de l'art. 58 CPP.
Les frais judiciaires sont mis à la charge de la recourante, qui succombe (art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 2'000 francs, sont mis à la charge de la recourante.
3.
Le présent arrêt est communiqué au mandataire de la recourante, à la Procureure Caldelari et au Juge unique de la Chambre pénale du Tribunal cantonal du Canton du Valais.
Lausanne, le 16 juillet 2021
Au nom de la Ire Cour de droit public
du Tribunal fédéral suisse
Le Président : Kneubühler
La Greffière : Tornay Schaller