Faits :
A.
A.a. A._, née en 1967, a travaillé en tant que comptable pour le compte de différentes entreprises, avant de cesser toute activité professionnelle en 2002. Elle a présenté une première demande de prestations de l'assurance-invalidité en juillet 2011.
Entre autres mesures d'instruction, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a diligenté une expertise auprès du docteur B._, spécialiste en psychiatrie et psychothérapie. L'expert a posé les diagnostics - avec répercussion sur la capacité de travail - de trouble panique avec agoraphobie (actuellement en rémission partielle) et de trouble obsessionnel compulsif (avec comportements compulsifs au premier plan, actuellement en rémission partielle), et celui - sans répercussion sur la capacité de travail - de trouble de la personnalité anankastique; il a fait état d'une capacité totale de travail dans l'activité habituelle, avec une baisse de rendement de l'ordre de 30 % depuis 2008, précisant toutefois que le rendement était susceptible d'atteindre 100 % moyennant un traitement antidépresseur à des doses cliniquement plus élevées ainsi qu'un suivi psychiatrique hebdomadaire (rapport du 30 août 2012). Forte de ces conclusions, l'administration a nié le droit de A._ à toute prestation par décision du 22 août 2013.
A.b. Au mois de mars 2014, A._ a déposé une nouvelle demande de prestations de l'assurance-invalidité. Elle y a joint un rapport établi par le docteur C._, spécialiste en psychiatrie et psychothérapie, dans lequel celui-ci a fait état, notamment, d'un trouble obsessionnel compulsif s'étant aggravé depuis les entretiens avec le docteur B._, d'une agoraphobie, ainsi que d'un trouble de la personnalité borderline; le psychiatre traitant a conclu à une incapacité de travail de 70 % depuis le mois de novembre 2011 (rapport du 20 novembre 2013). Après avoir dans un premier temps envisagé de ne pas entrer en matière sur la seconde demande présentée par l'assurée, l'office AI a sollicité un complément d'expertise auprès du docteur B._ afin de clarifier le droit aux prestations. Dans son rapport du 28 août 2014, signé également par la psychologue FSP D._, l'expert a mis en évidence une péjoration du trouble obsessionnel compulsif et attesté une incapacité de travail de 50 % dans toute activité depuis le début de l'année 2013; il a cependant mentionné que "la capacité de travail médico-théorique pourrait être considérée par le Médecin Conseil de l'Assurance Invalidité comme étant supérieure à 50 % (par exemple 70 %) si l'assurée avait bénéficié d'un traitement antidépresseur et d'un suivi psychothérapeutique hebdomadaire". Par décision du 16 février 2017, dont la motivation porte la date du lendemain, l'office AI a rejeté la demande de prestations de A._. En bref, il a considéré que si une péjoration de l'état de santé, respectivement de l'incapacité de travail, susceptible d'influencer le droit à la rente était bien survenue en janvier 2013, celle-ci était en lien direct avec le traitement inadéquat suivi par l'assurée tant au niveau médicamenteux que psychothérapeutique; par ailleurs, cette aggravation était antérieure à la décision initiale de refus de prestations du 22 août 2013, de sorte qu'il n'y avait pas de modification notable depuis celle-ci.
B.
Statuant le 20 décembre 2017 sur le recours formé par A._, le Tribunal cantonal du canton de Vaud, Cour des assurances sociales, l'a admis. Il a réformé la décision du 16 février 2017 en ce sens que l'intéressée a droit à une demi-rente d'invalidité à compter du 1er septembre 2014.
C.
L'office AI interjette un recours en matière de droit public contre ce jugement. Il conclut à l'annulation de celui-ci et à la confirmation de sa décision. Il sollicite également l'octroi de l'effet suspensif au recours.
L'intimée conclut au rejet du recours et à la réforme de l'arrêt cantonal en ce sens qu'elle a droit à une demi-rente d'invalidité à compter du 1er juillet 2013, respectivement depuis le 1er septembre 2014. Elle sollicite également le bénéfice de l'assistance judiciaire limitée aux frais de justice. L'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit :
1.
1.1. La LTF ne connaît pas l'institution du recours joint, de sorte que si l'assurée entendait contester l'arrêt cantonal, elle devait agir dans le délai de recours de l'<ref-law>; dans la mesure où l'intimée n'a pas recouru contre le jugement cantonal, elle ne peut, dans ses déterminations sur le recours de l'office AI, que proposer l'irrecevabilité et/ou le rejet, en tout ou partie, de celui-ci (<ref-ruling> consid. 2.1 p. 110). Il s'ensuit que ses conclusions tendant à l'octroi d'une demi-rente d'invalidité antérieurement au 1er septembre 2014 sont irrecevables.
1.2. Le recours en matière de droit public (<ref-law>) peut être formé pour violation du droit au sens des art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Il statue sur la base des faits retenus par la juridiction précédente (<ref-law>), qu'il peut rectifier ou compléter d'office si des lacunes et erreurs manifestes apparaissent aussitôt (<ref-law>). Il n'examine en principe que les griefs allégués et motivés (<ref-law>) surtout s'ils portent sur la violation des droits fondamentaux (<ref-law>). Il ne peut pas aller au-delà des conclusions des parties (<ref-law>). Le recourant n'est habilité à critiquer les constatations de fait que si les faits ont été établis de manière manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>), et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-ruling> consid. 4.3 p. 62 et les références).
1.3. Les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de la personne assurée et l'exigibilité - pour autant qu'elles ne soient pas fondées sur l'expérience générale de la vie - relèvent d'une question de fait et ne peuvent donc être contrôlées par le Tribunal fédéral que sous un angle restreint (<ref-ruling> consid. 3.2 p. 398). Il en va de même du point de savoir si la capacité (ou l'incapacité) de travail s'est modifiée de manière déterminante au sens des dispositions sur la révision pendant une période donnée (par exemple, arrêt 9C_989/2012 du 5 septembre 2013 consid. 2). On rappellera également qu'il n'y a pas arbitraire du seul fait qu'une solution autre que celle de l'autorité cantonale semble concevable, voire préférable. Pour qu'une décision soit annulée pour cause d'arbitraire, il ne suffit pas que sa motivation soit insoutenable; il faut encore que cette décision soit arbitraire dans son résultat (<ref-ruling> consid. 2.2 p. 72).
2.
Est en l'espèce litigieux le droit de l'intimée à une demi-rente d'invalidité à partir du 1er septembre 2014 dans le cadre d'une nouvelle demande de prestations.
Le jugement attaqué expose de manière complète les dispositions légales et les principes jurisprudentiels en matière de révision de la rente d'invalidité, applicables par analogie à l'examen matériel d'une nouvelle demande (<ref-law>, art. 87 al. 2 et 3 RAI; <ref-ruling> consid. 2.3 p. 10 s.; <ref-ruling> consid. 5.2.3 p. 68; <ref-ruling> consid. 4b p. 200 et les références), d'appréciation des rapports médicaux (<ref-ruling> consid. 5.1 p. 232; <ref-ruling> consid. 3 p. 352) et d'évaluation de l'invalidité (<ref-law>). Il suffit d'y renvoyer.
3.
Examinant l'évolution de l'état de santé de l'assurée depuis la décision initiale du 22 août 2013, l'instance cantonale a, en se fondant sur le rapport d'expertise complémentaire du docteur B._ du 28 août 2014, auquel elle a accordé une pleine valeur probante, admis une péjoration du trouble obsessionnel compulsif, lequel entraînait "désormais" une incapacité de travail de 50 %. Les premiers juges ont en revanche exclu que la cause puisse être examinée sous l'angle des règles en matière de révision procédurale, dans la mesure où l'intimée n'avait pas adressé une demande écrite de révision à l'office intimé dans les nonante jours suivant la découverte du motif de révision - soit le rapport du docteur C._ du 20 novembre 2013 - comme l'exige l'<ref-law> en relation avec l'<ref-law>. Ils ont ensuite considéré que l'intimée ne pouvait pas être sanctionnée par l'office recourant au motif qu'elle n'avait pas suivi les mesures thérapeutiques préconisées par le docteur B._ lors de sa première expertise, dès lors qu'elle n'avait pas formellement été mise en demeure de le faire en application de la procédure prévue par l'<ref-law>. Au vu de l'incapacité de travail de 50 % dans toute activité attestée par l'expert depuis le 1er janvier 2013, la juridiction cantonale a considéré que l'intimée présentait une incapacité de gain du même ordre. Elle a fixé la date du début de son droit à une demi-rente d'invalidité au 1er septembre 2014, compte tenu du dépôt de sa seconde demande de prestations intervenu au mois de mars 2014.
4.
4.1. Dans un premier grief, l'office AI reproche à la juridiction cantonale d'avoir violé le droit fédéral en admettant que l'aggravation de l'état de santé survenue en janvier 2013 et l'incapacité de travail corrélative de 50 % permettaient de reconnaître à l'intimée le droit à une demi-rente d'invalidité à compter du mois de septembre 2014. Les premiers juges n'auraient pas tenu compte du fait que la demande de prestations du mois de mars 2014 constitue une nouvelle demande, qui fait suite à une précédente décision de refus de rente. L'administration allègue que, dans la mesure où la modification de la situation de l'intéressée est antérieure à la décision initiale de refus de prestations du 22 août 2013, cette circonstance ne pouvait pas être prise en considération, dans le cadre de l'instruction de la seconde demande de prestations, pour déterminer si une modification notable de la situation de l'assurée était entretemps intervenue. Etant donné que l'assurée avait présenté une incapacité de travail de 30 % depuis 2008, laquelle atteignait 50 % depuis le mois de janvier 2013, il fallait admettre que la condition posée par l'<ref-law> - qui exige que l'assuré ait été en incapacité de travail à 40 % au moins en moyenne durant une année sans interruption notable - était réalisée le 1er juillet 2013, si bien que l'invalidité était survenue à cette date, soit avant même la notification de la première décision de refus de rente d'août 2013. Une modification notable de l'état de santé depuis cette date ne pouvait dès lors être admise.
4.2. En l'espèce, il n'est pas contesté que le trouble obsessionnel compulsif dont est atteinte l'intimée a subi une aggravation au début de l'année 2013. Alors qu'il entraînait jusque-là une baisse de rendement de 30 %, il a provoqué dès 2013, une incapacité de travail de 50 %. Cette modification de l'état de santé a été mise en évidence par le docteur B._ dans son rapport complémentaire d'expertise du 28 août 2014, au cours de la procédure initiée à la suite du dépôt de la seconde demande de prestations de l'assurée en mars 2014. Il s'agit ainsi d'un fait nouveau important, qui s'est produit antérieurement à la décision initiale de refus de rente du 22 août 2013, mais qui n'a pas fait partie des éléments ayant servi de base à cette décision, puisqu'il n'a été découvert et établi que subséquemment. Cette situation entre donc par définition dans le cadre d'une révision procédurale (<ref-law>); à l'inverse, elle ne saurait tomber sous le coup de la révision au sens de l'<ref-law>, qui suppose une modification de l'état de santé postérieure à une décision de prestations entrée en force.
4.3.
4.3.1. On rappellera que conformément à l'<ref-law>, les décisions formellement passées en force sont soumises à révision si l'assuré ou l'assureur découvre subséquemment des faits nouveaux importants ou trouve des nouveaux moyens de preuve qui ne pouvaient être produits auparavant. Sont "nouveaux" au sens de cette disposition, les faits qui se sont produits jusqu'au moment où, dans la procédure principale, des allégations de faits étaient encore recevables, mais qui n'étaient pas connus du requérant malgré toute sa diligence. Les preuves, quant à elles, doivent servir à prouver soit les faits nouveaux importants, qui motivent la révision, soit des faits qui étaient certes connus lors de la procédure précédente, mais qui n'avaient pas pu être prouvés, au détriment du requérant. Ce qui est décisif, c'est que le moyen de preuve ne serve pas à l'appréciation des faits seulement, mais à l'établissement de ces derniers. Ainsi, il ne suffit pas qu'un nouveau rapport médical donne une appréciation différente des faits; il faut bien plutôt des éléments de fait nouveaux, dont il résulte que les bases de la décision entreprise comportaient des défauts objectifs. Pour justifier la révision d'une décision, il ne suffit pas que le médecin ou l'expert tire ultérieurement, des faits connus au moment du jugement principal, d'autres conclusions que l'administration ou le tribunal. Il n'y a pas non plus motif à révision du seul fait que l'administration ou le tribunal paraît avoir mal interprété des faits connus déjà lors de la procédure principale. L'appréciation inexacte doit être, bien plutôt, la conséquence de l'ignorance ou de l'absence de preuve de faits essentiels pour la décision (<ref-ruling> consid. 5b p. 358 et les références; arrêts 9C_589/2013 du 2 mai 2014 consid. 4.2 et 9C_371/2008 du 2 février 2009 consid. 2.3).
4.3.2. Si dans un premier temps, l'office AI avait envisagé de ne pas entrer en matière sur la demande de prestations présentée par l'assurée au mois de mars 2014, il est ensuite revenu sur sa position puisqu'il a sollicité un complément d'expertise. Le rapport du docteur B._ du 28 août 2014 a alors mis en lumière une aggravation du trouble obsessionnel compulsif dès le début de l'année 2013, confirmant ainsi les conclusions émises par le docteur C._ aux mois de novembre 2013 et juin 2014. A ce stade de la procédure, l'office AI a admis une incapacité de travail de 50 % dès 2013; il aurait donc dû reconnaître l'existence d'un fait nouveau au sens de l'<ref-law> et procéder à une révision de sa décision du 22 août 2013. Le raisonnement de la juridiction cantonale à cet égard, reposant sur le caractère tardif de la demande de l'assurée de mars 2014, ne peut être suivi, dès lors que la procédure de révision selon l'<ref-law> doit être menée d'office par l'assureur, dès la découverte du motif de révision, sans qu'une demande de l'assuré en ce sens ne soit nécessaire (KIESER, ATSG-Kommentar, 3e éd. 2015, n° 35 p. 707 ad <ref-law>).
Compte tenu de la capacité de travail de 50 % depuis 2013 - dûment constatée par la juridiction cantonale en fonction de l'avis du docteur B._ (consid. 5.2 infra) - qui faisait suite à une incapacité de travail de 30 % depuis 2008, il faut admettre que l'intimée a été en incapacité de travail à 40 % au moins en moyenne durant une année sans interruption notable dès le 1er juillet 2013 (<ref-law>), comme le soutient l'office recourant. Le droit de l'assurée à une demi-rente d'invalidité a ainsi pris naissance le 1er juillet 2013. Conformément à l'<ref-law>, l'office AI aurait dû réviser sa décision du 22 août 2013 et reconnaître le droit à cette prestation.
5.
5.1. Dans un second moyen, l'office recourant fait grief à la juridiction cantonale d'avoir considéré qu'une mise en demeure préalable était nécessaire s'il entendait sanctionner l'assurée en raison du fait qu'elle n'avait pas suivi les mesures thérapeutiques préconisées par le docteur B._. Il soutient que dès lors qu'"une atteinte à la santé qui, suite à un traitement bien conduit, n'entraîne pas d'incapacité de travail de longue durée ne saurait entraîner une invalidité susceptible de donner droit à une rente de l'AI", l'intimée ne pouvait pas être considérée comme étant invalide; un droit à une rente d'invalidité ne pouvait donc pas lui être reconnu, si bien que la question d'une réduction ou d'un refus de celui-ci, moyennant le respect de la procédure de mise en demeure prévue par l'<ref-law>, ne se posait tout simplement pas.
5.2. L'argumentation de l'office recourant sur le caractère invalidant des troubles psychiques de l'intimée ne correspond pas à la jurisprudence actuelle puisqu'elle se fonde sur un arrêt concernant le caractère invalidant d'un trouble dépressif léger à moyen (arrêt 8C_625/2016 du 24 janvier 2017 consid. 3.4.1), dont l'évaluation a été précisée depuis lors. Dans l'<ref-ruling> consid. 4.2, le Tribunal fédéral a rappelé que le fait qu'une atteinte à la santé psychique puisse être influencée par un traitement ne suffit pas, à lui seul, pour nier le caractère invalidant de celle-ci; la question déterminante est en effet celle de savoir si la limitation établie médicalement empêche, d'un point de vue objectif, la personne assurée d'effectuer une prestation de travail. A cet égard, toutes les affections psychiques doivent en principe faire l'objet d'une procédure probatoire structurée au sens de l'<ref-ruling> (<ref-ruling> consid. 6 et 7 p. 426 ss et les références). Ainsi, le caractère invalidant d'atteintes à la santé psychique doit être établi dans le cadre d'un examen global, en tenant compte de différents indicateurs, au sein desquels figurent notamment les limitations fonctionnelles et les ressources de la personne assurée, de même que le critère de la résistance du trouble psychique à un traitement conduit dans les règles de l'art (<ref-ruling> consid. 4.4 p. 414).
En l'espèce, si le recours inadéquat de l'intimée aux options thérapeutiques préconisées ainsi que l'absence de motivation pour une réadaptation professionnelle, mises en évidence par le docteur B._ (expertise du 28 août 2014), parlent en défaveur du poids des souffrances, d'autres indicateurs expliquent cependant les conclusions de l'expert relatives à la capacité de travail. Il ressort en effet des indications du médecin s'agissant du degré de gravité des symptômes et des limitations fonctionnelles inhérents au diagnostic, que les compulsions liées au trouble obsessionnel compulsif entravent notablement l'intimée, puisqu'elles "prennent au moins quatre heures par jour" et occasionnent une fatigue et une perte de temps considérable; elles ont également un retentissement significatif dans les activités de la vie quotidienne et le ménage d'un point de vue objectif, et provoquent un isolement social. Le trouble de la personnalité anankastique, bien que n'entraînant pas de répercussion sur la capacité de travail, a également une incidence négative sur le fonctionnement de l'assurée, en particulier sur les relations interpersonnelles, sur les plans privé et professionnel (fortes réactions émotionnelles et attitude renfermée qui compromettent l'intégration dans une équipe de travail, impossibilité à nouer des relations à long terme, notamment).
Il n'y a dès lors pas lieu de s'écarter des conclusions de l'expert, ce qui conduit à reconnaître à l'intimée le droit à une demi-rente d'invalidité dès le 1er juillet 2013 (consid. 4.3 supra),et non pas du 1er septembre 2014 comme l'ont retenu les premiers juges en se fondant sur l'<ref-law>. Toutefois, comme le Tribunal fédéral est lié par les conclusions de l'office recourant (<ref-law>) et en l'absence de recours de l'intimée (consid. 1.1 supra), il ne saurait accorder à celle-ci une demi-rente d'invalidité avant le 1er septembre 2014.
5.3. On rappellera finalement que ce n'est que moyennant le respect de la procédure de mise en demeure prévue par l'<ref-law> qu'un droit à une rente d'invalidité peut être réduit ou refusé au motif que l'ayant droit n'a par le passé pas suivi les mesures thérapeutiques préconisées ou envisageables (arrêts 8C_5/2017 du 11 avril 2017 consid. 5.4, 9C_682/2016 du 16 février 2017 consid. 3.2 et 9C_391/2016 du 4 novembre 2016 consid. 3). Une telle procédure de mise en demeure n'a pas eu lieu en l'espèce, peu importe quelle en ait été la raison. La confirmation du droit à une demi-rente d'invalidité dès le 1er septembre 2014, n'empêche cependant pas l'office recourant d'attirer l'attention de l'intimée sur son obligation de diminuer le dommage en lien avec les possibilités thérapeutiques mises en évidence par l'expert.
6.
En conséquence de ce qui précède, le recours, mal fondé, doit être rejeté.
Vu le présent arrêt, la requête d'attribution de l'effet suspensif au recours n'a plus d'objet.
7.
Compte tenu de l'issue du litige, l'office recourant, qui succombe, doit supporter les frais judiciaires (<ref-law>), ainsi que les dépens que peut prétendre l'intimée (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
3.
Le recourant versera à l'intimé la somme de 2'400 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 24 avril 2018
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
La Présidente : Pfiffner
La Greffière : Perrenoud