Faits:
A.
C._ a présenté une demande de prestations de l'assurance-invalidité le 16 mars 2007, invoquant souffrir d'un syndrome des jambes sans repos et de dépression chronique. L'Office cantonal genevois de l'assurance-invalidité (ci-après: l'office AI) a recueilli l'avis des médecins traitants, puis soumis l'assurée à deux reprises à un examen auprès du Service médical régional AI (SMR). Dans leurs rapports successifs (des 28 janvier et 21 avril 2008), les médecins du SMR ont nié l'existence d'une atteinte à la santé invalidante et conclu à une capacité entière de travail dans toute activité sur le plan psychiatrique. Par décision du 9 mai 2008, l'office AI a rejeté la demande de l'assurée.
B.
B.a. C._ a déféré cette décision au Tribunal cantonal genevois des assurances sociales (aujourd'hui: Cour de justice de la République et canton de Genève, Chambre des assurances sociales). Entre autres mesures d'instruction, le Tribunal a chargé les docteurs A._, neurologue, et le docteur B._, psychiatre et psychothérapeute, d'une expertise. Le docteur A._ a diagnostiqué notamment un syndrome des jambes sans repos d'intensité moyenne et conclu à une capacité de travail de 60 % (rapport du 21 octobre 2009). De son côté, le docteur B._ a indiqué que l'assurée souffrait d'un trouble dépressif récurrent, épisode actuel moyen, et présentait des traits de personnalité anxieuse (et obsessionnelle); elle disposait d'une capacité résiduelle de travail de 50 % (rapport du 25 janvier 2010). Par jugement du 16 septembre 2010, le Tribunal a partiellement admis le recours, annulé la décision du 9 mai 2008 et reconnu le droit de C._ à une demi-rente d'invalidité dès le 1 er septembre 2008.
B.b. A la suite d'un recours de l'office AI, que le Tribunal fédéral a admis par arrêt du 20 juin 2011 (9C_904/2010) en renvoyant la cause à la juridiction cantonale pour qu'elle statue à nouveau conformément aux considérants, la Chambre des assurances sociales de la Cour de justice genevoise a complété son instruction. Elle a requis des docteurs A._ et B._ qu'ils se prononcent notamment sur les conclusions du SMR du 15 mars 2010, produites par l'office AI avec sa réponse au recours. Les experts judiciaires se sont déterminés le 13 août 2012, avant d'être entendus par la juridiction cantonale lors d'une audience d'enquêtes, le 8 mars 2013. Après avoir pris des renseignements complémentaires auprès du docteur W._, généraliste et médecin traitant, la Chambre des assurances sociales de la Cour de justice genevoise a, par jugement du 26 septembre 2013, partiellement admis le recours. Annulant la décision du 9 mai 2008 au sens des considérants, elle a reconnu le droit de l'assurée à une demi-rente d'invalidité dès le 1 er janvier 2009 (ch. 3 du dispositif). Elle a par ailleurs mis les frais d'expertise judiciaire (de 4'946 fr.) à la charge de l'office AI (ch. 5 du dispositif).
C.
L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant à la confirmation de sa décision du 9 mai 2008.
Le Tribunal fédéral a renoncé à procéder à un échange d'écritures.
Considérant en droit:
1.
Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit selon l'art. 95 sv. LTF. Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF. Cette disposition lui donne la faculté de rectifier ou compléter d'office l'état de fait de l'arrêt attaqué dans la mesure où des lacunes ou erreurs dans celui-ci lui apparaîtraient d'emblée comme manifestes. Quant au recourant, il ne peut critiquer la constatation de faits importants pour le jugement de la cause que si ceux-ci ont été constatés en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte (art. 97 al. 1 LTF).
2.
2.1. Le litige porte sur le droit de l'intimée à une demi-rente d'invalidité à partir du 1 er janvier 2009. Le recourant ne conteste à juste titre pas que les conditions de l'extension de l'objet du litige, à laquelle a procédé la juridiction cantonale en statuant sur les prétentions de l'assurée pour une période allant au-delà de la limite temporelle fixée par la décision du 9 mai 2008, fussent réalisées.
2.2. Le jugement entrepris expose de manière exacte et complète les règles légales et la jurisprudence sur la notion d'invalidité et son évaluation, la valeur probante de rapports médicaux et le principe de la libre appréciation des preuves. Il suffit d'y renvoyer.
3.
Se plaignant d'une violation du droit fédéral et d'une appréciation arbitraire des preuves, le recourant reproche tout d'abord aux premiers juges d'avoir accordé valeur probante aux expertises judiciaires rendues par les docteurs A._ et B._ (rapports des 21 octobre 2009 et 25 janvier 2010, complément d'expertise du 13 août 2012), et de les avoir suivies pour constater que l'assurée présentait une incapacité de travail de 50 % à partir de la fin de l'année 2007 en raison de troubles psychiques et physiques.
3.1. En principe, le juge ne s'écarte pas sans motifs impératifs des conclusions d'une expertise médicale judiciaire, la tâche de l'expert étant précisément de mettre ses connaissances spéciales à la disposition de la justice afin de l'éclairer sur les aspects médicaux d'un état de fait donné. Selon la jurisprudence, peut constituer une raison de s'écarter d'une expertise judiciaire le fait que celle-ci contient des contradictions, ou qu'une surexpertise ordonnée par le tribunal en infirme les conclusions de manière convaincante. En outre, lorsque d'autres spécialistes émettent des opinions contraires aptes à mettre sérieusement en doute la pertinence des déductions de l'expert, on ne peut exclure, selon les cas, une interprétation divergente des conclusions de ce dernier par le juge ou, au besoin, une instruction complémentaire sous la forme d'une nouvelle expertise médicale (ATF 125 V 352 consid. 3b/aa et les références).
Par ailleurs, lorsque, comme en l'occurrence, l'autorité cantonale juge l'expertise judiciaire concluante et en fait sien le résultat, le Tribunal fédéral n'admet le grief d'appréciation arbitraire que si l'expert n'a pas répondu aux questions posées, si ses conclusions sont contradictoires ou si, d'une quelconque autre façon, l'expertise est entachée de défauts à ce point évidents et reconnaissables, même sans connaissances spécifiques, que le juge ne pouvait tout simplement pas les ignorer. Il n'appartient pas au Tribunal fédéral de vérifier si toutes les affirmations de l'expert sont exemptes d'arbitraire; sa tâche se limite bien plutôt à examiner si l'autorité intimée pouvait, sans arbitraire, se rallier au résultat de l'expertise (arrêt 4P.263/2003 du 1er avril 2004, consid. 2.1; voir également ATF 125 V 351 consid. 3b/aa p. 352 et les références).
3.2. Avec son argumentation, le recourant ne parvient pas à établir le caractère arbitraire du choix opéré par les premiers juges, qui ont suivi les conclusions des experts judiciaires et non celles des médecins du SMR.
3.2.1. En particulier, contrairement à ce que prétend l'office AI pour nier la valeur probante de l'évaluation du docteur A._, on ne saurait déduire de la constatation du médecin selon laquelle le syndrome des jambes sans repos ne réveillait pas l'assurée que cette atteinte n'ait pas de répercussion sur la capacité de travail. Comme l'a expliqué le neurologue de manière convaincante (rapport complémentaire du 13 août 2012 et procès-verbal d'enquêtes du 8 mars 2013), le syndrome des jambes sans repos implique une fragmentation et une désorganisation du sommeil qui, même si elles ne s'accompagnent pas de réveils prolongés, peuvent entraîner une fatigue marquée. Dans le cas de l'intimée, son sommeil était altéré en raison de micro-éveils (17 par heure selon l'enregistrement polysomnographique réalisé au sein du Laboratoire du sommeil de l'Hôpital X._; rapport du docteur E._, médecin adjoint, du 25 avril 2007) dus au syndrome en question et ne lui permettait pas une récupération suffisante de la fatigue; l'expert évaluait à 40 % l'impact en résultant sur la capacité de travail de l'assurée. Le recourant critique dès lors en vain le défaut d'"élément objectif" dans l'expertise du docteur A._.
Son argument relatif aux indications données par le neurologue sur les troubles psychiques de l'assurée alors que "l'expertise psychiatrique n'avait pas encore été effectuée" n'est pas davantage pertinent. Le rapport du neurologue porte effectivement une date antérieure (21 octobre 2009) à celle de l'expertise rendue par le docteur B._ le 25 janvier 2010. Toutefois, il résulte clairement des indications du docteur A._ à la juridiction cantonale (cf. note de greffe du 18 janvier 2010) que les deux experts allaient se concerter avant d'envoyer leurs conclusions respectives au tribunal au début de l'année 2010. Le docteur A._ s'est donc exprimé sur la capacité de travail de l'assurée à la lumière de l'évaluation psychiatrique rendue par son confrère, une fois que les conclusions de celle-ci lui étaient connues.
Enfin, en faisant valoir qu'une hypersomnolence pathologique avait été exclue par le test de maintien de l'éveil réalisé avec l'assurée, le recourant passe sous silence le fait que l'expert judiciaire a précisément admis, en fonction de l'examen de polysomnographie, la survenance de micro-éveils perturbant la profondeur du sommeil de l'intéressée et se répercutant sur la fatigabilité, un état de fatigue important s'installant à partir de midi (cf. procès-verbal d'enquêtes du 8 mars 2013). Le docteur A._ a donc donné une appréciation différente, et convaincante, des résultats de l'examen effectué au Laboratoire du sommeil.
3.2.2. En ce qui concerne ensuite les critiques du recourant à l'encontre de l'évaluation psychiatrique du docteur B._ - avant tout, l'absence des critères diagnostics du trouble dépressif selon la CIM-10 dans les constatations objectives de l'expertise du 25 janvier 2010 -, elles tombent également à faux. S'il est vrai que la partie du rapport d'expertise consacrée au status psychiatrique de l'assurée est relativement succincte et comprend davantage une énumération de symptômes absents chez l'assurée ("pas de ralentissement psychomoteur", ni "symptômes de la lignée psychotique") que celle d'éléments constatés lors de l'examen, le psychiatre a cependant complété ses conclusions par écrit le 13 août 2012 et par oral le 8 mars 2013. Il a alors indiqué qu'à l'époque de son investigation clinique, l'assurée souffrait d'un état dépressif et mentionné l'ensemble des symptômes sur lesquels reposait son diagnostic. Il a par ailleurs expliqué que les données subjectives rapportées par l'intimée constituaient un tableau clinique cohérent, sans qu'il eût relevé de discordance entre les plaintes et le comportement observé. Il résulte dès lors des remarques complémentaires de l'expert psychiatre que son examen clinique de l'assurée comportait les aspects déterminants dans le domaine psychiatrique que sont l'anamnèse, la description des symptômes et l'observation du comportement de l'assuré (cf. arrêt I 391/06 du 9 août 2006 consid. 3.2.2). Ses conclusions (complétées) reposaient donc sur ses observations cliniques (attitude, comportement et propos de l'intimée pendant les entretiens) en sus des plaintes et données subjectives exprimées.
Pour le reste, en se limitant à soutenir que les arguments soulevés par le SMR étaient susceptibles d'éveiller des doutes raisonnables sur les conclusions des experts, le recourant ne démontre pas le caractère arbitraire de l'appréciation de la juridiction cantonale. Par ailleurs, en reprochant aussi aux premiers juges d'avoir écarté à tort les rapports d'examen des docteurs L._ et G._ (des 28 janvier 2008 et 21 avril 2008), il n'expose pas en quoi ceux-ci auraient été propres à établir le caractère arbitraire des constatations de l'autorité cantonale de recours relatives à la capacité de travail de l'assurée, fondées sur les expertises judiciaires postérieures aux examens effectués au sein du SMR.
En conséquence, le Tribunal fédéral n'a pas à s'écarter de l'appréciation de la juridiction cantonale, selon laquelle l'assurée présentait une incapacité de travail de 50 % dans toute activité. Les griefs y relatifs du recourant sont mal fondés.
4.
Dans un second moyen, le recourant conteste le fait que l'autorité cantonale de recours a mis à sa charge les frais des deux expertises judiciaires (pour un total de 4'946 fr.). Selon lui, les conditions posées par la jurisprudence à la condamnation des organes d'exécution des assurances sociales aux frais d'expertise (ATF 139 V 225 consid. 4.3 p. 226 et les références à l'ATF 137 V 210 consid. 4.4.1 et 4.4.2 p. 263 ss) ne sont pas réalisées. Au regard des mesures d'instruction qu'il avait mises en place - notamment les examens psychiatriques successifs de l'assurée par le SMR le 14 janvier, puis le 21 avril 2008 -, aucun manquement ne pouvait lui être reproché.
4.1. Dans un arrêt récent publié in ATF 139 V 496 consid. 4.3 s. p. 501, le Tribunal fédéral a rappelé que les frais qui découlaient de la mise en oeuvre d'une expertise judiciaire pluridisciplinaire confiée à un Centre d'observation médicale de l'assurance-invalidité (COMAI) pouvaient le cas échéant être mis à la charge de l'assurance-invalidité (ATF 137 V 210 consid. 4.4.2 p. 265). En effet, lorsque l'autorité judiciaire de première instance décidait de confier la réalisation d'une expertise judiciaire pluridisciplinaire à un COMAI parce qu'elle estimait que l'instruction menée par l'autorité administrative était insuffisante (au sens du consid. 4.4.1.4 de l'ATF 137 V 210), elle intervenait dans les faits en lieu et place de l'autorité administrative, qui aurait dû, en principe, mettre en oeuvre cette mesure d'instruction dans le cadre de la procédure administrative. Dans ces conditions, les frais de l'expertise ne constituaient pas des frais de justice au sens de l'art. 69 al. 1bis LAI, mais des frais relatifs à la procédure administrative au sens de l'art. 45 LPGA qui devaient être pris en charge par l'assurance-invalidité.
Cette règle, qu'il convient également d'appliquer, dans son principe, aux expertises judiciaires mono- et bidisciplinaires (cf. ATF 139 V 349 consid. 5.4 p. 357), ne saurait entraîner la mise systématique des frais d'une expertise judiciaire à la charge de l'autorité administrative. Encore faut-il que l'autorité administrative ait procédé à une instruction présentant des lacunes ou des insuffisances caractérisées et que l'expertise judiciaire serve à pallier les manquements commis dans la phase d'instruction administrative. En d'autres mots, il doit exister un lien entre les défauts de l'instruction administrative et la nécessité de mettre en oeuvre une expertise judiciaire (ATF 137 V 210 consid. 4.4.2 p. 265). Tel est notamment le cas lorsque l'autorité administrative a laissé subsister, sans la lever par des explications objectivement fondées, une contradiction manifeste entre les différents points de vue médicaux rapportés au dossier (ATF 135 V 465 consid. 4.4 p. 469; voir également ATF 139 V 225 consid. 4 p. 226 et arrêt 8C_71/2013 du 27 juin 2013 consid. 2), lorsqu'elle a laissé ouverte une ou plusieurs questions nécessaires à l'appréciation de la situation médicale ou lorsqu'elle a pris en considération une expertise qui ne remplissait manifestement pas les exigences jurisprudentielles relatives à la valeur probante de ce genre de documents (ATF 125 V 351 consid. 3a p. 352). En revanche, lorsque l'autorité administrative a respecté le principe inquisitoire et fondé son opinion sur des éléments objectifs convergents ou sur les conclusions d'une expertise qui répondait aux réquisits jurisprudentiels, la mise à sa charge des frais d'une expertise judiciaire ordonnée par l'autorité judiciaire de première instance, pour quelque motif que ce soit (à la suite par exemple de la production de nouveaux rapports médicaux ou d'une expertise privée), ne saurait se justifier (ATF 139 V 496 consid. 4.4 p. 502).
4.2. La juridiction cantonale a considéré que tant les rapports des docteurs W._ et U._, psychiatre traitant, que ceux des psychiatres ayant soigné l'intimée en 1998, 2001 et 2004 pouvaient sans autre fonder des doutes quant à l'appréciation des médecins du SMR. Ceux-ci n'avaient par ailleurs à aucun moment évalué la capacité de travail de l'assurée en tenant également compte de la fatigue importante provoquée par le syndrome des jambes sans repos. Aussi, au vu de l'instruction administrative qu'ils ont qualifiée d'extrêmement sommaire, ainsi que des pièces contradictoires sur des points juridiques importants et ayant une valeur probante insuffisante, les premiers juges ont considéré qu'il se justifiait d'ordonner une expertise et d'en mettre les frais à la charge du recourant.
4.3. Compte tenu, en l'espèce, des pièces médicales recueillies par l'office AI jusqu'au prononcé de sa décision, le 9 mai 2008, on ne saurait lui reprocher d'avoir manqué de compléter les deux examens psychiatriques effectués par les médecins du SMR par un examen portant sur le syndrome des jambes sans repos et ses effets sur la capacité de travail de l'assurée. Dans les rapports médicaux requis initialement auprès des docteurs U._ (du 16 mai 2007) et W._ (du 6 novembre 2007), seules des affections psychiques étaient mentionnées (trouble dépressif récurrent/état dépressif chronique, épisode actuel sévère sans symptômes psychotiques, et personnalité anxieuse), ce qui a conduit l'office AI a soumettre l'assurée à un examen psychiatrique auprès du SMR (effectué le 14 janvier 2008 par la doctoresse L._, ancienne-chef de clinique-adjoint en psychiatrie). Au préalable, l'intimée avait certes produit les rapports portant sur les tests effectués par les médecins du Laboratoire du sommeil, après qu'un rapport du 9 octobre 2006 de la doctoresse S._ du Centre d'analyse et d'investigation du sommeil avait mis en évidence des mouvements périodiques des jambes. Le docteur E._ avait toutefois exclu une hypersomnolence pathologique et indiqué que la fatigabilité de l'assurée était à mettre sur le compte d'un probable état dépressif, point qui devait être rediscuté avec le psychiatre (rapport du 25 avril 2007). Par la suite, parmi les documents médicaux produits par l'assurée pour contester le projet de décision de l'office AI (du 8 février 2008), aucun ne contenait de référence à la problématique liée au syndrome des jambes sans repos (entre autres avis, ceux du docteur U._ du 6 mars 2008, de la doctoresse D._ du 19 février 2008 et du docteur N._ du 6 mars 2008, tous deux également spécialistes FMH en psychiatrie et psychothérapie). En l'absence de nouveaux éléments relatifs aux mouvements des jambes et au regard des conclusions du docteur E._, l'office AI pouvait dès lors se limiter à compléter son instruction par des investigations complémentaires sur le plan psychiatrique seulement (second examen au SMR du 17 avril 2008, effectué par le docteur G._, spécialiste FMH en psychiatrie).
En fait, ce n'est qu'au cours de la procédure judiciaire cantonale que le syndrome des jambes sans repos a à nouveau été évoqué. Le docteur K._, psychiatre entendu par la juridiction cantonale le 17 octobre 2008, a exposé que le syndrome des jambes sans repos, toujours présent chez l'assurée, amplifiait la dépression et l'anxiété, ce qui limitait sa capacité de travail en raison notamment de la fatigue. De son côté, le docteur W._ a évoqué le diagnostic en cause dans un certificat du 20 juin 2008, avant d'expliquer au cours de l'audition d'enquête du 17 octobre 2008, qu'il n'avait pas fait état du syndrome des jambes sans repos dans son rapport à l'administration parce qu'il s'était "focalisé principalement" sur l'état dépressif de sa patiente. Ces observations médicales rendaient nécessaire, à ce stade de la procédure seulement, une évaluation de la situation médicale de l'assurée sur le plan psychiatrique et neurologique.
Par ailleurs, le docteur G._ du SMR a expliqué les raisons qui le conduisaient à conclure à l'absence de diagnostic psychiatrique ayant une répercussion sur la capacité de travail au regard des avis psychiatriques produits par l'assurée (avant tout, nette amélioration de l'état de santé psychique; rapport du 21 avril 2008). Dans cette phase de la procédure, l'évaluation du psychiatre du SMR - dont le rapport répondait aux exigences jurisprudentielles en matière de valeur probante - levait donc les doutes que pouvait avoir l'administration quant aux atteintes psychiques de l'assurée, en infirmant l'appréciation des médecins consultés précédemment par l'intimée. L'office AI était dès lors en droit de rendre une décision sur les prétentions de l'assurée sans entreprendre d'autres mesures d'instruction.
4.4. Il résulte de ce qui précède que l'appréciation des premiers juges quant aux manquements de la procédure d'instruction administrative est manifestement erronée. Par conséquent, la condamnation du recourant au paiement des frais des expertises ordonnées par la juridiction cantonale n'était pas justifiée. Le grief soulevé par le recourant à cet égard est bien fondé, de sorte que son recours doit être admis sur ce point et le jugement entrepris réformé en ce sens.
5.
Vu les circonstances, il convient de renoncer à percevoir des frais judiciaires (art. 66 al. 1 deuxième phrase LTF). Il n'y a pas lieu à l'allocation de dépens.
L'issue du litige n'a pas d'incidence sur la répartition des frais et dépens de première instance, au regard des conclusions de l'intimée en première instance (cf. art. 68 al. 5 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est partiellement admis. La décision de la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, du 26 septembre 2013 est réformée en ce sens que le ch. 5 de son dispositif est annulé. Le recours est rejeté pour le surplus.
2.
Il n'est pas perçu de frais judiciaires, ni alloué de dépens.
3.
Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 13 février 2014
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Kernen
La Greffière: Moser-Szeless