Fatti:
A. A.a C._ è deceduto a X._, suo ultimo domicilio, il 21 novembre 2004. Con testamento pubblico del 22 giugno 1998 egli ha lasciato la porzione legittima (3⁄4) alla figlia A._ e la porzione disponibile (1⁄4) al nipote D._, ha previsto undici legati e ha designato suo esecutore testamentario l'avv. B._. L'eredità si componeva sostanzialmente di capitali liquidi, di una casa d'abitazione e di due immobili di reddito (36 appartamenti) amministrati dalla E._SA.
A.b Il 20 dicembre 2004 l'esecutore testamentario ha scritto ai due eredi, riassumendo come segue i tratti essenziali del suo incarico: "Conformemente a quanto discusso, provvederò dapprima ad accertare l'asse ereditario, poi, una volta accertato lo stesso, stabilirò con voi le modalità necessarie per procedere alla divisione ed eseguire i legati come da testamento". A proposito del suo compenso egli ha rilevato: "Vi informo che l'onorario verrà fatturato in base al dispendio orario a cui va aggiunto un onorario fisso pari al 5 o/oo degli attivi lordi della successione conformemente a quanto previsto dall'art. 46 TOA (Tariffa dell'Ordine degli avvocati del Canton Ticino). Per quanto concerne la tariffa oraria, quanto svolto dal sottoscritto verrà fatturato in ragione di fr. 350.-- all'ora, mentre per quanto sarà svolto dalla mia collaboratrice avv. F._, l'onorario sarà di fr. 300.-- all'ora". A._ e D._ hanno siglato la lettera "per visione e accettazione".
A.c Per l'opera svolta, l'esecutore testamentario ha emesso cinque note professionali: fattura del 3 gennaio 2005 per prestazioni in favore di C._ quando era ancora in vita (compenso orario fr. 3'500.-- più spese ed IVA), fattura intermedia del 30 giugno 2005 (compenso orario fr. 42'900.-- più spese, IVA ed esborsi), fattura intermedia del 31 dicembre 2005 (compenso orario fr. 25'000.-- più spese ed IVA), fattura finale del 19 maggio 2006 (compenso orario fr. 14'000.-- e compenso fisso fr. 25'000.-- più spese, IVA ed esborsi), e fattura del 16 novembre 2006 (compenso orario fr. 3'630.-- più spese ed IVA).
A.d Il 9 ottobre 2006 A._ ha promosso causa davanti al Pretore del Distretto di Lugano, chiedendo di accertare che l'onorario esposto da B._ eccede l'equo compenso spettante ad un esecutore testamentario, di ridurre l'onorario del medesimo a complessivi fr. 45'000.-- più spese ed IVA (non contestate) e di condannare B._ a rimborsarle fr. 50'000.-- oltre interessi sull'onorario complessivo che egli aveva già avuto modo di riscuotere. Nella sua risposta B._ ha proposto di respingere la petizione ed in via riconvenzionale ha postulato la condanna di A._ al versamento di fr. 3'175.50 (3⁄4 della fattura del 16 novembre 2006) oltre interessi.
Con decisione 27 ottobre 2008 il Pretore ha parzialmente accolto la petizione, nel senso di condannare B._ a versare ad A._ fr. 25'000.-- più IVA ed interessi (importo relativo alla quota di onorario fisso esposta dall'esecutore testamentario nella fattura 19 maggio 2006 e corrispondente al 5 o/oo del valore lordo della successione stimato a 5 milioni di franchi). Contestualmente il Pretore ha accolto la riconvenzione e condannato A._ a versare a B._ fr. 3'175.50 oltre interessi.
B. Contro la decisione pretorile B._ è insorto dinanzi alla I Camera civile del Tribunale d'appello del Cantone Ticino con un appello 18 novembre 2008 per ottenere la reiezione della petizione di A._. Quest'ultima ha proposto di respingere l'appello e con appello adesivo ha postulato che la somma di fr. 25'000.-- in suo favore fosse portata a fr. 50'000.-- (o almeno fr. 40'000.--) oltre interessi.
Con sentenza 11 marzo 2011 la Corte cantonale ha accolto l'appello principale, riformando la decisione pretorile nel senso di respingere la petizione. Essa ha invece respinto l'appello adesivo, nella misura della sua ricevibilità.
C. Con ricorso in materia civile 4 maggio 2011 A._ insorge al Tribunale federale chiedendo di riformare la sentenza 11 marzo 2011 nel senso che l'esecutore testamentario sia condannato a restituirle la somma di fr. 46'895.-- (pari a fr. 40'000.-- più IVA e fr. 3'895.10) oltre interessi.
Con scritto 20 giugno 2011 l'autorità cantonale ha comunicato di non avere osservazioni da formulare al ricorso. Con risposta 8 luglio 2011 l'opponente ha proposto la reiezione del ricorso nella misura della sua ammissibilità. Con osservazioni 26 agosto 2011 la ricorrente ha postulato di giudicare così come richiesto con il suo ricorso.
Diritto:
1. Il Tribunale federale si pronuncia d'ufficio e con pieno potere d'esame sulla propria competenza e sull'ammissibilità del rimedio esperito (art. 29 cpv. 1 LTF; DTF 137 III 261 consid. 1).
1.1 Il ricorso è presentato tempestivamente (art. 100 cpv. 1 e art. 46 cpv. 1 lett. a LTF) dalla parte soccombente davanti all'autorità cantonale (art. 76 cpv. 1 LTF) contro una decisione finale (art. 90 LTF) pronunciata su ricorso dall'autorità giudiziaria ticinese di ultima istanza (art. 75 cpv. 1 e 2 LTF) in una causa in materia civile (art. 72 cpv. 1 LTF).
1.2 La causa ha carattere pecuniario. Il ricorso in materia civile è pertanto ammissibile soltanto se il valore litigioso raggiunge almeno fr. 30'000.-- (art. 74 cpv. 1 lett. b LTF). Il valore litigioso è determinato da tutte le conclusioni ricevibili rimaste controverse davanti all'autorità inferiore (art. 51 cpv. 1 lett. a LTF). Di conseguenza, qualora siano fatte valere domande in via principale e adesiva, i rispettivi valori vanno sommati, senza riguardo a quanto l'autorità cantonale ha aggiudicato, né al valore della pretesa della parte che agisce davanti al Tribunale federale. È fatto salvo il caso in cui con l'appello adesivo sia riproposta una domanda riconvenzionale; in questa ipotesi - non realizzata in concreto - trova applicazione l'art. 53 cpv. 1 LTF (sentenza 4A_629/2009 del 10 agosto 2010 consid. 1.2 con rinvii).
In concreto, con l'appello principale il qui opponente ha contestato di dover pagare fr. 25'000.--, mentre con l'appello adesivo la qui ricorrente ha chiesto che la somma di fr. 25'000.-- in suo favore fosse portata a fr. 50'000.-- (o almeno fr. 40'000.--). Contrariamente a quanto stabilito dall'autorità cantonale e a quanto pretende l'opponente, il valore minimo di fr. 30'000.-- è pertanto raggiunto (art. 74 cpv. 1 lett. b e art. 51 cpv. 1 lett. a LTF). Ne segue l'ammissibilità del ricorso in materia civile.
2. 2.1 Il Tribunale federale applica il diritto d'ufficio (art. 106 cpv. 1 LTF). Non è vincolato né dagli argomenti sollevati nel ricorso né dai motivi addotti dall'autorità inferiore, può accogliere un ricorso per motivi diversi da quelli invocati dalla parte insorgente e respingerlo adottando un'argomentazione differente da quella esposta nel giudizio impugnato. Nondimeno, tenuto conto dell'onere di allegazione e motivazione posto dall'art. 42 cpv. 1 e 2 LTF, la cui mancata ottemperanza conduce all'inammissibilità del gravame, il Tribunale federale esamina di regola solo le censure sollevate (DTF 134 III 102 consid. 1.1). Nell'atto di ricorso occorre pertanto spiegare in modo conciso, riferendosi all'oggetto del litigio, in cosa consiste la violazione del diritto e su quali punti il giudizio contestato viene impugnato (DTF 134 II 244 consid. 2.1).
2.2 In linea di massima il Tribunale federale fonda il suo ragionamento giuridico sull'accertamento dei fatti svolto dall'autorità inferiore (art. 105 cpv. 1 LTF). Può scostarsene o completarlo soltanto se è stato effettuato in violazione del diritto ai sensi dell'art. 95 LTF o in modo manifestamente inesatto (art. 105 cpv. 2 LTF); quest'ultima definizione corrisponde a quella di arbitrio (DTF 133 II 249 consid. 1.2.2). L'accertamento dei fatti contenuto nella sentenza impugnata può essere censurato alle stesse condizioni; occorre inoltre che l'eliminazione dell'asserito vizio possa influire in maniera determinante sull'esito della causa (art. 97 cpv. 1 LTF).
3. La Corte cantonale ha osservato in sostanza che il metodo consistente a combinare il criterio della retribuzione secondo il valore con quello della rimunerazione oraria è idoneo a definire l'equo compenso dell'art. 517 cpv. 3 CC, sempre che i quattro fattori determinanti (dispendio di tempo e rimunerazione oraria, aliquota percentuale e valore della successione) siano definiti correttamente. Nel caso concreto, inoltre, questo metodo di retribuzione così come l'aliquota applicabile alla rimunerazione secondo il valore e l'ammontare della rimunerazione oraria sono stati liberamente pattuiti dalle parti. Atteso che la ricorrente non si è prevalsa di alcun errore essenziale nella stipulazione dell'accordo entro il termine di un anno (art. 31 cpv. 1 CO), né risulta alcun dolo nei suoi confronti, e considerato inoltre che il testo chiaro ed univoco dell'intesa non lascia spazio ad alcuna interpretazione, i Giudici cantonali hanno stabilito che tali punti convenzionalmente disciplinati non possono essere rimessi in causa. Possono pertanto unicamente essere esaminate le questioni del dispendio di tempo esposto dall'esecutore testamentario e dell'entità degli attivi lordi successori.
Quo al dispendio di tempo, i Giudici cantonali hanno considerato che l'unica censura concretamente sollevata dalla ricorrente si riconduceva alle sette ore che la collaboratrice dell'esecutore testamentario ha dedicato all'elaborazione di pareri legali interni, ma che ella non si è confrontata con la motivazione del Pretore secondo la quale l'operazione era legittima atteso che nel caso specifico l'esecuzione testamentaria denotava anche aspetti inusuali (ad esempio questioni fiscali spagnole) che senz'altro meritavano un approfondimento giuridico. Per il resto ella ha riconosciuto l'intero dispendio di tempo indicato nelle prime quattro fatture. Per quel che è dell'ultima nota d'onorario del 16 novembre 2006 e concernente interventi successivi alla divisione ereditaria, la Corte cantonale ha giudicato che l'opponente si è nuovamente ritrovato ad esercitare le sue funzioni di esecutore testamentario e che il suo onorario poteva continuare ad essere regolato dall'accordo tra le parti, per lo meno in assenza di pattuizioni successive.
Quo all'entità degli attivi lordi successori, i Giudici cantonali hanno osservato che la censura secondo la quale tale valore andava calcolato considerando gli immobili al valore di stima ufficiale oppure deducendo dal valore complessivo dell'eredità "i debiti attinenti all'esecuzione della successione stessa" non era stata sufficientemente dimostrata.
4. 4.1 La ricorrente considera che sia stato ritenuto a torto che la sottoscrizione della lettera del 20 dicembre 2004 "per visione e accettazione" costituisca un accordo vincolante senza alcuna possibilità di verifica giudiziaria. Sostiene che l'art. 517 cpv. 3 CC sia di natura imperativa, di modo che, se il compenso non è stato stabilito in base a criteri compatibili con tale norma, gli stessi devono poter essere rivisti dal giudice senza che si debba invocare un vizio della volontà. La ricorrente considera a tal proposito che la tariffa oraria pari a fr. 350.-- rispettivamente fr. 300.-- non sia equa perché superiore di circa il 30 % a quella riservata nel Cantone Ticino ad avvocati d'ufficio per pratiche complicate. Sostiene inoltre che l'aggiunta di una rimunerazione forfettaria secondo il valore su richiamo dell'art. 46 TOA (in vigore fino al 31 dicembre 2007), ovvero di una tariffa professionale, sia contraria all'art. 517 cpv. 3 CC così come stabilito nella DTF 129 I 330. La ricorrente chiede pertanto che l'esecutore testamentario sia condannato a restituirle fr. 40'000.-- più IVA.
4. 4.1 La ricorrente considera che sia stato ritenuto a torto che la sottoscrizione della lettera del 20 dicembre 2004 "per visione e accettazione" costituisca un accordo vincolante senza alcuna possibilità di verifica giudiziaria. Sostiene che l'art. 517 cpv. 3 CC sia di natura imperativa, di modo che, se il compenso non è stato stabilito in base a criteri compatibili con tale norma, gli stessi devono poter essere rivisti dal giudice senza che si debba invocare un vizio della volontà. La ricorrente considera a tal proposito che la tariffa oraria pari a fr. 350.-- rispettivamente fr. 300.-- non sia equa perché superiore di circa il 30 % a quella riservata nel Cantone Ticino ad avvocati d'ufficio per pratiche complicate. Sostiene inoltre che l'aggiunta di una rimunerazione forfettaria secondo il valore su richiamo dell'art. 46 TOA (in vigore fino al 31 dicembre 2007), ovvero di una tariffa professionale, sia contraria all'art. 517 cpv. 3 CC così come stabilito nella DTF 129 I 330. La ricorrente chiede pertanto che l'esecutore testamentario sia condannato a restituirle fr. 40'000.-- più IVA.
4.2 4.2.1 L'art. 517 cpv. 3 CC prevede che l'esecutore testamentario ha diritto ad un equo compenso per le sue prestazioni. Giusta la dottrina sviluppata in merito a tale norma, le modalità del compenso fissate dal de cuius nel testamento non sono vincolanti: se il compenso stabilito dal testatore non risulta equo, esso può essere rimesso in discussione dall'esecutore testamentario oppure dagli eredi dinanzi al giudice civile (KARRER/VOGT/LEU, in Basler Kommentar, Zivilgesetzbuch, vol. II, 4a ed. 2011, n. 28 ad art. 517 CC; HANS RAINER KÜNZLE, Berner Kommentar, 2011, n. 388 ad art. 517-518 CC; ANDREAS JERMANN, Honorar und Rechenschaftspflicht des Willensvollstreckers, TREX 2009 pag. 165; PAUL-HENRI STEINAUER, Le droit des successions, 2006, pag. 543 n. 1166a; ANDREAS FLÜCKIGER, Das Honorar des Willensvollstreckers, in Willensvollstreckung - Aktuelle Rechtsprobleme (2), 2006, pag. 225). Qualora il de cuius non abbia lasciato indicazioni in merito al compenso, l'esecutore testamentario e gli eredi possono inoltre rivolgersi al giudice civile laddove non riescano ad accordarsi su di esso (PAUL-HENRI STEINAUER, op. cit., pag. 543 n. 1166a; PETER BREITSCHMID, Behördliche Aufsicht über den Willensvollstrecker, in Willensvollstreckung, 2001, pag. 182; PETER TUOR, Berner Kommentar, 2a ed. 1952, n. 11 ad art. 517 CC).
Contrariamente a quanto pretende la ricorrente, il presente caso costituisce tuttavia una fattispecie differente: gli eredi hanno infatti partecipato alla determinazione delle basi di calcolo del compenso, accettando la proposta dell'esecutore testamentario.
4.2.2 Il compenso dell'esecutore testamentario è un credito di diritto privato (DTF 129 I 330 consid. 3.2; 90 II 376 consid. 2; 78 II 123 consid. 1a). All'accordo stipulato tra gli eredi e l'esecutore testamentario in merito al compenso di quest'ultimo si applicano le disposizioni sul contratto di mandato (art. 394 segg. CO; v. DTF 101 II 47 consid. 2; 90 II 376 consid. 2; 78 II 123 consid. 1a; KARRER/VOGT/LEU, op. cit., n. 12 ad art. 518 CC; HANS RAINER KÜNZLE, op. cit., n. 63 delle osservazioni preliminari agli art. 517-518 CC; ANDREAS JERMANN, op. cit., pag. 164; ANDREAS FLÜCKIGER, op. cit., pag. 204; STEPHANIE HRUBESCH-MILLAUER, Probleme mit der Vergütung des Willensvollstreckers, AJP 2005 pag. 1214). Giusta l'art. 394 cpv. 3 CO una mercede è dovuta quando sia stipulata o voluta dall'uso. Per la fissazione dell'ammontare della mercede vige in linea di principio la libertà contrattuale (WALTER FELLMANN, Berner Kommentar, 1992, n. 428 ad art. 394 CO; JOSEF HOFSTETTER, Der Auftrag und die Geschäftsführung ohne Auftrag, in Schweizerisches Privatrecht, vol. VII/6, 2000, pag. 79). Ne segue che gli eredi e l'esecutore testamentario sono in linea di principio liberi nel fissare l'ammontare della rimunerazione ed il giudice non può pertanto intervenire per verificare la conformità dell'accordo all'art. 517 cpv. 3 CC e fissare un "equo compenso". La censura della ricorrente si appalesa pertanto infondata.
L'accordo sulla mercede può tuttavia essere invalidato segnatamente per vizi della volontà, violazione dei buoni costumi oppure lesione (WALTER FELLMANN, op. cit., n. 428 e 450 ad art. 394 CO; JOSEF HOFSTETTER, op. cit., pag. 79). Dagli accertamenti della Corte cantonale - rimasti incontestati - emerge che la ricorrente non ha invocato alcun vizio della volontà (art. 23 segg. CO) entro il termine legale: gli argomenti ricorsuali secondo i quali ella si sarebbe in realtà limitata ad accettare una tariffa che sembrava non negoziabile in virtù della qualifica professionale dell'esecutore testamentario e che la sua accettazione era riferita ad uno svolgimento completo del mandato da parte dell'opponente comprendente pure l'allestimento dell'accordo divisionale della successione (del quale si sono invece occupati gli avvocati degli eredi) risultano così in ogni modo manifestamente tardivi.
In queste circostanze l'accordo siglato dalla ricorrente in calce alla lettera del 20 dicembre 2004 va ritenuto valido e vincolante.
4.2.3 Se la ricorrente non può contestare l'accordo del 20 dicembre 2004 concernente i criteri per calcolare il compenso dell'esecutore testamentario, ella potrebbe nondimeno censurare il dispendio di tempo esposto dall'opponente e la stima del valore degli attivi lordi successori (WALTER FELLMANN, op. cit., n. 449 e 451 ad art. 394 CO). Tuttavia, nel suo rimedio al Tribunale federale la ricorrente non critica nemmeno più il dispendio di tempo e quo al valore degli attivi lordi successori si limita ad affermare in modo generico che la Corte cantonale non avrebbe tenuto conto né del valore effettivo della successione né dei debiti ipotecari, senza però prendere posizione sulla motivazione dei Giudici cantonali secondo la quale tale censura non era stata sufficientemente dimostrata in sede di appello (supra consid. 3), rendendo il gravame su questo punto inammissibile per carente motivazione.
5. 5.1 La ricorrente chiede inoltre la riforma della sentenza impugnata per quanto attiene all'accollo agli eredi della prima nota d'onorario del 3 gennaio 2005 relativa a prestazioni fornite al de cuius (pari a complessivi fr. 3'895.10) poiché non documentate e in ogni modo estranee al mandato di esecutore testamentario, per il quale quest'ultimo non può pertanto invocare l'accordo tariffario intervenuto con gli eredi.
5.2 La ricorrente sembra tuttavia dimenticare che la Corte cantonale ha stabilito che la questione relativa alla prima nota professionale stilata dall'esecutore testamentario non era litigiosa e non andava perciò approfondita oltre. La ricorrente non si confronta minimamente con questa motivazione, ma si limita ad affermare in modo apodittico e senza alcun riferimento agli atti che tali prestazioni erano in realtà "protestate sin dall'inizio". In queste condizioni, tale censura va dichiarata inammissibile per carente motivazione.
6. Da quanto precede discende che il ricorso si rivela infondato e deve essere respinto nella misura della sua ammissibilità. Le spese giudiziarie e le ripetibili seguono la soccombenza (art. 66 cpv. 1 e art. 68 cpv. 1 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 3'000.-- sono poste a carico della ricorrente, che rifonderà all'opponente fr. 3'000.-- a titolo di ripetibili per la sede federale.
3. Comunicazione ai patrocinatori delle parti e alla I Camera civile del Tribunale d'appello del Cantone Ticino.