Fatti:
A. A._ e B._ sono proprietari delle particelle xxx rispettivamente yyy RFD di X._, contigue. In data 19 novembre 2010, B._ ha formulato istanza al Giudice di pace del Circolo di Bellinzona affinché facesse ordine ad A._ di allontanare delle piante da frutta poste a confine della sua proprietà ad una distanza insufficiente. Il Giudice di pace ha respinto l'istanza con decisione 7 giugno 2011, vietando nondimeno al convenuto l'uso di prodotti chimici per il trattamento delle piante da frutta.
B. Entrambe le parti hanno adito il Tribunale di appello del Cantone Ticino: B._ con allegato 14 giugno 2011, A._ con allegato 18 giugno 2011. Con la qui impugnata decisione 24 luglio 2012, il Tribunale di appello ha accolto il reclamo di B._ e, di riflesso, la sua istanza, condannando A._ a provvedere all'arretramento delle piante ad almeno 4 metri dal confine. Il reclamo di A._ è stato dichiarato privo d'oggetto.
C. Con allegato 27 agosto 2012, A._ (qui di seguito: ricorrente) propone un ricorso sussidiario in materia costituzionale avverso la pronuncia dell'ultima istanza cantonale, chiedendone l'annullamento ed il rinvio dell'incarto al Tribunale di appello per audizione dei testi offerti e nuova decisione.
Con decreto presidenziale 14 settembre 2012 è stato conferito effetto sospensivo al gravame. Non sono state chieste determinazioni nel merito.

Diritto:
1. 1.1 La sentenza impugnata concerne diritti di vicinato, dunque una materia civile di natura pecuniaria (<ref-law>; DTF 52 II 292 consid. 1; sentenze 5C.200/2005 del 21 ottobre 2005 consid. 1.2, non pubblicato in <ref-ruling>; 5A_415/2008 del 12 marzo 2009 consid. 1, in ZBGR 91/2010 pag. 156). Nel caso di specie, il valore di lite è ampiamente inferiore al limite di fr. 30'000.-- richiesto per il ricorso in materia civile (<ref-law>) ed il ricorrente non pretende che la questione sollevata sia di importanza fondamentale (<ref-law>). Alla parte ricorrente è aperto dunque unicamente il ricorso sussidiario in materia costituzionale (art. 113 segg. LTF). La sentenza impugnata è una decisione finale (art. 117 e 90 LTF) ed è stata pronunciata dal Tribunale supremo del Cantone Ticino su ricorso (art. 114 e 75 cpv. 1 e 2 LTF). Il tempestivo (art. 117 e 100 cpv. 1 LTF) gravame, inoltrato dalla parte soccombente in istanza cantonale (<ref-law>), è quindi ammissibile.
1.2 Con un ricorso sussidiario in materia costituzionale può essere censurata la violazione di diritti costituzionali (<ref-law>). Il Tribunale federale esamina la violazione di diritti costituzionali soltanto se il ricorrente ha sollevato e motivato tale censura (art. 117 e 106 cpv. 2 LTF). Questo significa che egli deve spiegare in modo chiaro e dettagliato, alla luce dei considerandi della sentenza impugnata, in che misura sarebbero stati violati diritti costituzionali (<ref-ruling> consid. 1.2).
1.3 Fra le condizioni di ammissibilità di un ricorso al Tribunale federale vi è quella della formulazione di adeguate conclusioni (<ref-law>). I rimedi del nuovo diritto sono di principio a carattere riformatorio: ciò vale non solo per il ricorso in materia civile (<ref-law>), bensì anche per il ricorso sussidiario in materia costituzionale (<ref-law> in relazione con l'<ref-law>). Il ricorrente non può pertanto limitarsi a chiedere l'annullamento della decisione impugnata, ma deve anche, in linea di principio, formulare delle conclusioni sul merito (<ref-ruling> consid. 1.3; <ref-ruling> consid. 1.3; <ref-ruling> consid. 3.1). Eccezionalmente, basta una conclusione cassatoria (domanda di annullamento della decisione impugnata, rispettivamente di rinvio della causa all'autorità inferiore) qualora il Tribunale federale, dovesse accogliere il ricorso, non sarebbe comunque in grado di statuire nel merito per mancanza di accertamenti fattuali sufficienti, ma dovrebbe invece in ogni caso rinviare la causa per nuovi accertamenti (DTF <ref-ruling> consid. 1.3; <ref-ruling> consid. 3.1), ciò che va esposto e motivato nel ricorso (DTF <ref-ruling> consid. 3.2).
Il ricorrente considera lacunoso ed errato l'accertamento dei fatti operato dal Giudice di pace, e ne chiede la completazione con le audizioni di testimoni postulate. In tali circostanze, ben si applica l'eccezione all'esigenza di conclusioni riformatorie; la conclusione cassatoria del ricorso è sufficiente.
2. Il Tribunale di appello ha evidenziato che l'art. 156 della legge del Cantone Ticino del 18 aprile 1911 di applicazione e complemento del Codice civile svizzero (LAC; RL 4.1.1.1) vieta invero di piantare alberi da frutta, gelsi o piante ornamentali a meno di 4 metri da abitazioni, orti, giardini e vigne, rispettivamente a meno di 3 metri da altri fabbricati e fondi coltivi. Il diritto di chiederne l'allontanamento deve tuttavia essere esercitato entro 10 anni (art. 160 LAC); in applicazione dell'usuale regola dell'<ref-law>, la prova che i 10 anni sono decorsi incombe a colui che si avvale del diritto di mantenere le piante dove si trovano.
Nel caso di specie, il Tribunale di appello ha ritenuto che il convenuto - qui ricorrente - non aveva apportato tale prova, non bastando a tal fine la dichiarazione scritta del suo giardiniere, non sentito quale testimone.
3. Avanti al Tribunale federale, il ricorrente lamenta una violazione del suo diritto alla prova (<ref-law>) e del suo diritto di essere sentito (<ref-law>). Afferma di aver, avanti al Giudice di pace, offerto l'audizione testimoniale di C._, titolare della ditta di giardinaggio, nonché di D._, ma il magistrato di prima sede avrebbe chiuso l'istruttoria senza ammettere né respingere formalmente l'audizione dei due testi offerti.
3.1 A prescindere dal fatto che la violazione del diritto alla prova, nel quadro di un ricorso sussidiario in materia costituzionale limitato al riesame della violazione di diritti costituzionali (<ref-law>), può poggiare unicamente sull'<ref-law> (v. sentenza 5A_726/2009 del 30 aprile 2010 consid. 3.1, non pubblicato in <ref-ruling>), l'obiezione non sarebbe del tutto priva di fondamento. Essa si rivela tuttavia inammissibile per un motivo di natura procedurale.
3.2 Per poter accedere al giudizio del Tribunale federale, il ricorrente deve aver esaurito le istanze cantonali (art. 114 e 75 cpv. 1 LTF). Questo principio ha un significato formale ed uno materiale: egli deve avere da un lato interposto tutti i rimedi di diritto a livello cantonale, ciò che nel caso è avvenuto (v. supra consid. 1.1). D'altro lato, egli deve aver concretamente sottoposto all'esame dell'ultima istanza cantonale quelle censure che ripropone all'attenzione del Tribunale federale (<ref-ruling> consid. 3.2 con rinvio; <ref-ruling> consid. 4.3; <ref-ruling> consid. 3.1 e 3.5). In altre parole, una censura che il ricorrente non ha formulato in sede di reclamo (o di appello) non può essere esaminata dal Tribunale federale. Quest'ultima autorità non ha infatti il compito di rivedere liberamente la sentenza di prima istanza, bensì di esaminare la correttezza della decisione dell'autorità inferiore: e all'autorità inferiore non può essere rimproverato di non aver esaminato una censura che non le è stata sottoposta.
3.3 Ora, non solo il ricorrente non pretende di aver criticato la mancata assunzione dei testi qui riproposti avanti ai Giudici cantonali - come avrebbe invero dovuto fare -, ma anzi emerge alla lettura del suo reclamo cantonale 18 giugno 2011 che avanti al Tribunale di appello egli ha unicamente criticato il fatto che il Giudice di pace avesse deciso ultra petita, ovvero gli avesse fatto ordine di astenersi dall'utilizzo di prodotti chimici benché la controparte non avesse formulato alcuna conclusione in tal senso. Coerentemente, egli aveva postulato che, in accoglimento del suo reclamo, dalla decisione del Giudice di pace venisse stralciato il passo incriminato. Una violazione del proprio diritto di essere sentito, o del proprio diritto alla prova, non è assolutamente menzionata, nemmeno fra le norme richiamate. Anche il Tribunale di appello, discutendo il reclamo del qui ricorrente ai fini di fissare e porre a carico delle parti la tassa e le spese del proprio giudizio, si fonda unicamente su questa censura.
3.4 Ne discende che la censura di violazione del proprio diritto di essere sentito, concretizzata secondo il ricorrente dal fatto che il Giudice di pace non si sia espresso sulla sua richiesta di assunzione di due testi, si appalesa inammissibile. Di conseguenza, essa non può esser esaminata nel merito.
4. In conclusione, il ricorso deve essere dichiarato inammissibile, con conseguenza di tassa e spese a carico del ricorrente soccombente (<ref-law>). Non sono dovute ripetibili a controparte, che non è stata invitata a determinarsi e non è dunque incorsa in spese della sede federale (art. 68 cpv. 1 e 2 LTF).

Per questi motivi, il Tribunale federale pronuncia:
1. Il ricorso è inammissibile.
2. Le spese giudiziarie di fr. 1'500.-- sono poste a carico del ricorrente.
3. Comunicazione alle parti e alla Camera civile dei reclami del Tribunale d'appello del Cantone Ticino.