Fatti:
A. A._ e la comunione ereditaria fu C._ sono proprietari di due stabili adiacenti situati sui fondi contigui xxx e yyy di Olivone. Nel passato, il piano seminterrato degli edifici era usato in comune dai due proprietari, senza che vi fosse una divisione; vi si accedeva dall'entrata sulla particella xxx di A._. Il piano superiore aveva invece un muro divisore in corrispondenza del confine e disponeva di accessi separati e indipendenti.
B. Con contratto scritto del 21 maggio 2000 A._ ha incaricato l'impresario B._ della ristrutturazione dell'edificio di sua proprietà.
Il contratto è stato rescisso qualche mese dopo. Il 13 ottobre 2000 B._ ha inviato a A._ due fatture: una per i lavori eseguiti sulla particella xxx, ridotta dopo discussioni a fr. 79'672.47; l'altra di fr. 13'469.59 per le opere svolte sulla particella yyy degli eredi C._. In relazione alla prima fattura A._ ha pagato in tutto fr. 69'760.95, mentre ha rifiutato di onorare la seconda.
C. L'8 aprile 2005 B._ ha promosso azione davanti alla Pretura del Distretto di Bellinzona chiedendo la condanna di A._ al versamento di fr. 37'914.56. A._ ha riconosciuto in causa di essere debitore di fr. 1'981.20.
Statuendo il 16 ottobre 2007, iI Pretore ha accolto la petizione limitatamente ai fr. 9'911.52 concernenti la fattura per le opere realizzate sulla part. xxx di proprietà di A._. La pretesa per i lavori effettuati sul mappale yyy di proprietà C._ è stata invece respinta, poiché il contratto sottoscritto il 21 maggio 2000 escludeva tali opere.
D. Adita da entrambe le parti, con sentenza del 31 marzo 2009 la II Camera civile del Tribunale d'appello del Cantone Ticino ha accolto l'appello principale di B._, condannando A._ a pagargli fr. 23'381.11, oltre interessi, mentre ha respinto l'appello adesivo di quest'ultimo
E. Prevalendosi della violazione dell'<ref-law> per arbitrio nell'apprezzamento delle prove, il 18 maggio 2009 A._ è insorto dinanzi al Tribunale federale con un ricorso sussidiario in materia costituzionale volto a ottenere l'annullamento della predetta sentenza, previa concessione dell'effetto sospensivo al gravame.
Nella risposta del 5 giugno 2009 B._ ha proposto di respingere l'impugnativa, mentre l'autorità cantonale non ha preso posizione.
Con decreto del 12 giugno 2009 la Presidente di questa Corte ha riconosciuto al ricorso l'effetto sospensivo.

Diritto:
1. Il Tribunale federale si pronuncia d'ufficio e con pieno potere d'esame sulla propria competenza e sull'ammissibilità del rimedio (<ref-law>; <ref-ruling> consid. 1.1 pag. 3).
1.1 La sentenza impugnata è stata pronunciata in materia civile ai sensi dell'<ref-law>. Il rimedio ordinario del ricorso in materia civile non è tuttavia proponibile, avuto riguardo al valore litigioso inferiore a fr. 30'000.-- (74 cpv. 1 lett. b LTF). Non dovendosi giudicare una questione di diritto d'importanza fondamentale ai sensi dell'<ref-law>, entra in linea di conto solo il rimedio sussidiario in materia costituzionale (<ref-law>).
1.2 Presentato tempestivamente (art. 117 e 100 cpv. 1 LTF) dalla parte soccombente in sede cantonale (<ref-law>) contro una decisione finale (art. 115 e 90 LTF) pronunciata dall'autorità ticinese di ultima istanza (art. 114 e 75 cpv. 1 LTF), il ricorso in materia costituzionale risulta ricevibile, perlomeno sotto questo profilo.
1.3 L'ammissibilità del ricorso appare infatti dubbiosa sotto il profilo del suo contenuto. Giusta l'<ref-law> il ricorso deve "contenere le conclusioni", ovverosia specificare le modifiche auspicate. Questa esigenza - che va messa in relazione con la natura riformatoria dei rimedi istituiti dalla LTF - vale sia per il ricorso in materia civile (<ref-law>) che per il ricorso sussidiario in materia costituzionale (art. 117 e 107 cpv. 2 LTF), diversamente da quanto avveniva per il ricorso di diritto pubblico dell'OG.
Ciò significa che la parte ricorrente non può limitarsi a postulare genericamente l'annullamento della pronunzia impugnata o il rinvio della causa all'autorità precedente, bensì deve formulare una conclusione chiara e precisa sul merito della controversia e specificare le modifiche da lei auspicate. Quando, come nella fattispecie in esame, l'azione tende al pagamento di una somma di denaro, le conclusioni devono dunque essere cifrate, pena l'inammissibilità del ricorso. Una domanda non cifrata può, se del caso, essere ammessa qualora la somma da accordare sia riconoscibile di primo acchito nella motivazione del ricorso o della decisione impugnata. La semplice richiesta di annullamento può inoltre bastare, eccezionalmente, laddove il Tribunale federale, se dovesse accogliere il ricorso, non sarebbe comunque in grado di statuire nel merito, ma dovrebbe rinviare la causa all'autorità inferiore per completare gli accertamenti di fatto (<ref-ruling> e 379 consid. 1.3; <ref-ruling> consid. 3.1).
In concreto, il ricorrente postula soltanto l'annullamento della sentenza del Tribunale d'appello; egli non formula una domanda cifrata né specifica in altro modo quali dovrebbero essere a suo modo di vedere le conseguenze dell'annullamento. Tutt'al più, si potrebbe desumere dall'insieme del suo allegato ch'egli intende ottenere la conferma della pronunzia pretorile, che Io aveva condannato a pagare all'opponente (solo) fr. 9'911.52, oltre interessi. La questione non va approfondita. Considerato che, come esposto nei successivi considerandi, il ricorso si avvera in ogni caso manifestamente infondato - oltre che parzialmente inammissibile anche per un altro motivo - può rimanere indeciso se nelle circostanze appena descritte si possa prescindere dall'applicazione rigorosa della regola formale sopra commentata.
2. Prima di vagliare l'argomentazione ricorsuale è opportuno rammentare brevemente i principi che reggono il rimedio esperito.
2.1 Con il ricorso in materia costituzionale può unicamente essere censurata la violazione dei diritti costituzionali (<ref-law>).
Per la motivazione l'<ref-law> rimanda all'<ref-law>, il cui campo di applicazione corrisponde a quello del precedente ricorso di diritto pubblico per violazione dei diritti costituzionali (cfr. art. 90 cpv. 1 lett. b OG; <ref-ruling> consid. 2). Ne discende che l'allegato ricorsuale deve indicare chiaramente i diritti che si pretendono violati e precisare altresì in che consista tale violazione; critiche appellatorie non sono ammissibili (<ref-ruling> consid. 2.2).
Ai fini del suo giudizio il Tribunale federale fonda inoltre il suo ragionamento giuridico sui fatti accertati dall'autorità inferiore (<ref-law>); può scostarsene solo qualora esso sia avvenuto in violazione di un diritto costituzionale (art. 118 cpv. 2 e 116 LTF), violazione che la parte ricorrente deve indicare con precisione (art. 117 e 106 cpv. 2 LTF). Nuovi fatti e nuovi mezzi di prova non possono essere addotti a meno che ne dia motivo la decisione dell'autorità inferiore (art. 117 e 99 cpv. 1 LTF; cfr. <ref-ruling> consid. 3).
2.2 Quando, come nel caso in rassegna, viene lamentata la violazione del divieto d'arbitrio (<ref-law>) non ci si può limitare a criticare la decisione impugnata opponendovi semplicemente la propria opinione, come in una procedura d'appello, ma occorre dimostrare ch'essa è manifestamente insostenibile con un'argomentazione chiara e dettagliata (<ref-ruling> consid. 2.2; <ref-ruling>).
Per giurisprudenza invalsa, infatti, l'arbitrio non si realizza già qualora la soluzione proposta con il ricorso possa apparire sostenibile o addirittura migliore rispetto a quella contestata; il Tribunale federale annulla la pronunzia criticata per violazione dell'<ref-law> solo se il giudice del merito ha emanato un giudizio che appare - e ciò non solo nella sua motivazione bensì anche nell'esito - manifestamente insostenibile, in aperto contrasto con la situazione reale, gravemente lesivo di una norma o di un principio giuridico chiaro e indiscusso oppure in contraddizione urtante con il sentimento della giustizia e dell'equità (<ref-ruling> consid. 2.1 con rinvii). Per quanto concerne più in particolare l'apprezzamento delle prove e l'accertamento dei fatti, il giudice - il quale in questo ambito dispone di un ampio margine di apprezzamento - incorre nell'arbitrio se misconosce manifestamente il senso e la portata di un mezzo di prova, se omette senza valida ragione di tener conto di un elemento di prova importante, suscettibile di modificare l'esito della vertenza, oppure se ammette o nega un fatto ponendosi in aperto contrasto con gli atti di causa o interpretandoli in modo insostenibile (<ref-ruling> consid. 2.1).
3. Nella sentenza impugnata, ricordato che le parti erano legate da un contratto di appalto e richiamate le regole sull'interpretazione delle dichiarazioni di volontà, la Corte ticinese ha stabilito, visto il tenore della clausola n. 6 del contratto del 21 maggio 2000, che al momento della firma di questo accordo per le parti era chiaro che il ricorrente non avrebbe corrisposto nessuna mercede per i lavori a carico dei vicini, quali la costruzione di una porta in cantina, della scala di accesso e del tratto di drenaggio e canalizzazione non in comune.
Per tali opere, non previste nell'offerta iniziale ma necessarie per utilizzare in modo razionale il piano seminterrato e per continuare a garantire l'accesso alla parte C._ anche dopo la ristrutturazione - hanno proseguito i giudici ticinesi - è però stato stipulato un contratto di appalto supplementare nel corso dei lavori, in forma verbale. Questa conclusione si fonda sulla valutazione delle dichiarazioni del teste D._, il quale ha riferito che fu il ricorrente stesso a ordinare tali lavori, nonché di quelle di E._ e F._, che hanno indotto la Corte a ritenere che l'esistenza di dissapori aveva impedito accordi diretti tra l'appaltatore qui opponente e gli eredi C._. Il Tribunale d'appello ha inoltre osservato che la nuova parete divisoria tra le due proprietà, la chiusura dell'entrata originaria alla parte C._ e la nuova scala esterna che permette ora di accedervi erano indicate sui piani annessi alla domanda di costruzione presentata dal ricorrente. Quest'ultimo non ha del resto sostenuto in causa di avere ordinato i lavori in discussione per conto di terzi o in rappresentanza degli eredi C._.
3.1 Dinanzi al Tribunale federale il ricorrente censura questo apprezzamento delle prove.
Egli riconosce che l'estensione della parete divisoria fin nel piano seminterrato, originariamente in comune, ha reso necessaria la realizzazione di un nuovo accesso per il fondo yyy appartenente agli eredi C._; nega tuttavia di aver mai accettato di assumersene lui i costi. Come riferito dalle varie testimonianze (E._, F._, G._) fra lui e i vicini vi era un'inimicizia che aveva impedito il raggiungimento di un accordo sull'esecuzione di lavori in comune (nonostante egli si fosse adoperato in tale senso), donde l'inserimento della citata clausola n. 6 nel contratto del 21 maggio 2000 e l'assenza di ogni sua volontà di "regalare" loro una scala.
Venendo alla motivazione del giudizio impugnato, il ricorrente afferma d'un canto di non avere nessun obbligo giuridico di garantire l'accesso ai vicini, dall'altro rimprovera alla Corte cantonale di essere incorsa nell'arbitrio valutando la deposizione D._, della quale occorreva "contestualizzare i termini". Il testimonio ha infatti ammesso di non essere sempre stato presente quando il ricorrente dava le istruzioni sui lavori da eseguire e non poteva di conseguenza "avere una rappresentazione esatta e completa" a tale proposito; tant'è che altre deposizioni (F._ e H._) indicherebbero che alcune parti dell'opera erano state ordinate direttamente dagli eredi C._. L'arbitrio sarebbe infine ravvisabile anche nella mancata valutazione dell'accordo raggiunto fra le parti nella sede penale, in forza del quale l'opponente avrebbe rinunciato al pagamento della fattura contestata.
3.2 Ora, D._ - unico operaio dell'opponente sul cantiere - ha dichiarato di essere stato presente quando il ricorrente ha dato l'ordine di costruire la scala d'accesso alla proprietà C._; ha inoltre spiegato che in precedenza era stato eseguito un drenaggio, anch'esso ordinato dal ricorrente insieme con la sottomurazione, e che per tutte quelle opere "l'ordine era uno solo". Queste affermazioni testimoniali, riferite esplicitamente alle opere il cui pagamento è ora litigioso, sono chiarissime. La sentenza cantonale che si fonda su di esse non diviene manifestamente insostenibile per il solo motivo che il teste non era sempre presente quando il ricorrente impartiva gli ordini: quelli determinanti - ha detto D._ - furono dati in sua presenza. Non basta per sostanziare la censura di arbitrio nemmeno il fatto che F._ abbia confermato l'esecuzione del drenaggio sulla parte C._, precisando peraltro di essersi occupata solo marginalmente del cantiere e di non sapere con certezza se l'esecuzione fosse avvenuta ad opera dell'opponente; né il fatto che H._ abbia accennato ad altre opere ordinate dagli eredi C._, che non riguardavano però la scala di accesso. Infine, poco importa se il ricorrente avesse o no un obbligo legale di ripristinare l'accesso dei vicini dal momento che, secondo un accertamento non contestato della Corte cantonale - e pertanto vincolante per il Tribunale federale (cfr. consid. 2.1) - egli aveva previsto la parete divisoria, la chiusura dell'entrata originaria e la nuova scala esterna già nei piani della domanda di costruzione.
In definitiva, il ricorrente, sebbene dimostri di conoscere le regole giurisprudenziali concernenti la motivazione della censura di violazione dell'<ref-law>, che riassume correttamente, non riesce a dimostrare l'arbitrio: propone semplicemente un apprezzamento delle prove diverso, senza essere in grado di richiamare un elemento concreto atto a sovvertire quello effettuato dall'autorità cantonale.
3.3 Si osserva da ultimo che l'argomento fondato sull'accordo siglato nell'ambito del procedimento penale è nuovo e pertanto inammissibile, giacché il ricorrente non vi aveva neppure alluso davanti al Tribunale di appello (cfr. consid. 2.1).
4. In conclusione, il ricorso dev'essere respinto nella misura in cui è ammissibile.
Le spese giudiziarie e le ripetibili seguono la soccombenza (art. 66 cpv. 1 e 68 cpv. 1 e 2 LTF).

Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 2'000.-- sono poste a carico del ricorrente, il quale rifonderà all'opponente fr. 2'500.-- per ripetibili della sede federale.
3. Comunicazione ai patrocinatori delle parti e alla II Camera civile del Tribunale d'appello del Cantone Ticino.