Fatti:
A. Con decreto di accusa del 3 agosto 2005, il Sostituto Procuratore pubblico proponeva la condanna di A._ a venti giorni di detenzione sospesi condizionalmente per un periodo di prova di tre anni nonché al pagamento della tassa di giustizia e delle spese giudiziarie, ritenendolo colpevole di ripetuta coazione mancata, ripetuta ingiuria, abuso di impianti di telecomunicazioni e disobbedienza a decisioni dell'autorità.
B. Statuendo sull'opposizione sollevata dall'accusato contro il suddetto decreto, il 26 aprile 2007 il Giudice della Pretura penale riconosceva A._ autore colpevole di:
- ripetuta coazione tentata per avere, a Mendrisio, Riva San Vitale e in altre località, nel periodo gennaio 2003-25 febbraio 2005, usando minaccia di grave danno e intralciando la libertà di agire dei coniugi C.B._ e B.B._, compiuto senza risultato tutti gli atti necessari per costringere questi ultimi a fare un atto, segnatamente ad avere un colloquio personale con lui, nonostante essi gli avessero chiaramente detto e fatto capire di non essere intenzionati ad avere con lui alcun contatto, e meglio per avere, con numerosi scritti composti da lettere, e-mail e cartoline postali inviati a C.B._ e a B.B._, dal contenuto ingiurioso e con i quali li minacciava di mettere in atto delle ritorsioni quali l'inoltro di denunce, l'avvio di lunghe logoranti battaglie giudiziarie, l'invio a parenti, rispettivamente a terze persone, di lettere compromettenti, minacce poi messe in atto tramite l'invio di almeno una lettera a D._ e E._, cognati di C.B._ e B.B._, a un'amica di C.B._, rispettivamente a conoscenti di C.B._ e B.B._, con telefonate effettuate al domicilio dei coniugi CB._ e B.B._, con pedinamenti di C.B._, in occasione dei quali egli si faceva notare con cenni della mano o azionando i fari abbaglianti del proprio veicolo a motore, tentato di costringere i coniugi C.B._ e B.B._ a fare un atto, segnatamente ad avere un colloquio personale con lui;
- ripetuta ingiuria per avere, a Mendrisio, nel periodo dal 27 aprile 2003 all'agosto 2003, mediante scritti e-mail, lettere e cartoline postali, ripetutamente offeso l'onore di C.B._ e B.B._ proferendo nei loro confronti vari epiteti tra i quali: "bastardi", "iene", "carogne", "esseri ripugnanti, spregevoli, laidi", "esseri perversi", "perversi libidinosi", "esseri schifosi", "falsi bugiardi conigli", "vigliacchi";
- disobbedienza a decisioni dell'autorità per avere, a Mendrisio e Riva San Vitale, inviando ai coniugi C.B._ e B.B._ due lettere da loro ricevute in data 12 febbraio 2005 e 25 febbraio 2005, intenzionalmente omesso di ottemperare al decreto supercautelare del Pretore della Giurisdizione di Mendrisio-Nord del 31 gennaio 2005 con il quale, con comminatoria dell'art. 292 CP, gli era stato fatto divieto di importunare i signori C.B._ e B.B._, con lettere, telefonate o visite.
In applicazione della pena, il giudice lo condannava a una pena pecuniaria di venti aliquote giornaliere di fr. 30.--, per un totale di fr. 600.--, sospesa condizionalmente per un periodo di prova di tre anni, nonché a una multa di fr. 600.-- (fissando in sei giorni la pena detentiva in caso di mancato pagamento). A._ veniva inoltre condannato a rifondere alle parti civili C.B._ e B.B._, in solido, fr. 7'849.85 a titolo di ripetibili della sede penale e al pagamento della tassa di giustizia e delle spese giudiziarie. Le parti civili venivano rinviate al competente foro civile per le eventuali residue pretese. Il Giudice della Pretura penale prendeva infine atto della prescrizione del reato di abuso di impianti di telecomunicazioni.
C. Con sentenza del 2 luglio 2007, la Corte di cassazione e di revisione penale del Tribunale d'appello del Cantone Ticino (CCRP) respingeva, nella misura della sua ammissibilità, il ricorso per cassazione presentato dal condannato.
D. A._ impugna la decisione dell'ultima istanza cantonale dinanzi al Tribunale federale con ricorso in materia penale, sussidiariamente ricorso in materia costituzionale. Lamenta la violazione del diritto costituzionale, segnatamente del diritto di essere sentito e del divieto dell'arbitrio, nonché la violazione degli art. 47, 177, 181 e 292 CP e postula in via principale il suo proscioglimento da ogni accusa, subordinatamente l'annullamento della sentenza contestata.
Invitati a esprimersi sulle censure ricorsuali inerenti all'imputabilità di A._ e al rifiuto di ordinare una perizia psichiatrica, la CCRP si rimette al giudizio del Tribunale federale. Il Procuratore pubblico postula la conferma della decisione impugnata e richiamandosi a quest'ultima sottolinea che, anche se fosse stata accertata una scemata responsabilità dell'imputato, la decisione di primo grado reggerebbe in punto alla commisurazione della pena essendo questa mite al limite dell'indulgenza. Per analoghe ragioni, anche i coniugi B._ chiedono che il ricorso sia respinto.
E. Con decreto dell'8 ottobre 2007, il Presidente della Corte di diritto penale ha conferito al ricorso l'effetto sospensivo richiesto dal ricorrente.
Diritto:
1. 1.1 Presentato dall'imputato, le cui conclusioni sono state disattese (art. 81 cpv. 1 LTF), e diretto contro una decisione finale (art. 90 LTF) resa in materia penale (art. 78 cpv. 1 LTF) da un'autorità cantonale di ultima istanza (art. 80 cpv. 1 LTF), il ricorso è di massima ammissibile, poiché interposto nei termini legali (art. 100 cpv. 1 unitamente all'art. 46 LTF) e nelle forme richieste (art. 42 LTF). Il ricorso sussidiario in materia costituzionale (art. 113 segg. LTF), semplicemente indicato dal ricorrente nel titolo del gravame, è di conseguenza inammissibile.
1.2 Il ricorso in materia penale può essere presentato per violazione del diritto, così come determinato dagli art. 95 e 96 LTF, in particolare per violazione del diritto federale (art. 95 lett. a LTF). In quest'ambito, il Tribunale federale applica d'ufficio il diritto (art. 106 cpv. 1 LTF). Esso non è vincolato dagli argomenti sollevati nel ricorso e valuta liberamente la portata giuridica dei fatti. Può tuttavia esaminare le argomentazioni giuridiche delle parti solo nella misura in cui riguardino punti costituenti ancora l'oggetto del litigio in sede federale (art. 99 cpv. 2 e 107 cpv. 1 LTF) e si fondino su accertamenti di fatto contenuti nella sentenza impugnata (DTF 133 III 421 consid. 1.3 in fine). Di regola, il Tribunale federale limita il suo esame alle censure sollevate dalla parte ricorrente conformemente alle esigenze legali relative alla motivazione del gravame (art. 42 cpv. 2 LTF; DTF 134 II 245 consid. 2).
In virtù del principio dell'esaurimento del corso delle istanze cantonali dell'art. 80 cpv. 1 LTF, in linea di principio il Tribunale federale procede alla disamina delle censure di natura costituzionale che, potendole essere, sono state formulate dinanzi all'autorità cantonale di ultima istanza, e dei quesiti che costituiscono l'oggetto del litigio davanti all'autorità inferiore. Pertanto, le censure presentate per la prima volta in sede di ricorso al Tribunale federale non devono coincidere con le critiche di arbitrio. Inoltre, il comportamento del ricorrente non deve contravvenire al principio della buona fede in virtù del quale chi non si prevale davanti all'autorità cantonale di ultima istanza di una censura inerente alla condotta della procedura è precluso dal farlo dinanzi al Tribunale federale. Questa giurisdizione non verifica d'ufficio il rispetto dei diritti fondamentali (art. 106 cpv. 2 LTF).
2. Il ricorrente si duole di un accertamento inesatto dei fatti. Giova allora rammentare che, di principio, il Tribunale federale fonda il suo ragionamento giuridico sull'accertamento dei fatti dell'autorità inferiore (art. 105 cpv. 1 LTF); può scostarsene solo se esso è stato svolto in modo manifestamente inesatto o in violazione del diritto ai sensi dell'art. 95 (art. 105 cpv. 2 LTF). I fatti accertati sono "manifestamente inesatti" quando l'istanza inferiore è incorsa nell'arbitrio, vietato dall'art. 9 Cost. (v. DTF 133 III 393 consid. 7.1 pag. 398).
Incombe alla parte che propone una fattispecie diversa da quella contenuta nella sentenza impugnata il compito di esporre in maniera circostanziata il motivo che la induce a ritenere adempiute le condizioni di una delle eccezioni previste dall'art. 105 cpv. 2 LTF (art. 97 cpv. 1 LTF). Occorre inoltre che l'eliminazione dell'asserito vizio possa influire in maniera determinante sull'esito della causa (art. 97 cpv. 1 seconda parte LTF), altrimenti non si può tener conto di una fattispecie diversa da quella esposta nella decisione impugnata.
2.1 Le censure di arbitrio nell'accertamento dei fatti formulate nel gravame si palesano d'acchito in gran parte inammissibili in questa sede. Questo vale per le critiche concernenti la collocazione temporale della frequentazione tra il ricorrente e C.B._, l'inizio delle "persecuzioni", i pedinamenti, nonché gli intenti suicidali. La CCRP non è infatti entrata nel merito delle relative censure in quanto appellatorie e quindi inammissibili nell'ambito di un ricorso per cassazione. Orbene, secondo la giurisprudenza, ove l'ultima autorità cantonale dichiara un ricorso inammissibile per ragioni formali e non procede all'esame di merito, il ricorrente deve addurre perché essa avrebbe accertato in modo arbitrario l'assenza dei presupposti formali e si sarebbe quindi a torto rifiutata di procedere all'esame di merito (DTF 118 Ib 26 consid. 2B; 134 consid. 2; sentenza 6B_489/2007 del 26 novembre 2007 consid. 2.2). Se il ricorrente non lo dimostra, ma ripropone le argomentazioni di merito addotte davanti all'ultima istanza cantonale, il gravame è inammissibile.
In concreto, l'insorgente si limita a riformulare le censure di arbitrio nell'accertamento dei fatti, senza tuttavia indicare perché la corte cantonale non le avrebbe a torto esaminate nel merito. Non si giustifica quindi la loro disamina da parte di questo Tribunale.
2.2 L'insorgente si attarda poi sulla "corresponsione di sentimenti" da parte di C.B._ negata dal giudice del merito. Seppur la CCRP l'abbia, quanto meno implicitamente, riconosciuta, essa ha per finire ritenuto tale accertamento irrilevante ai fini del giudizio, in quanto il comportamento assunto in seguito da A._ è ingiustificabile, indipendentemente dal fattore scatenante. Il ricorrente contesta tale conclusione definendola insostenibile, nella misura in cui, così facendo, la corte cantonale rinuncia a approfondire i moventi dell'accusato. Egli però dimentica che, in virtù dell'art. 97 cpv. 1 LTF, deve rendere verosimile che la decisione finale sarebbe stata differente se i fatti fossero stati accertati conformemente al diritto. Ciò che non fa, di modo che il ricorso dev'essere ancora una volta dichiarato inammissibile.
3. Nel gravame viene censurata la violazione del diritto di essere sentito in relazione al rifiuto di esperire una perizia sull'imputabilità del ricorrente nonché di convocare il Dr. F._ in qualità di teste.
3.1 Il diritto di essere sentito, sancito esplicitamente dall'art. 29 cpv. 2 Cost., comprende il diritto per l'interessato di consultare l'incarto, di offrire mezzi di prova su punti rilevanti e di esigerne l'assunzione, di partecipare alla loro assunzione e di potersi esprimere sulle relative risultanze, nella misura in cui essi possano influire sulla decisione (DTF 131 I 153 consid. 3, 126 I 15 consid. 2a/aa, 124 I 49 consid. 3a, 241 consid. 2). Tale diritto non impedisce tuttavia all'autorità di procedere a un apprezzamento anticipato delle prove richieste, se è convinta che non potrebbero condurla a modificare la sua opinione (DTF 124 I 208 consid. 4a, 122 II 464 consid. 4A; 120 Ib 224 consid. 2b). Nell'ambito di questa valutazione, all'autorità compete un vasto margine di apprezzamento e il Tribunale federale interviene soltanto in caso d'arbitrio (DTF 131 I 153 consid. 3; 124 I 208 consid. 4a).
3.2 La domanda di escussione del Dr. F._ è stata respinta dal Giudice della Pretura penale in quanto il referto reso dalla stessa e contenuto nell'incarto appariva completo. Pur definendo tale decisione frettolosa, la CCRP ha protetto l'operato del primo giudice. Su questo punto, il ricorrente argomenta liberamente sull'esigenza di interrogare la specialista, riprendendo semplicemente i motivi a sostegno della sua richiesta di prova, ma non sostanzia arbitrio, di modo che la censura si palesa inammissibile.
3.3 Quanto alla richiesta di esperire una perizia psichiatrica, questa è stata respinta dal Giudice della Pretura penale in virtù del principio di economia e della proporzionalità. L'allestimento di una perizia non si giustificava anche alla luce del referto del Dr. F._ già agli atti. Egli riservava nondimeno la facoltà dell'accusato di produrre le risultanze di un esame peritale di tipo privato. La CCRP non ha scorto arbitrio nella decisione del giudice, rilevando come questi sia comunque potuto giungere a una conclusione sull'imputabilità dell'accusato sentendolo e interrogandolo personalmente. Del resto, A._ non aveva precisato quali circostanze essenziali il primo giudice avrebbe omesso di accertare per difetto di cognizioni specialistiche. L'insorgente contesta questa argomentazione senza tuttavia, neppure in questo caso, riuscire a sostanziare arbitrio.
3.4 In realtà, la censura relativa al rifiuto di ordinare una perizia volta a determinare l'imputabilità del ricorrente non attiene alla violazione del diritto di essere sentito, bensì alla violazione del diritto penale. Ed è quindi a ragione che il ricorrente, oltre a invocare il diritto di essere sentito, si prevale in questo ambito della violazione dell'art. 20 CP. Infatti, posto come il referto del Dr. F._ non sia una perizia, si pone il quesito di sapere se il giudice fosse tenuto a ordinare una valutazione psichiatrica dell'accusato sulla base del diritto penale.
3.4.1 Giusta l'art. 20 CP, qualora vi sia serio motivo di dubitare dell'imputabilità dell'autore, l'autorità istruttoria o il giudice ordina una perizia. Questa disposizione corrisponde all'art. 13 vCP. La giurisprudenza resa sotto l'imperio del vecchio diritto conserva quindi la sua validità (sentenza 6B_445/2007 del 5 ottobre 2007 consid. 3).
Il giudice è tenuto a ordinare una perizia non solo quando egli nutre effettivamente dei dubbi sulla responsabilità dell'autore, ma anche quando, in base alle circostanze del caso concreto, avrebbe dovuto nutrirne, vale a dire quando si trova in presenza di seri indizi atti a far dubitare dell'imputabilità dell'autore (DTF 133 IV 145 consid. 3.3; 132 IV 29 consid. 5.1 e rinvii).
Secondo la giurisprudenza, configurano tali indizi una contraddizione manifesta tra l'atto e la personalità dell'autore, il comportamento aberrante dell'autore, un precedente soggiorno in un ospedale psichiatrico, un'interdizione pronunciata in virtù del codice civile, l'alcolismo cronico, la tossicodipendenza, la possibilità che la colpevolezza sia stata influenzata da uno stato affettivo particolare o, ancora, l'esistenza di segni di debolezza mentale o di un ritardo mentale (v. DTF 116 IV 273 consid. 4a; 102 IV 74 consid. 1b).
Il Tribunale federale ha tuttavia precisato che una scemata imputabilità non deve essere ammessa in presenza di ogni insufficienza dello sviluppo mentale, ma unicamente laddove l'accusato si situi nettamente fuori norma e la sua costituzione mentale si distingui chiaramente non solo da quella di persone normali ma anche da quella di delinquenti analoghi (DTF 133 IV 145 consid. 3.3; 116 IV 273 consid. 4b).
3.4.2 Nella fattispecie, il referto del Dr. F._ - rilasciato all'attenzione dell'autorità inquirente - fa stato di un disturbo della personalità con tratti paranoici e conclude per una possibile scemata responsabilità del ricorrente nei fatti accaduti. In particolare, la specialista rileva nell'insorgente un discorso a tratti al limite del delirante, una compromissione dell'esame di realtà e una scarsa critica del proprio stato. Il referto riporta pure che il senso dei propri diritti personali non è per niente in sintonia con la situazione reale. Sotto il profilo diagnostico, si tratta di una struttura psicotica di personalità con tratti paranoici. Suddette caratteristiche sono state riscontrate sia all'esame obiettivo che nei test psicologici somministrati (incarto cantonale, atto n. 18).
Orbene, dinanzi a tali elementi il giudice non poteva non nutrire dei dubbi sull'imputabilità del ricorrente. Da quanto emerge dalla sentenza di primo grado, sembra invero che il giudice abbia nutrito dei dubbi in merito. Egli, infatti, ha osservato che il comportamento dell'insorgente, desumibile dagli atti e dal dibattimento, lasciava inferire la presenza di una patologia che si riflette in una mania di persecuzione come pure in una scarsa consapevolezza del proprio stato e rilevato come il referto del Dr. F._ - al quale fa eco la perizia privata commissionata al Dr. G._ - fa stato di un disturbo della personalità con tratti paranoici (sentenza di primo grado, pag. 18). Da parte sua, anche la CCRP ha rimarcato che i referti agli atti non hanno fornito il quadro di una persona completamente sana (sentenza impugnata, pag. 18). Invece di ordinare una perizia per accertare l'imputabilità dell'accusato, il giudice ha proceduto egli stesso a una valutazione fondandosi sugli atti e sul dibattimento. Sentendo e interrogando personalmente l'imputato, egli ha poi concluso che questi fosse capace di valutare il carattere illecito dei suoi atti. Sennonché, in simili casi, l'art. 20 CP impone al giudice di avvalersi di una perizia, non potendo procedere egli stesso a una valutazione per appianare i propri dubbi e determinare se e in che misura l'autore è capace di valutare il carattere illecito dei suoi atti e di agire secondo tale valutazione (DTF 133 IV 145 consid. 3.3 e rinvii). Ne consegue che in concreto il mancato allestimento di una perizia sull'insorgente viola l'art. 20 CP e su questo punto il ricorso deve pertanto essere accolto.
3.5 Visto quanto appena esposto, risulta superfluo esaminare la censura ricorsuale afferente l'arbitraria valutazione del referto del Dr. F._.
4. L'insorgente si prevale anche dell'errata applicazione dell'art. 181 CP.
4.1 Si rende colpevole di coazione chiunque, usando violenza o minaccia di grave danno contro una persona, o intralciando in altro modo la libertà d'agire di lei, la costringe a fare, omettere o tollerare un atto (art. 181 CP).
La minaccia è uno strumento di pressione psicologica consistente nel prospettare un danno, lasciando intendere che la sua realizzazione dipenda dalla volontà dell'autore. Non è tuttavia necessario che questi possa effettivamente condizionare il verificarsi del danno (DTF 117 IV 445 consid. 2b; 106 IV 125 consid. 2a) né che abbia la reale volontà di mettere in pratica la sua minaccia (DTF 105 IV 120 consid. 2a).
Anche intralciare "in altro modo la libertà d'agire" della vittima può adempiere la fattispecie di coazione. Questa formulazione generale del comportamento utilizzata dall'art. 181 CP dev'essere interpretata in modo restrittivo. Non è sufficiente una pressione qualsiasi, bensì, come per la violenza e la minaccia di grave danno, un mezzo coercitivo capace di impressionare una persona di media sensibilità e atto a intralciarla in modo sostanziale nella sua libertà di decisione o d'azione. In altre parole, deve trattarsi di mezzi coercitivi che, per la loro intensità e il loro effetto, sono analoghi a quelli espressamente menzionati dalla legge (DTF 134 IV 216 consid. 4.1 e rinvii).
Secondo la giurisprudenza, la coazione dev'essere illecita. Ciò è il caso laddove il mezzo o lo scopo è contrario al diritto, il mezzo è sproporzionato rispetto al fine perseguito oppure ancora laddove un mezzo coercitivo di per sé legale per conseguire uno scopo legittimo costituisce, date le circostanze, un mezzo di pressione abusivo o contrario ai buoni costumi (DTF 129 IV 6 consid. 3.4). Sapere se la limitazione della libertà d'agire altrui costituisce una coazione illecita dipende dunque dall'importanza dell'intralcio, dai mezzi utilizzati e dagli scopi perseguiti (DTF 129 IV 262 consid. 2.1 e rinvii).
4.2 Scostandosi dall'opinione del giudice di prima istanza - per cui l'agire del ricorrente presentava le caratteristiche delle "molestie assillanti" (stalking) - la CCRP ha ritenuto il comportamento incriminato un caso classico di coazione per mezzo di minacce. Sebbene non si capisse sulla base di quale reato potesse essere inoltrata la denuncia minacciata dall'accusato, la Corte cantonale ha per finire considerato determinante la paura con cui i coniugi B._ hanno convissuto per un periodo relativamente lungo (oltre due anni) in relazione sia alle paventate denuncie - sempre spiacevoli - sia al timore che A._ incuteva loro. Dalla semplice lettura degli scritti inviati alle parti civili, continua la CCRP, emerge come il ricorrente avrebbe potuto incutere timore a chiunque, risultando una persona non disposta a transigere se non alle proprie condizioni. A._ ha usato apprezzabili mezzi coercitivi per imporre il proprio volere (ottenere un incontro chiarificatore con i coniugi B._), agendo in parte, data l'insistenza e la ripetitività ossessiva delle azioni, con tratti che ricordano anche lo stalker, in una sorta di agire ibrido. La parte preponderante delle sue azioni attiene alla tipica fattispecie dell'art. 181 CP, rafforzate da azioni di supporto persecutorio, destinate a rendere ancor più seri e attuali gli intendimenti espressi in toni ben più minacciosi nei suoi scritti, ognuno dei quali costituisce un atto di coazione giusta l'art. 181 CP.
4.3 A mente del ricorrente, non sussiste alcun elemento agli atti che permetta di desumere la paura dei coniugi B._ originata dalle da lui prospettate azioni giudiziarie. Egli mette in dubbio che i coniugi B._ versassero in uno stato di paura, posto come essi abbiano messo in atto azioni repressive nei suoi confronti, quali l'invio delle sue lettere al fratello e alla compagna, la segnalazione alla Commissione tutoria chiedendo il suo ricovero coatto, la segnalazione all'ispettrice scolastica, l'esclusione dalla società di tennis da tavolo, nonché l'aperta derisione nei confronti della popolazione. Inoltre, la minaccia di esercitare i propri diritti di difesa non può costituire per definizione una misura coercitiva. Mancherebbe poi il nesso tra le presunte minacce e la finalità di costringere terzi a fare, omettere o tollerare un atto, pertanto il capo di imputazione di coazione va stralciato dalle accuse a carico di A._ o, comunque, derubricato in reato di minaccia giusta l'art. 180 CP. L'insorgente contesta in seguito che le lettere da lui redatte - per lo più ingiuriose e conseguenti alle forti provocazioni subite - possano essere considerate di intensità e ripetitività tali da costituire ognuna una singola azione persecutoria finalizzata alla limitazione della libertà altrui. Va inoltre rilevata l'assenza di elementi atti a corroborare che le pressioni esercitate avrebbero generato o potuto generare un cambiamento concreto di abitudini da parte delle presunte vittime. Manca infine il carattere illecito della presunta e contestata limitazione della libertà personale dei coniugi B._ rimproveratagli. Il ricorrente, oggetto di gravi ingerenze alla sua personalità nonché alla reputazione sociale e professionale da parte dei coniugi B._, ha agito spinto dal bisogno di proteggere la propria credibilità e rispettabilità. La tutela della propria personalità è un diritto sancito dagli art. 28 segg. CC. Il suo comportamento non può pertanto essere considerato illecito. La fattispecie di coazione non sarebbe pertanto realizzata e l'insorgente deve, di conseguenza, essere prosciolto dalla relativa accusa. Alla medesima conclusione si dovrebbe giungere anche alla luce dell'art. 21 CP. Egli ha agito, infatti, ritenendo in perfetta buona fede il proprio diritto alla tutela della personalità come legittimazione sufficiente per tentare di convincere la controparte ad avere un incontro chiarificatore al fine di ricercare una soluzione condivisa della vertenza, incorrendo quindi in un errore sull'illiceità.
4.3 A mente del ricorrente, non sussiste alcun elemento agli atti che permetta di desumere la paura dei coniugi B._ originata dalle da lui prospettate azioni giudiziarie. Egli mette in dubbio che i coniugi B._ versassero in uno stato di paura, posto come essi abbiano messo in atto azioni repressive nei suoi confronti, quali l'invio delle sue lettere al fratello e alla compagna, la segnalazione alla Commissione tutoria chiedendo il suo ricovero coatto, la segnalazione all'ispettrice scolastica, l'esclusione dalla società di tennis da tavolo, nonché l'aperta derisione nei confronti della popolazione. Inoltre, la minaccia di esercitare i propri diritti di difesa non può costituire per definizione una misura coercitiva. Mancherebbe poi il nesso tra le presunte minacce e la finalità di costringere terzi a fare, omettere o tollerare un atto, pertanto il capo di imputazione di coazione va stralciato dalle accuse a carico di A._ o, comunque, derubricato in reato di minaccia giusta l'art. 180 CP. L'insorgente contesta in seguito che le lettere da lui redatte - per lo più ingiuriose e conseguenti alle forti provocazioni subite - possano essere considerate di intensità e ripetitività tali da costituire ognuna una singola azione persecutoria finalizzata alla limitazione della libertà altrui. Va inoltre rilevata l'assenza di elementi atti a corroborare che le pressioni esercitate avrebbero generato o potuto generare un cambiamento concreto di abitudini da parte delle presunte vittime. Manca infine il carattere illecito della presunta e contestata limitazione della libertà personale dei coniugi B._ rimproveratagli. Il ricorrente, oggetto di gravi ingerenze alla sua personalità nonché alla reputazione sociale e professionale da parte dei coniugi B._, ha agito spinto dal bisogno di proteggere la propria credibilità e rispettabilità. La tutela della propria personalità è un diritto sancito dagli art. 28 segg. CC. Il suo comportamento non può pertanto essere considerato illecito. La fattispecie di coazione non sarebbe pertanto realizzata e l'insorgente deve, di conseguenza, essere prosciolto dalla relativa accusa. Alla medesima conclusione si dovrebbe giungere anche alla luce dell'art. 21 CP. Egli ha agito, infatti, ritenendo in perfetta buona fede il proprio diritto alla tutela della personalità come legittimazione sufficiente per tentare di convincere la controparte ad avere un incontro chiarificatore al fine di ricercare una soluzione condivisa della vertenza, incorrendo quindi in un errore sull'illiceità.
4.4 4.4.1 Occorre concordare con la corte cantonale, laddove intravede nel comportamento del ricorrente una coazione mediante minacce. È stato infatti accertato che, allo scopo di costringere i coniugi B._ ad avere un colloquio personale, A._ ha fatto loro pervenire numerose lettere, e-mail e cartoline postali in cui minacciava di mettere in atto delle ritorsioni. Si trattava quindi di esercitare una pressione sulla loro libertà di decisione per indurli ad accettare un colloquio con il ricorrente che si rifiutavano di avere. Tra le molteplici espressioni utilizzate nei suoi scritti sono state evidenziate le seguenti:
- "anticiperò i tempi per la mia denuncia nei vostri confronti - bastardi";
- "se mi sospenderanno da scuola il vostro nome comparirà accanto al mio su tutti i giornali (ne siete consapevoli?)";
- "attenderò ancora poche settimane poi se continuerete a rifiutarvi di risolvere la situazione mi vedrò costretto a farvi pagare la vostra beceraggine";
- "attenta C.B._ hai tempo sino a sabato. Poi partirà una carognata pesantissima per te! Persona avvisata mezza salvata";
- "in un modo o nell'altro la nostra vertenza si chiuderà senza ulteriori conseguenze, se mi parlerete, con pesantissimi strascichi se non lo farete";
- "hai tempo sino a sabato, poi attuerò la carognata";
- "non la passerai liscia, ti denuncerò per danni morali";
- "non vi sarà facile spiegare al giudice perché non volete porre fine alla vertenza";
- "poche settimane, poi scatterà la denuncia".
Si pone la questione di sapere se queste espressioni costituiscano una minaccia di grave danno, atteso che, come già osservato dalla CCRP, non emerge su che basi avrebbe poggiato la prospettata denuncia. Questo elemento, tuttavia, induce a credere che la denuncia sarebbe stata infondata e quindi illecita. Secondo la giurisprudenza, la minaccia di presentare una denuncia penale dev'essere considerata come una minaccia di grave danno; difatti un simile atto, dipendente dalla volontà dell'autore, provoca l'apertura di un procedimento penale che costituisce, per la persona che ne è l'oggetto, sorgente di tormenti e un peso psicologico considerevole, di modo che questa prospettiva è atta, per un destinatario ragionevole, a indurlo ad adottare un comportamento che non avrebbe avuto se la sua libertà di decisione fosse stata intera (DTF 120 IV 17 consid. 2a/aa pag. 19). Ed è quindi a ragione che la Corte cantonale ha ritenuto nella fattispecie una minaccia di grave danno. Va inoltre segnalato che ventilare "pesantissimi strascichi" o una "carognata pesantissima" costituiscono inquietanti intimidazioni che, ripetute nel tempo, assumono una viepiù forza persuasiva e sono capaci, come giustamente rilevato dalla CCRP, di impensierire chiunque. Nella misura in cui il ricorrente contesta lo stato di paura in cui i coniugi si trovavano nonché l'intensità e la ripetitività degli atti rimproveratigli, egli si scosta dagli accertamenti di fatto sfuggiti alle censure di arbitrio e su questo punto la sua impugnativa risulta pertanto inammissibile. Come già rettamente rilevato dalla corte cantonale, l'insorgente è poi ricorso ad azioni di supporto persecutorio, telefonate e pedinamenti, che hanno reso ancor più intimidatorie le minacce contenute negli scritti e quindi tali da far piegare i destinatari ai desiderata di A._.
Il ricorrente non può essere seguito laddove assevera che il suo comportamento potrebbe tutt'al più adempiere la fattispecie di minaccia giusta l'art. 180 CP. Con la coazione, contrariamente alle minacce, l'autore non vuole semplicemente incutere spavento o timore, bensì intralciare la libertà di una persona per costringerla a fare, omettere o tollerare un atto (Bernard Corboz, Les infractions en droit suisse, vol. I, 2002, n. 10 ad art. 181 CP). Orbene, in concreto, le azioni di A._ erano volte a costringere i coniugi B._ ad accettare di intrattenersi con lui. Che poi essi non abbiano ceduto alle sue richieste o che non abbiano cambiato le loro abitudini, non vuol dire che il reato non sussista, ma solo che la coazione non è consumata. Ed è per questo che il ricorrente è stato ritenuto colpevole di ripetuta coazione tentata.
4.4.2 Contestata è anche l'illiceità delle minacce proferite. Secondo la prassi del Tribunale federale, la coazione è illecita in particolare laddove il mezzo di pressione utilizzato è abusivo o contrario ai buoni costumi. Questa ipotesi è realizzata segnatamente quando non sussiste un rapporto tra l'oggetto della minaccia e l'esigenza formulata (DTF 120 IV 17 consid. 2a/bb). Minacciare l'inoltro di una denuncia nel caso in cui si sia vittime di un'infrazione è di per sé lecito. Tale minaccia diventa invece illecita quando essa non ha alcuna ragionevole attinenza con lo scopo perseguito. In questo caso il mezzo di pressione è abusivo (DTF 120 IV 17 consid. 2a/bb e rinvii). In concreto, è stato accertato che A._ voleva costringere i coniugi B._ ad accettare un incontro per un chiarimento risolutivo. Essi, come già osservato in sede cantonale, non avevano alcun obbligo morale né tanto meno legale di dar seguito alle richieste del ricorrente. Nella sua impugnativa, l'insorgente medesimo rileva l'assenza di un nesso tra le minacce e la finalità di costringere terzi a fare o tollerare un atto. Orbene, atteso che egli non avesse alcun diritto a ottenere l'incontro tanto preteso, la minaccia di avviare una procedura contro i coniugi B._ nel caso in cui non accettassero di intrattenersi con il ricorrente appare dunque illecita. L'insorgente si prevale del diritto di tutelare la sua personalità. Invano. Come visto infatti, nella fattispecie non esiste un rapporto ragionevole tra l'oggetto della minaccia - l'asserito esercizio dei propri diritti di difesa - e le esigenze formulate. Diverso sarebbe stato se il ricorrente avesse prospettato di adire le vie legali al fine di spingere i coniugi B._ a cessare le lamentate ingerenze alla sua personalità e alla sua reputazione, in questo caso ci sarebbe stato infatti un nesso tra le minacce e le pretese. Nesso che invece nella fattispecie manca. Anche su questo punto, il ricorso è pertanto infondato.
4.5 Giusta l'art. 21 CP, chiunque commette un reato non sapendo né potendo sapere di agire illecitamente non agisce in modo colpevole; se l'errore era evitabile, il giudice attenua la pena.
I presupposti dell'errore sull'illiceità sono adempiuti quando l'agente crede, al momento in cui viene perpetrato l'atto (DTF 115 IV 162 consid. 3), di non aver fatto alcunché d'illecito (DTF 129 IV 238 consid. 3.1; sentenza 6S.390/2000 del 5 settembre 2000 consid. 2). Ciò che l'autore di un reato sapeva, credeva, voleva o accettava è una questione di fatto. L'esistenza di un errore è anch'essa un problema legato all'accertamento dei fatti (DTF 125 IV 49 consid. 2d e, da ultimo, sentenza 6B_515/2008 del 19 novembre 2008 consid. 4.1).
Nel negare che il ricorrente abbia agito ignorando il carattere illecito del suo comportamento e quindi sotto l'influsso di un errore sull'illiceità, il Giudice della Pretura penale ha rilevato come egli fosse persona intelligente e colta, sottolineando che la sua audizione dibattimentale non lasciava dubbi sul fatto che egli sapesse dell'illiceità del suo agire e quindi della sua colpevolezza (sentenza di prime cure pag. 15). Questa Corte è vincolata dai fatti stabiliti dall'autorità cantonale, può scostarsene unicamente se il loro accertamento è stato svolto in modo manifestamente inesatto o in violazione del diritto ai sensi dell'art. 95 LTF (v. consid. 2), ciò che nel concreto il ricorrente non sostiene. Sulla base dei fatti accertati, occorre concludere che l'insorgente sapeva di agire illecitamente, sicché la censura si palesa infondata.
5. Nel gravame viene inoltre lamentata la mancata applicazione dell'art. 177 cpv. 2 CP. A mente del ricorrente, che riconosce la realizzazione del reato, le ingiurie contestategli costituiscono una scusabile reazione alle provocazioni e misure repressive messe in atto dai coniugi B._ nei suoi confronti. Queste sono state provocate dal comportamento sconveniente delle parti civili. Le ingiurie rappresenterebbero quindi una reazione immediata ad atteggiamenti riprensibili delle vittime e pertanto, alla fattispecie, l'art. 177 cpv. 2 CP troverebbe piena applicazione.
5.1 In virtù dell'art. 177 cpv. 2 CP, se l'ingiuria è stata provocata direttamente dall'ingiuriato con un contegno sconveniente, il giudice può mandar esente da pena il colpevole.
Secondo la giurisprudenza, questa norma si applica laddove l'ingiuria consiste in una reazione immediata a un comportamento sconveniente che ha suscitato nell'autore del reato un sentimento di rivolta. Può trattarsi di una provocazione o di un altro comportamento biasimevole. Quest'ultimo non deve necessariamente prendere di mira l'autore dell'ingiuria; un atteggiamento grossolano in pubblico è sufficiente (DTF 117 IV 270 consid. 2c; 83 IV 151). L'immediatezza della reazione dev'essere intesa nella sua accezione temporale: l'autore deve aver agito sotto l'influsso dell'emozione provocata dal contegno sconveniente dell'ingiuriato senza aver avuto il tempo di riflettere tranquillamente (DTF 83 IV 151).
L'art. 177 cpv. 2 CP costituisce un motivo facoltativo di esenzione di pena (DTF 109 IV 39 consid. 4b). Il giudice ha la facoltà, ma non l'obbligo, di mandar esente da pena il colpevole; può anche limitarsi ad attenuare la pena. In quest'ambito, egli dispone quindi di un vasto margine di apprezzamento e il Tribunale federale interviene unicamente in caso di abuso (sentenza 6S.634/2001 del 20 dicembre 2001 consid. 3).
5.2 La CCRP non è entrata nel merito della censura perché impropriamente motivata dinanzi ad essa. Quanto al Giudice della Pretura penale, ha ritenuto che nella fattispecie l'invocata disposizione non entrava in considerazione, trattandosi di uno stillicidio di ingiurie conclamato, regolare, continuo, quasi ossessivo. Ogni ingiuria, più che una reazione, sembrava il prologo della prossima che, immancabilmente, non si faceva attendere.
Le ingiurie proferite dal ricorrente vanno pertanto ben oltre una reazione immediata alle provocazioni degli ingiuriati, di modo che - come già giustamente ritenuto dal primo giudice - non si giustifica di applicare alla fattispecie l'art. 177 cpv. 2 CP.
5.3 Sempre in relazione al reato di ingiuria, occore rilevare che, contrariamente a quanto implicitamente preteso nel gravame, per il computo della prescrizione è determinante il giorno in cui la sentenza di prima istanza - e non la sentenza su ricorso - è stata pronunciata (v. art. 97 cpv. 3 CP), ossia in concreto il 26 aprile 2007. Ed è pertanto a ragione che il Giudice della Pretura penale ha preso in considerazione tutte le ingiurie proferite nei quattro anni precedenti la sentenza di primo grado (art. 178 cpv. 1 unitamente all'art. 97 cpv. 3 CP).
6. 6.1 Con decreto supercautelare del 31 gennaio 2005, il Pretore della Giurisdizione di Mendrisio-Nord vietava a A._, sotto comminatoria dell'art. 292 CP, di importunare i signori C.B._ e B.B._ con lettere, telefonate o visite. È stato accertato e non contestato che il ricorrente ha inviato ai coniugi B._ due lettere nel corso del mese di febbraio 2005 ed è quindi stato riconosciuto colpevole dell'infrazione di cui all'art. 292 CP.
6.2 Nel contestare il reato di disobbedienza a decisioni dell'autorità giusta l'art. 292 CP, il ricorrente afferma che l'ordine da rispettare debba essere impartito in modo chiaro e inequivocabile. Egli sostiene che le lettere del febbraio 2005 costituivano degli atti di difesa, la prima era la copia delle sue osservazioni alla perizia del G._ inviate al Ministero pubblico, mentre la seconda era una reazione all'episodio di denigrazione dell'insorgente attuata dai coniugi B._ nei confronti dei membri della società di tennis da tavolo di X._. In quanto atti di difesa, l'invio di questi scritti non può essere considerato come una trasgressione del divieto di "importunare" i coniugi B._ e il ricorrente deve pertanto essere prosciolto dall'accusa di disobbedienza a decisioni dell'autorità.
6.3 L'impugnazione non difetta di pretestuosità, per non dire temerarietà. L'espressione "divieto di importunare con lettere, telefonate o visite" è molto chiara e non si presta a interpretazioni di sorta, soprattutto alla luce dei fatti che hanno condotto all'emanazione del suddetto decreto supercautelare: il Pretore della Giurisdizione di Mendrisio-Nord proibiva a A._ qualsiasi contatto epistolare, orale e personale con i coniugi B._ senza procedere a distingui in relazione ai contenuti o alle ragioni delle comunicazioni da evitare. Orbene, posto come nell'intero suo gravame il ricorrente definisca i suoi scritti - compresi quelli precedenti il decreto in questione e che hanno giustificato l'emanazione dello stesso - quali atti di difesa, il ricorrente non può seriamente pretendere che le lettere inviate nel corso del mese di febbraio 2005, essendo atti di difesa, non sono tali da importunare i coniugi B._. Infondata, per quanto ammissibile, la censura di errata applicazione dell'art. 292 CP va quindi respinta.
7. Il ricorrente lamenta pure una violazione della garanzia a un equo processo ai sensi dell'art. 6 CEDU nonché della lex mitior. Con decreto d'accusa del 3 agosto 2005, il Sostituto Procuratore pubblico proponeva la condanna di A._ alla pena di 20 giorni di detenzione sospesa condizionalmente per un periodo di prova di 3 anni. Contro tale decreto è stata interposta opposizione e l'incarto è stato trasmesso per competenza alla Pretura penale. Orbene, davanti al Giudice della Pretura penale il Sostituto Procuratore pubblico, adattando la proposta di pena alle nuove disposizioni del Codice penale entrate in vigore il 1° gennaio 2007, ha inopinatamente mutato la stessa in 40 aliquote di pena pecuniaria con la condizionale e in una multa di fr. 600.--. L'insorgente sostiene che la proposta di pena doveva invece essere tradotta, in virtù della lex mitior, in 20 aliquote giornaliere (pari a 20 giorni di pena detentiva sostitutiva). Tale modo di procedere del Sostituto Procuratore pubblico ha condizionato la commisurazione della pena e vanificato la riduzione di pena in misura del 50 % decisa dal giudice del merito.
La censura non ha pregio. Come già rettamente rilevato dalla CCRP, il giudice non è vincolato dalle richieste di pena formulate dalla pubblica accusa. Per stabilire se vi sia stata una violazione della lex mitior occorre esaminare se il giudice, irrogando al ricorrente una pena pecuniaria di 20 aliquote giornaliere di fr. 30.-- sospesa condizionalmente e una multa di fr. 600.--, abbia erroneamente applicato il nuovo diritto invece del previgente, eventualmente più favorevole all'accusato. Così non è, e nemmeno l'insorgente lo pretende. Come non pretende neppure che nel fissare la pena il giudice ha disatteso i dettami del codice penale e/o ecceduto o abusato del proprio potere d'apprezzamento. Infondata, la doglianza dev'essere respinta.
8. Censurata è infine la commisurazione della pena. Pur non contestando l'entità della pena inflittagli, il ricorrente si duole della violazione degli art. 47 e 48 CP unitamente all'art. 19 CP. Egli critica l'argomento della CCRP per cui, anche ammettendo che egli abbia agito in uno stato di scemata responsabilità, ciò non avrebbe alcuna incidenza sulla commisurazione della pena. Difatti, per la CCRP, la pena concretamente irrogatagli tiene conto, contabilmente parlando, di un'eventuale riduzione in tal senso, che nella fattispecie è stata operata dal Giudice della Pretura penale applicando l'attenuante specifica dell'art. 48 lett. c CP. La pena - mite al limite dell'indulgenza - non potrebbe venir ritoccata ulteriormente verso il basso. L'insorgente contesta l'implicita conclusione a cui giunge la CCRP, per cui la riduzione della pena per scemata imputabilità sarebbe sostituita dalla riduzione della pena a seguito del riconoscimento dell'attenuante specifica dello stato di profonda prostrazione.
8.1 Giusta l'art. 19 cpv. 2 CP, se al momento del fatto l'autore era soltanto in parte capace di valutarne il carattere illecito o di agire secondo tale valutazione, il giudice attenua la pena.
Recentemente il Tribunale federale ha confermato e chiarito la sua giurisprudenza in materia di commisurazione della pena in caso di scemata imputabilità, a cui si rinvia (DTF 134 IV 132). In questa sede è sufficiente ribadire che in caso di scemata imputabilità la pena che avrebbe dovuto essere pronunciata se l'imputabilità fosse stata intera va attenuata in proporzione al grado di diminuzione dell'imputabilità. Il giudice non è tuttavia tenuto a operare una riduzione lineare. Difatti, non si tratta di applicare una formula matematica, bensì di trarre le opportune conseguenze dalla situazione. Un'imputabilità scemata in modo lieve, medio o grave non implica pertanto necessariamente una riduzione della pena del 25 %, 50 % rispettivamente del 75 %. Deve nondimeno sussistere una certa correlazione tra la scemata imputabilità ritenuta e le sue conseguenze sulla pena (DTF 134 IV 132 consid. 6.2). Una riduzione della pena proporzionalmente inferiore al grado di scemata imputabilità riscontrata nell'autore è possibile solo in presenza di particolari circostanze che devono essere illustrate nella motivazione della sentenza (DTF 134 IV 132 consid. 6.6 pag. 140).
8.2 Secondo l'art. 48 lett. c CP, il giudice attenua la pena se l'autore ha agito in stato di profonda prostrazione. L'espressione "stato di profonda prostrazione" corrisponde a quella utilizzata all'art. 113 CP per reprimere l'omicidio passionale. La giurisprudenza resa in applicazione di quest'ultima norma è quindi di rilievo anche nell'ambito dell'art. 48 lett. c CP (in questo senso pure Hans Wiprächtiger, in commentario basilese, Strafrecht, 2a ed. 2007, n. 23 ad art. 48 CP).
La profonda prostrazione consiste in uno stato emotivo che si sviluppa progressivamente nel corso di un lungo periodo, cova per molto tempo fino a quando l'autore sia così disperato da non scorgere altra soluzione che la commissione del reato (v. DTF 119 IV 202 consid. 2a).
8.3 In una sentenza non pubblicata, chiamato a pronunciarsi sulla relazione tra gli art. 11 e 113 vCP, il Tribunale federale ha affermato che l'art. 11 vCP non poteva trovare applicazione laddove le cause della scemata imputabilità erano le stesse che permettevano di ritenere l'esistenza di una violenta commozione dell'animo o di uno stato di profonda prostrazione ai sensi dell'art. 113 vCP. Solo una scemata imputabilità derivante da cause diverse da quelle considerate per ritenere la realizzazione dell'omicidio passionale poteva giustificare l'applicazione cumulativa degli art. 11 e 113 vCP. Altrimenti, il medesimo motivo di attenuazione della pena sarebbe stato preso in considerazione due volte (sentenza 6S.283/1999 del 7 giugno 1999 consid. 1b).
Questa giurisprudenza può essere trasposta anche al caso qui in esame. Di conseguenza, se risulterà che il ricorrente ha agito in uno stato di scemata imputabilità da ricondurre alle medesime cause che hanno indotto il giudice di prima istanza a riconoscergli l'attenuante specifica dello stato di profonda prostrazione, la pena irrogatagli non potrà subire ulteriori riduzioni, come ritenuto dalla CCRP. Per contro, se le cause sono diverse, il giudice dovrà ricommisurare la pena e ridurla in applicazione dell'art. 19 cpv. 2 CP (v. supra consid. 8.1).
Poiché non è stato ancora accertato sulla base di una perizia se, al momento di agire, il ricorrente era capace di valutare il carattere illecito dei fatti rimproveratigli e di agire secondo tale valutazione e, in caso negativo, per quali ragioni, il Tribunale federale non dispone di elementi per potersi pronunciare sulla censura sollevata nel ricorso.
9. Da tutto quanto esposto discende che, nella misura in cui è ammissibile, il ricorso va parzialmente accolto, la sentenza impugnata annullata e la causa rinviata all'autorità cantonale, che dovrà ordinare una perizia per determinare l'imputabilità di A._ ed eventualmente ricommisurare la pena.
Poiché il ricorrente risulta parzialmente soccombente, gli sono addossate solo parte delle spese giudiziarie (art. 66 cpv. 1 LTF). Per la parte in cui risulta vincente, ha diritto a un'indennità (ridotta) a titolo di spese ripetibili, indennità posta a carico del Cantone Ticino (art. 68 LTF).
C.B._ e B.B._ sono stati invitati a esprimersi sia sull'istanza di effetto sospensivo che sulle censure ricorsuali relative all'imputabilità del ricorrente e al rifiuto di ordinare una perizia psichiatrica dello stesso. Essi risultano sostanzialmente soccombenti e non si giustifica pertanto di accordare loro un'indennità a titolo di ripetibili.
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è parzialmente accolto, la sentenza impugnata è annullata e la causa rinviata all'autorità cantonale.
2. Le spese giudiziarie di fr. 2'000.-- sono poste a carico del ricorrente.
3. Il Cantone Ticino verserà al ricorrente fr. 1'000.-- a titolo di ripetibili.
4. Comunicazione ai patrocinatori delle parti, al Ministero pubblico e alla Corte di cassazione e di revisione penale del Tribunale d'appello del Cantone Ticino.