Fatti:
A. Il 5 agosto 2006, il cittadino della Bosnia e Erzegovina A.A._ si è sposato nel proprio Paese di origine con B.A._, a quel tempo ancora titolare di un'autorizzazione di domicilio e, dal 30 gennaio 2007, divenuta cittadina svizzera. A.A._ è giunto in Svizzera il 19 novembre 2006 per vivere con la moglie ed è stato posto a beneficio di un permesso di dimora annuale, rinnovato un'ultima volta fino al 18 novembre 2010.
B. Dando seguito all'azione di divorzio presentata da B.A._ il 29 aprile 2009, in data 5 febbraio 2010 il Tribunale municipale di X._ (Bosnia e Erzegovina) ha sciolto il matrimonio dei coniugi A._. La sentenza di divorzio, cresciuta in giudicato, è stata tuttavia trasmessa al servizio regionale degli stranieri unicamente l'11 ottobre 2010, dopo che A.A._ era stato più volte invitato a provvedervi.
Nell'ambito di un interrogatorio che ha avuto luogo il 3 dicembre 2010, B.A._ ha tra l'altro spiegato che, a pochi mesi dall'arrivo del coniuge in Svizzera, quest'ultimo ha iniziato ad avere atteggiamenti arroganti e disinteressati nei suoi confronti. Ha quindi aggiunto che la loro vita di coppia e coniugale non è quasi mai esistita, che il loro rapporto era diventato impossibile e che per questo motivo aveva deciso di separarsi. Ha infine dichiarato di non avere più abitato insieme al marito a partire dal 13 gennaio 2010. Durante la sua audizione, il 10 dicembre 2010, A.A._ ha da parte sua affermato che il matrimonio non è durato, non solo per colpa sua ma anche perché la moglie era nervosa e un po' depressa, essendovi tra gli stessi vita separata. Ha aggiunto di avere vissuto insieme alla moglie fino al 15/16 gennaio 2010, momento in cui la stessa lo ha allontanato da casa al rientro dalla Bosnia, dove egli si trovava dal 3/4 gennaio precedente.
C. Preso atto del divorzio così come dell'esito degli interrogatori di A.A._ e B.A._, l'11 gennaio 2011 la Sezione della popolazione del Dipartimento delle istituzioni del Cantone Ticino ha respinto l'istanza con cui A.A._ chiedeva il rinnovo del suo permesso di dimora, fissandogli un termine per lasciare la Svizzera. A sostegno della propria decisione, l'autorità ha rilevato che A.A._ non viveva più con la moglie, dalla quale aveva divorziato, motivo per cui era venuto a mancare lo scopo per il quale l'autorizzazione era stata concessa.
Su ricorso, detta decisione è stata confermata sia dal Consiglio di Stato, il 29 marzo 2011, che dal Tribunale cantonale amministrativo, pronunciatosi in merito con sentenza del 5 agosto successivo.
D. Il 14 settembre 2011, A.A._ ha inoltrato dinanzi al Tribunale federale un ricorso in materia di diritto pubblico con cui postula: in via principale, l'annullamento della decisione del Tribunale cantonale amministrativo e il rinnovo dell'autorizzazione richiesta; in via subordinata, l'annullamento della decisione del Tribunale cantonale amministrativo e il rinvio a quest'ultimo dell'incarto per nuovo giudizio.
La Corte cantonale si è riconfermata nelle motivazioni e nelle conclusioni della propria sentenza. Ad essa hanno fatto rinvio anche la Sezione della popolazione e l'Ufficio federale della migrazione. Il Consiglio di Stato si è invece rimesso al giudizio di questa Corte.
Diritto:
1. 1.1 Giusta l'art. 83 lett. c n. 2 LTF, il ricorso in materia di diritto pubblico è inammissibile contro le decisioni in materia di diritto degli stranieri concernenti permessi o autorizzazioni al cui ottenimento né il diritto federale né il diritto internazionale conferiscono un diritto (DTF 133 I 185 consid. 2.3; 131 II 339 consid. 1).
Nel caso in esame, il ricorrente ritiene di avere un diritto al rinnovo del suo permesso di dimora in Svizzera sulla base dell'art. 50 cpv. 1 lett. a LStr. Non risultando questa conclusione d'acchito insostenibile, occorre pertanto ammettere che egli disponga di un diritto, secondo quanto richiesto dall'art. 83 lett. c cifra 2 LTF, a presentare un ricorso in materia di diritto pubblico. In che misura le condizioni per il rinnovo del permesso siano date è infatti questione di merito, che come tale dev'essere trattata (sentenza 2C_304/2009 del 9 dicembre 2009 consid. 1.1, non pubblicato in DTF 136 II 113; sentenza 2C_465/2009 del 6 novembre 2009 consid. 2.3).
1.2 Diretto contro una decisione finale emessa da un tribunale cantonale superiore (art. 86 cpv. 2 e art. 90 LTF), il ricorso è stato presentato tempestivamente (art. 46 cpv. 1 lett. b in relazione con l'art. 100 cpv. 1 LTF) dal destinatario della pronuncia contestata. Confermando la stessa il diniego del rinnovo del permesso richiesto, dato è anche l'interesse a ricorrere (art. 89 cpv. 1 LTF). Per quanto precede, l'impugnativa è di massima ammissibile quale ricorso in materia di diritto pubblico.
2. 2.1 Con il rimedio del ricorso in materia di diritto pubblico può tra l'altro venir censurata la violazione del diritto federale (art. 95 lett. a LTF), nozione che comprende i diritti costituzionali dei cittadini (DTF 133 III 446 consid. 3.1 pag. 447 seg.). Rispettate le condizioni che prescrive l'art. 42 cpv. 2 LTF, il Tribunale federale applica comunque il diritto d'ufficio (art. 106 cpv. 1 LTF) e può accogliere o respingere un ricorso anche per motivi diversi da quelli invocati o su cui si è fondata l'autorità precedente (DTF 133 II 249 consid. 1.4.1 pag. 254).
Esigenze più severe valgono invece in relazione alla denuncia della violazione di diritti fondamentali. Il Tribunale federale esamina infatti simili censure solo se l'insorgente le ha sollevate in modo preciso (art. 106 cpv. 2 LTF; DTF 134 II 244 consid. 2.2 pag. 246).
2.2 Per quanto riguarda i fatti, il Tribunale federale fonda il suo ragionamento giuridico sull'accertamento svolto dall'autorità inferiore (art. 105 cpv. 1 LTF). Esso può scostarsene se è stato eseguito violando il diritto ai sensi dell'art. 95 LTF, oppure in modo manifestamente inesatto e quindi arbitrario (art. 105 cpv. 2 LTF; DTF 136 III 552 consid. 4.2 pag. 560). Solo sotto il profilo dell'arbitrio viene pure esaminato l'apprezzamento delle prove addotte (sentenza 2C_959/2010 del 24 maggio 2011 consid. 2.2 con rinvii).
In quanto posteriori al giudizio impugnato (art. 99 cpv. 1 LTF), le dichiarazioni giurate del 31 agosto e del 13 settembre 2011, allegate al ricorso, devono pertanto essere estromesse dall'incarto (art. 105 cpv. 1 LTF; DTF 133 IV 342 consid. 2 pag. 343 seg.). Inammissibile è inoltre anche la richiesta di interrogare le parti.
3. 3.1 Il rilascio o la proroga del permesso di dimora a coniugi stranieri di cittadini svizzeri giusta l'art. 42 cpv. 1 LStr presuppone la coabitazione. L'art. 49 LStr prevede una deroga all'esigenza della coabitazione se possono essere invocati motivi gravi che giustificano il mantenimento di residenze separate e se la comunità familiare continua a sussistere.
3.2 A norma dell'art. 50 cpv. 1, dopo lo scioglimento del matrimonio o della comunità familiare, il diritto del coniuge al rilascio e alla proroga del permesso di dimora in virtù dell'art. 42 LStr risulta preservato a condizione che: (a) l'unione coniugale è durata almeno tre anni e l'integrazione è avvenuta con successo o (b) gravi motivi personali rendono necessario il prosieguo del soggiorno in Svizzera (DTF 136 II 113 consid. 3.3.1 segg. pag. 117 segg.).
Per la durata dell'unione coniugale è determinante unicamente la sua sussistenza in Svizzera fino allo scioglimento della comunità familiare, che coincide di regola con quello della comunità domestica (DTF 136 II 113 consid. 3.2 pag. 115 segg.; sentenza 2C_635/2009 del 26 marzo 2010 consid. 5.2). Ciò non esclude tuttavia che - quando risulti chiaramente che il rapporto coniugale non è più vissuto e non vi è più una reciproca volontà in relazione al vincolo del matrimonio (sentenza 2C_531/2011 del 19 dicembre 2011 consid. 2.3) -, la sussistenza dell'unione coniugale possa essere negata già in precedenza.
3.3 Nel caso in esame, l'unione tra i coniugi è stata sciolta per divorzio con sentenza del 5 febbraio 2010. Pacifico è quindi che l'art. 42 LStr non conferisce al ricorrente più nessun diritto di soggiorno.
In relazione con l'art. 50 cpv. 1 lett. b LStr, nemmeno è in discussione la sussistenza di gravi motivi personali che rendono necessario il prosieguo del soggiorno in Svizzera: a ragione, la Corte cantonale non ne intravvede alcuno e neppure il ricorrente sostiene che ve ne siano.
Divergenze di vedute sussistono per contro in merito al rispetto dei requisiti per il riconoscimento del permesso giusta l'art. 50 cpv. 1 lett. a LStr.
4. Così come già il Consiglio di Stato, il Tribunale amministrativo considera che il richiamo all'art. 50 cpv. 1 lett. a LStr da parte del ricorrente costituisca un abuso di diritto.
4.1 In base all'art. 51 cpv. 2 lett. a LStr, i diritti conferiti dagli art. 43, 48 e 50 LStr si estinguono se sono invocati abusivamente, segnatamente per eludere la legge o le pertinenti disposizioni d'esecuzione sull'ammissione e sul soggiorno. Anche per quanto riguarda l'art. 50 cpv. 1 lett. a LStr, ciò è il caso quando, in presenza di un'unione coniugale della durata di almeno tre anni, sussistano sufficienti indizi per affermare che per una parte del periodo determinante i coniugi abbiano coabitato solo formalmente e la durata dell'unione non possa essere considerata nella sua interezza. Nel contesto dell'art. 42 LStr, cui l'art. 50 cpv. 1 LStr fa a sua volta rinvio, il criterio per l'ottenimento di un'autorizzazione è in effetti quello della coabitazione (DTF 136 II 113 consid. 3.2 pag. 115 segg.; sentenza 2C_68/2010 del 29 luglio 2010 consid. 4.4).
4.2 Contrariamente a quanto fatto dalle istanze precedenti, prima di prendere in considerazione l'esistenza di un comportamento abusivo nel senso sopra indicato, occorre tuttavia esaminare il sussistere delle condizioni previste dall'art. 50 cpv. 1 lett. a LStr e quindi chiarire - a posteriori - se l'unione coniugale tra il cittadino svizzero e il cittadino straniero si sia o meno protratta per oltre tre anni. È infatti solo quando ciò dovesse essere il caso che - in presenza di indizi in tal senso - può infine porsi anche la questione dell'abuso di diritto in merito alla coabitazione (DTF 136 II 113 consid. 3.2 pag. 116).
4.3 Sennonché, proprio tale condizione del sussistere di un'unione coniugale intatta, che può essere riconosciuta solo quando il rapporto coniugale è vissuto e vi è una reciproca volontà in relazione al vincolo del matrimonio (sentenza 2C_531/2011 del 19 dicembre 2011 consid. 2.3 con ulteriori rinvii), faceva difetto nella fattispecie.
In base ai vincolanti accertamenti della Corte cantonale (art. 105 LTF), di cui il ricorrente fornisce una lettura differente, ma che non vengono comunque messi in discussione con censure ammissibili (precedente consid. 2.1 segg.), emerge in effetti che - pur continuando la coabitazione - l'unione coniugale si è conclusa ben prima del termine di tre anni previsto dall'art. 50 cpv. 1 lett. a LStr.
Dai verbali delle audizioni eseguite dalla polizia cantonale risulta che, al momento in cui è cessata la loro coabitazione, nel gennaio 2010, il ricorrente e la di lui moglie vivevano oramai da tempo vite separate (verbale d'interrogatorio del 3 dicembre 2010, pag. 1 seg.; verbale d'interrogatorio del 10 dicembre 2010, pag. 1).
A posteriori, chiaro è inoltre che la volontà da parte della moglie del ricorrente di portare avanti il rapporto coniugale è venuta a mancare già a partire dall'introduzione dell'istanza di divorzio, il 29 aprile 2009, ovvero a due anni e qualche mese dall'arrivo del ricorrente in Svizzera.
Dalla sentenza di divorzio pronunciata il 5 febbraio 2010, la cui traduzione in lingua italiana si trova agli atti, risulta infatti che detta istanza non è successivamente più stata ritirata e la procedura ha quindi seguito il suo corso:
il 15 luglio 2009, querela e atti sono stati rimessi al ricorrente per la risposta; il 15 dicembre successivo ha avuto luogo un'udienza preparatoria, nell'ambito della quale la moglie del ricorrente ha confermato che la comunità coniugale non sussisteva più e, dopo la fissazione di due ulteriori udienze, il matrimonio è infine stato sciolto.
4.4 Non essendo l'unione coniugale affatto durata per un periodo di tre anni, il riconoscimento di un permesso di dimora sulla base dell'art. 50 cpv. 1 lett. a LStr dev'essere escluso già solo per questo motivo. A tali condizioni, l'esame del sussistere degli estremi per il riconoscimento di un abuso di diritto è pertanto superfluo.
5. Per quanto precede, in base ad una lecita sostituzione dei motivi indicati dalla Corte cantonale (precedente consid. 2.1) e nella misura in cui risulta essere ammissibile, il ricorso deve essere respinto. Le spese giudiziarie seguono la soccombenza (art. 66 cpv. 1 LTF). Non si assegnano ripetibili ad autorità vincenti (art. 68 cpv. 3 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 2'000.-- sono poste a carico del ricorrente.
3. Comunicazione al ricorrente, alla Sezione della popolazione del Dipartimento delle istituzioni, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino, nonché all'Ufficio federale della migrazione.