Fatti:
A.
A._, cittadino italiano che risiede in Ticino dal 2014, è titolare di una licenza di condurre brasiliana e una italiana. Il 19 gennaio 2015 ha chiesto la conversione di quella brasiliana. Il 27 gennaio 2015 la Sezione della circolazione, rilevato che era stata conseguita in un Paese non corrispondente a quello della sua nazionalità, ha stabilito di poterla considerare solo qualora dimostrasse d'averla ottenuta durante un soggiorno di almeno 12 mesi consecutivi in quel Paese.
B.
Il 3 febbraio 2015 la stessa Sezione, venuta a conoscenza dell'esistenza della patente italiana, ha precisato che per la sua conversione, se rinnovata, non era necessario procedere a una corsa di controllo. L'interessato ha comunicato di non avere né tempo né motivo per chiedere il rinnovo di quella italiana, irreperibile poiché rubata in Spagna ed ha voluto sottoporsi a una corsa di controllo. Era stato avvisato che in caso di non superamento della prova non vi era la possibilità di ripeterla, con conseguente divieto di usare la patente brasiliana in Svizzera. Preso atto dell'esito negativo della corsa, la Sezione ha pronunciato l'annunciato divieto di utilizzare la patente brasiliana in Svizzera.
C.
Il 16 aprile 2015 l'interessato ha chiesto di rilasciargli la licenza di condurre svizzera producendo quella italiana, nel frattempo rinnovata. Il 12 maggio 2015 la Sezione della circolazione gli ha vietato anche l'uso della patente di guida italiana sul territorio elvetico con effetto immediato e per un periodo indeterminato. Con decisione del 19 agosto 2015 il Consiglio di Stato ha confermato i due provvedimenti. Adito dall'interessato, con giudizio del 31 luglio 2017 il Tribunale cantonale amministrativo ne ha respinto il ricorso.
D.
Avverso questa sentenza A._ presenta un ricorso sussidiario in materia costituzionale al Tribunale federale. Chiede di annullarla unitamente a quella governativa e a quella della Sezione, riformandole nel senso di convertire le due patenti di guida estere in una svizzera.
Non sono state chieste osservazioni al ricorso, ma è stato richiamato l'incarto cantonale.

Diritto:
1.
1.1. Il Tribunale federale vaglia d'ufficio se e in che misura un ricorso può essere esaminato nel merito (<ref-ruling> consid. 1).
1.2. Il ricorrente presenta a ragione un ricorso sussidiario in materia costituzionale (art. 113 segg. LTF), visto che la corsa di controllo costituisce un esame di capacità il cui esito, secondo l'art. 83 lett. t LTF, non può essere impugnato con un ricorso in materia di diritto pubblico (<ref-ruling> consid. 1.1; <ref-ruling> consid. 1.1.1 e 1.1.2).
1.3. Secondo l'art. 42 cpv. 1 e 2 LTF, il gravame dev'essere motivato in modo sufficiente, spiegando nei motivi perché l'atto impugnato viola il diritto. Il Tribunale federale esamina in linea di principio solo le censure sollevate (<ref-ruling> consid. 1.7.1 pag. 106). Quando il ricorrente, come in concreto, invoca l'arbitrio nell'accertamento dei fatti e nella valutazione delle prove, poiché ciò equivale a sostenere che i fatti sono stati accertati in violazione dell'<ref-law> (<ref-ruling> consid. 2.4 pag. 313), il Tribunale federale, in applicazione dell'<ref-law>, esamina le censure soltanto se siano state esplicitamente sollevate e motivate in modo chiaro e preciso (<ref-ruling> consid. 1.2.2 pag. 286).
1.4. Il Tribunale federale fonda il suo ragionamento giuridico sui fatti accertati dall'autorità inferiore (<ref-law>). Esso può scostarsene solo se tale accertamento è stato eseguito in violazione del diritto ai sensi dell'<ref-law> o in modo manifestamente inesatto, ovvero arbitrario (<ref-ruling> consid. 6 pag. 358; <ref-ruling> consid. 1.6 pag. 24). Questa censura necessita di una motivazione qualificata (<ref-ruling> consid. 2.2 pag. 23).
2.
2.1. Il ricorrente, nato nel 1955, rileva d'aver soggiornato in Brasile fino al 2014 e d'avere poi trasferito il proprio domicilio in Svizzera. Sostiene che non sarebbe stato informato del fatto che un eventuale diniego della conversione della licenza brasiliana avrebbe comportato anche quello della patente italiana, motivo per cui ha optato per la conversione di quella brasiliana, nella convinzione che la corsa di controllo assurgesse a un mero atto formale volto ad accertare la padronanza di utilizzare un autoveicolo e che un eventuale mancato superamento della stessa non avrebbe pregiudicato la richiesta di conversione della patente italiana. Insiste sul fatto che la corsa di controllo differisce dall'esame pratico di guida, sostenendo ch'egli sarebbe stato sottoposto "de facto" a un siffatto esame.
2.2. Secondo l'art. 42 cpv. 3bis lett. a dell'ordinanza del 27 ottobre 1976 sull'ammissione alla circolazione di persone e veicoli (OAC; RS 741.51), i conducenti di veicoli a motore provenienti dall'estero, residenti in Svizzera da 12 mesi e che durante questo periodo non hanno soggiornato per più di tre mesi consecutivi all'estero hanno bisogno di una licenza di condurre svizzera. L'<ref-law> dispone che al titolare di una licenza di condurre nazionale straniera valevole è rilasciata la licenza di condurre svizzera della rispettiva categoria se, durante una corsa di controllo, dimostra di conoscere le norme della circolazione ed è in grado di condurre in modo sicuro veicoli delle categorie per le quali la licenza è valevole. Questa prova permette all'autorità di accertare in maniera efficace, tramite l'intervento di esperti, l'idoneità pratica alla guida anche di questi conducenti (sentenza 2A.735/2004 del 1° aprile 2005 consid. 3.1). Giusta l'art. 150 cpv. 5 lett. e OAC, l'Ufficio federale delle strade (USTRA) può rinunciare alla corsa di controllo nei confronti di conducenti di Stati che, in materia di formazione ed esame di guida, pongono esigenze analoghe a quelle che vigono in Svizzera; tra questi Paesi figura l'Italia (allegato 2 alla circolare 1° ottobre 2013 dell'USTRA), ma non il Brasile, ciò che il ricorrente rettamente non contesta.
2.3. La Corte cantonale ha rilevato che in occasione di una corsa di controllo il conducente deve provare d'essere in grado, anche in una situazione difficile di traffico, di condurre secondo le norme della circolazione stradale, nonché in modo sicuro e adatto alle circostanze un veicolo della categoria corrispondente alla licenza. Sotto questo profilo un tale esame assomiglia a quello pratico di guida, ma il suo scopo, contrariamente a quest'ultimo, non è di stabilire con Io stesso grado di certezza come per il rilascio della patente che tutte le relative condizioni siano adempiute cumulativamente, ma unicamente di verificare, di primo acchito, se il conducente possieda le conoscenze, le capacità e l'abilità necessarie alla condotta sicura di un veicolo. Ha precisato che la corsa può essere più corta dell'esame pratico di guida e non comporta necessariamente tutte le prove esatte dalla legge. Le sue modalità di svolgimento erano concretate nelle Direttive n. 19b dell'Associazione dei servizi della circolazione (ASA) del 26 novembre 2010, che non costituiscono norme giuridiche e di conseguenza non vincolano i Tribunali. Esse permettono tuttavia di sviluppare una prassi amministrativa uniforme, stabilendo criteri comuni ed adeguati sull'esecuzione, l'estensione e la valutazione di un tale esame (cfr. sentenza 1C_49/2014 del 25 giugno 2014 consid. 2). La corsa è superata se l'interessato prova di conoscere le regole della circolazione e d'essere in grado dl condurre in modo sicuro. L'accertamento di uno dei criteri elencati alla cifra 72 delle direttive conduce, di regola, alla bocciatura della corsa (anticipo insufficiente, messa in pericolo concreta o astratta accresciuta in ragione di un'osservazione inadatta, osservazione inefficace nell'ambito di un cambio di direzione, velocità non adatta alle condizioni della strada, del traffico e della visibilità, gravi errori nell'utilizzo della strada, applicazione insufficiente delle regole di precedenza, gravi errori nell'utilizzo del veicolo, altre inosservanze di regole della circolazione analoghe che, secondo l'esperienza, possono condurre a degli incidenti). Per principio, la corsa di controllo non può essere ripetuta (<ref-law>).
I giudici cantonali hanno aggiunto che nella valutazione dell'attitudine alla guida di un conducente, gli esperti ufficiali della circolazione fruiscono di un ampio margine discrezionale, il cui esercizio può essere censurato da parte della Corte cantonale unicamente nella misura in cui integra gli estremi della violazione del diritto, segnatamente sotto il profilo dell'eccesso o dell'abuso dl potere, per cui non può sostituire il proprio apprezzamento a quello del perito.
2.3.1. La Corte cantonale ha rilevato che dalla scheda di esame allestita dall'esperto sulla corsa di controllo svoltasi il 10 marzo 2015, nonché dalla nota del 21 novembre 2016 del Servizio esami della Sezione della circolazione risulta che il ricorrente ha mostrato debolezze sotto il profilo dell'osservazione della circolazione, della tattica di guida, del rispetto delle procedure di circolazione e delle manovre, manifestando in particolare le seguenti manchevolezze: osservazione spesso troppo rapida, l'angolo morto non è praticamente mai stato controllato (rilevato che anche se il veicolo era munito di un controllo elettronico di tale angolo, occorreva nondimeno controllarlo con un colpo d'occhio), gli specchi non venivano utilizzati sufficientemente, vi erano forti manchevolezze nell'osservazione in particolare al momento di svoltare; nonostante la presenza di una segnaletica avanzata che indicava un divieto di accesso dopo 250 m, il ricorrente l'ha oltrepassato senza considerarlo; anche nelle aree a percorso rotatorio non è mai stato osservato l'angolo morto nella manovra di uscita; infine, le traiettorie e gli spostamenti non sono stati eseguiti correttamente. La Corte cantonale, considerata l'entrata in vigore di una modifica legislativa, non ha invece tenuto conto del rimprovero mosso all'esecuzione di una manovra di retromarcia.
2.3.2. Ha ritenuto che l'esito negativo della prova non è dipeso da piccole sbavature prive di importanza, ma da un comportamento del ricorrente sotto più punti di vista pericoloso e inadeguato, in particolare riguardo alle evidenti lacune circa l'osservazione della circolazione, di per sé da lui non contestate. Non ha infatti negato che in generale l'osservazione è stata troppo rapida, né di non avere praticamente mai controllato l'angolo morto e di non averlo mai fatto nelle aree a percorso rotatorio; nemmeno ha preteso d'aver sistematicamente e in modo corretto utilizzato gli specchi e rispettato la corretta tecnica d'osservazione, in particolare al momento di effettuare cambi di direzione. Ha poi considerato che non sussistono motivi per dubitare dell'accertamento di queste carenze, ripetute, rilevate dall'esperto, in particolare dell'insufficienza tecnica di osservazione che aumenta il rischio che altri utenti della strada non vengano riconosciuti per tempo.
2.4. Il ricorrente rileva che l'esperto facendo capo al "rapporto esame pratico di guida" utilizzato per valutare l'esame pratico di conducente giusta l'<ref-law>, l'avrebbe quantomeno de facto sottoposto arbitrariamente a un esame pratico di conducente. A sostegno di questo assunto critica, in maniera del tutto generica, le modalità di svolgimento della corsa e l'attitudine dell'esaminatore, che durante la stessa avrebbe manifestato un atteggiamento poco cortese e professionale, polemizzando asseritamente contro i lavoratori frontalieri, coinvolgendolo in una discussione fuori luogo, atta a distogliere la sua attenzione. Di queste critiche non vi è riscontro nella decisione impugnata, né il ricorrente fa valere che la Corte cantonale, non trattandole benché accennate, sarebbe incorsa in un diniego di giustizia.
2.5. Del resto, l'assunto ch'egli sarebbe stato sottoposto a prove del tutto estranee a una corsa di controllo non trova riscontro negli atti di causa, per cui gli accertamenti di fatto posti a fondamento del giudizio impugnato, non contestati con la necessaria motivazione qualificata sono vincolanti (<ref-law>; <ref-ruling> consid. 3.2 pag. 444). Insistendo sulle modalità della manovra di retromarcia, il ricorrente parrebbe disattendere che detto rimprovero non è stato ritenuto dalla Corte cantonale, mentre riguardo al superamento di un divieto di accesso, si limita a osservare che l'esperto gli avrebbe improvvisamente detto di svoltare a sinistra.
2.6. Circa l'accertamento dei fatti, il ricorrente rileva che il Tribunale cantonale amministrativo, in parziale accoglimento di un suo primo ricorso, aveva annullato la decisione governativa per violazione del diritto di essere sentito (carenza di motivazione) e rinviato l'incarto al Consiglio di Stato al fine di interpellare l'esperto e specificare nel dettaglio le manchevolezze rimproverategli (sentenza del 18 ottobre 2016 n. incarto 52.2015.426). A torto egli accenna a un ulteriore diniego formale di giustizia e a una nuova violazione del suo diritto di essere sentito a causa della pretesa carente motivazione anche della successiva decisione governativa, vizio che la Corte cantonale non avrebbe potuto sanare in considerazione del suo limitato potere d'esame. Come a ragione ritenuto dai giudici cantonali, la decisione governativa, esprimendosi sui punti essenziali e pertinenti dell'oggetto del litigio, adempie infatti le esigenze di motivazione imposte dall'<ref-law> (<ref-ruling> consid. 4.2 pag. 157) e il ricorrente ha potuto prendere conoscenza ed esprimersi su tutti gli atti di causa (<ref-ruling> consid. 5.3 pag. 17; <ref-ruling> consid. 4.1 pag. 72).
La censura concerne del resto il merito della vertenza, poiché al riguardo il ricorrente fa valere che la decisione impugnata contraddirebbe gli accertamenti e le conclusioni di quella precedente, con la quale il suo ricorso era stato parzialmente accolto. La critica non regge, ritenuto che, in seguito al complemento degli atti e all'acquisizione della nota del 21 novembre 2016 dell'esperto, la Corte cantonale, contrariamente alla sua precedente sentenza, ha esaminato nel merito le censure. Del resto, l'opinabile obiter dictum, contenuto nella precedente sentenza, secondo cui non si sarebbe potuto imputare al ricorrente d'aver tenuto un comportamento nel complesso gravemente insicuro durante lo svolgimento della corsa, formulato sulla base di accertamenti incompleti e nel quadro di una decisione limitata all'esame di questioni formali, non contraddice il giudizio di merito differenziato e ragionevolmente differente, fondato su una valutazione complessiva dei fatti e delle prove.
Nella nota del 21 novembre 2016 l'esperto ha precisato lo svolgimento della corsa, osservando che durante la stessa il clima era tranquillo e rilassato, ch'essa è stata eseguita e giudicata secondo le relative direttive e non come un esame pratico di guida, tenendo anche conto del bagaglio di conoscenze del ricorrente, al quale erano stati spiegati gli errori rimproveratigli e che questi li aveva ammessi e accettati. I generici e appellatori accenni di critica a questi fatti e circostanze non li fanno apparire come addirittura insostenibili e quindi arbitrari.
2.7. Il rilievo del ricorrente, secondo cui il suo autoveicolo (Porsche Cayenne) è dotato di un sistema elettronico di controllo dell'angolo morto, non è decisivo. La Corte cantonale ha infatti ritenuto, a ragione, che durante una corsa di controllo l'interessato deve dimostrare di saper guidare con tutti i veicoli della categoria d'esame e non solo con uno specifico modello dotato di determinati sensori. Neppure il fatto che determinati punti di valutazione sono stati lasciati in bianco, e quindi giudicati positivamente dall'esperto, e che quest'ultimo, visto che la vettura privata non disponeva dei doppi comandi, non abbia sospeso la corsa, militano in favore di un esito positivo della stessa. Il ricorrente del resto non contesta la tesi dei giudici cantonali secondo cui spetta all'esperto decidere se portare a termine o no la corsa. L'assunto per il quale la violazione di un divieto di circolazione non significherebbe ch'egli non conosca le norme della circolazione o che non avrebbe commesso una negligenza tale da ritenere ch'egli rappresenti un pericolo per gli altri utenti della strada, appare inoltre poco serio. Le critiche ricorsuali, appellatorie, non reggono (sentenza 1C_225/2009 del 4 novembre 2009 consid. 2, non pubblicato in DTF <ref-ruling>).
Con riferimento alla mancata osservazione dell'angolo morto, alle traiettorie e agli spostamenti da lui non eseguiti correttamente, il ricorrente si limita a rilevare che l'esperto non gli avrebbe segnalato subito ma neppure al termine della corsa queste manchevolezze. Questi rilievi, comunque non decisivi, contrastano con quanto contenuto nella nota del 21 novembre 2016, dalla quale non vi è motivo di scostarsi. L'accenno al fatto che nel caso di specie durante la corsa di controllo non sarebbe stata messa concretamente in pericolo l'incolumità di terzi non è manifestamente decisivo.
3.
3.1. Il ricorrente adduce che le procedure di conversione delle due patenti di guida sarebbero indipendenti l'una dall'altra. Ne deduce che la richiesta di convertire quella italiana, nel quadro della quale l'autorità estera ha accertato la sua capacità di condurre, dovrebbe essere accolta senza ulteriori formalità e che, in ogni caso, nel quadro di questa ulteriore distinta procedura si dovrebbe indire una nuova corsa di controllo.
3.2. Dagli atti di causa risulta che il ricorrente era stato informato del fatto che producendo la patente italiana non doveva sottoporsi ad alcun esame; in caso di inoltro di quella brasiliana occorreva invece effettuare una corsa di controllo, non ripetibile, comportante in caso di esito negativo il divieto di fare uso della patente straniera in Svizzera. Egli di per sé non contesta l'argomento secondo cui la corsa di controllo non può essere ripetuta (<ref-law>). Né tenta di confutare la tesi dei giudici cantonali per la quale al conducente che non supera una corsa di controllo fa difetto la capacità di condurre, per cui la o le relative licenze gli devono essere revocate e, in rispetto della sovranità dello Stato estero, rettamente non "revocate, ma vietarne il loro uso a tempo indeterminato per motivi di sicurezza in Svizzera (art. 29 cpv. 2 lett. a e art. 45 cpv. 1 AOC; sentenza 1C_556/2016 del 14 giugno 2017 consid. 4.3). La Corte cantonale, richiamando prassi e dottrina con le quali il ricorrente non si confronta, ha infatti osservato che, in seguito al mancato esito favorevole di una corsa di controllo, il divieto di utilizzare una patente estera, logicamente, deve di regola estendersi a tutte quelle conseguite all'estero di cui il conducente dispone, allo scopo di allontanare dalla circolazione, per ragioni di sicurezza, quelli che non hanno comprovato la necessaria capacità di condurre. Non è pertanto per nulla arbitraria la conclusione di negare, dopo la pronuncia di un divieto d'uso di una patente estera in seguito al mancato superamento della corsa di controllo, la ripetizione di quest'ultima. Al ricorrente rimane nondimeno aperta la possibilità di chiedere una licenza per allievo conducente (art. 29 cpv. 2 lett. a secondo periodo AOV).
4.
In quanto ammissibile, il ricorso dev'essere quindi respinto. Le spese seguono la soccombenza (<ref-law>).

Per questi motivi, il Tribunale federale pronuncia:
1.
Nella misura in cui è ammissibile, il ricorso è respinto.
2.
Le spese giudiziarie di fr. 3'000.-- sono poste a carico del ricorrente.
3.
Comunicazione al patrocinatore del ricorrente, al Dipartimento delle istituzioni, al Consiglio di Stato, al Tribunale amministrativo del Cantone Ticino e all'Ufficio federale delle strade.