Sachverhalt:
A.
Der 1955 geborene A._ meldete sich im März 2015 zum wiederholten Mal zum Rentenbezug bei der Invalidenversicherung an. Die IV-Stelle des Kantons Aargau trat auf die Neuanmeldung ein und traf Sachverhaltsabklärungen. Am 9. September 2015 ersuchte A._ um Gewährung der unentgeltlichen Verbeiständung für das Verwaltungsverfahren. Mit Verfügung vom 16. November 2015 wies die IV-Stelle das Gesuch mit der Begründung ab, eine anwaltliche Verbeiständung sei nicht erforderlich.
B.
A._ erhob hiegegen Beschwerde. Zudem ersuchte er um Gewährung der unentgeltlichen Verbeiständung für das Beschwerdeverfahren. Mit Entscheid vom 2. Juni 2016 wies das Versicherungsgericht des Kantons Aargau die Beschwerde und, weil sie diese als aussichtslos beurteilte, das Gesuch um unentgeltliche Verbeiständung ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt A._ sinngemäss, in Aufhebung der Verfügung vom 16. November 2015 und des vorinstanzlichen Entscheides sei für das Verwaltungs- sowie das kantonale Verfahren die unentgeltliche Verbeiständung zu gewähren. Mit einer weiteren Eingabe ersucht er sodann um Gewährung der unentgeltlichen Rechtspflege für das bundesgerichtliche Verfahren.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wird nicht durchgeführt.

Erwägungen:
1.
Der vorinstanzliche, auf Verneinung des Anspruchs auf unentgeltliche Verbeiständung im Verwaltungs- und im kantonalen Verfahren lautende Entscheid stellt einen durch den Versicherten anfechtbaren Zwischenentscheid im Sinne von <ref-law> dar (<ref-ruling>; SVR 2015 IV Nr. 18 S. 53, 8C_557/2014 E. 2). Die übrigen Voraussetzungen für das Eintreten auf die Beschwerde sind ebenfalls erfüllt.
2.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss Art. 95 und Art. 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es kann die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht nur insofern prüfen, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
3.
3.1. Gemäss <ref-law> wird der gesuchstellenden Person im Verwaltungsverfahren ein unentgeltlicher Rechtsbeistand bewilligt, wo die Verhältnisse es erfordern. Nach der Rechtsprechung ist eine anwaltliche Verbeiständung im Verwaltungsverfahren nur in Ausnahmefällen erforderlich. Es müssen sich schwierige Fragen rechtlicher oder tatsächlicher Natur stellen. Zu berücksichtigen sind die konkreten Umstände des Einzelfalls, Eigenheiten der anwendbaren Verfahrensvorschriften sowie weitere Besonderheiten des jeweiligen Verfahrens. Neben der Komplexität der Rechtsfragen und der Unübersichtlichkeit des Sachverhalts fallen auch bei der versicherten Person liegende Gründe in Betracht, etwa ihre Fähigkeit, sich im Verfahren zurechtzufinden. Schliesslich muss eine gehörige Interessenwahrung durch Verbandsvertreter, Fürsorgestellen oder andere Fach- und Vertrauensleute sozialer Institutionen ausser Betracht fallen (SVR 2016 IV Nr. 17 S. 50, 8C_931/2015 E. 3; vgl. auch <ref-ruling> E. 4.1 S. 201; erwähntes Urteil 8C_557/2014 E. 4.2; je mit Hinweisen). Das Bundesgericht prüft die sachliche Gebotenheit der anwaltlichen Vertretung als Rechtsfrage frei (erwähnte Urteile 8C_931/2015; 8C_557/2014 E. 4.1; je mit Hinweis).
3.2. Die Vorinstanz hat hier einen solchen Ausnahmefall zu Recht verneint. Besondere Erschwernisse, wie sie etwa im Falle einer gerichtlich erstrittenen Rückweisung durch ein Gericht an die Verwaltung zur ergänzenden medizinischen Abklärung bejaht wurden (erwähntes Urteil 8C_557/2014 E. 5.2.1 mit Hinweis), lagen nicht vor. Was in der Beschwerde vorgebracht wird, vermag kein anderes Ergebnis zu begründen. Die IV-Stelle hat eine verwaltungsexterne medizinische Begutachtung angeordnet. Es kann daher nicht gesagt werden, sie nehme die Beschwerden des Versicherten nicht ernst. Auch sonst ergeben sich keine Hinweise für eine solche Einstellung der Verwaltung. Daher kann offenbleiben, ob das Verwaltungsverfahren andernfalls als besonders schwierig zu qualifizieren wäre. Die zur medizinischen Abklärung geltend gemachten Umstände (Einwände gegen einen RAD-Arzt; Zeitpunkt der Auftragserteilung an die Begutachtungsstelle; Ergänzungsfragen an diese sowie Zeitpunkt der Erstellung des Gutachtens) gehören zum üblichen Ablauf eines Verwaltungsverfahrens. Würde deswegen auf eine besondere Komplexität erkannt, müsste der Anspruch auf unentgeltliche Verbeiständung in praktisch allen Verwaltungsverfahren bejaht werden, in denen medizinische Unterlagen zur Diskussion stehen. Das widerspräche jedoch der Konzeption von <ref-law> als einer Ausnahmeregelung (erwähntes Urteil 8C_931/2015 E. 5.2; vgl. auch Urteil 9C_486/2013 vom 2. Dezember 2013 E. 3.1, nicht publ. in: <ref-ruling>, aber in: SVR 2014 IV Nr. 26 S. 91). Das kantonale Gericht hat dies zutreffend erkannt.
Es hat sich entgegen der in der Beschwerde vertretenen Auffassung auch hinreichend mit der angefochtenen Verfügung und den dagegen erhobenen Einwänden auseinandergesetzt. Soweit der Beschwerdeführer geltend macht, er sei mit den Verfahrensregeln nicht vertraut und beherrsche die deutsche Sprache nicht, vermag dies seinen Standpunkt ebenfalls nicht zu stützen. Solche Umstände genügen nicht, um den Beistand eines Anwaltes - anstelle von Verbandsvertretern, Fürsorgestellen oder anderen Fach- und Vertrauensleute sozialer Institutionen - für erforderlich zu erachten (vgl. erwähntes Urteil 9C_486/2013 E. 3.2.1 mit Hinweisen). Daher muss nicht weiter darauf eingegangen werden, ob die Vorinstanz zu Recht erkannt hat, der Versicherte spreche nach Lage der Akten genügend deutsch.
Auch die weitere Rüge des Beschwerdeführers, Korrespondenz der Verwaltung sei teilweise an ihn statt an den Rechtsvertreter gegangen, lässt das Verwaltungsverfahren nicht als besonders schwierig erscheinen. Die - nicht belegte - Behauptung, die IV-Stelle gewähre nie die unentgeltliche Verbeiständung und werde darin durch die Vorinstanz geschützt, rechtfertigt ebenfalls keine andere Betrachtungsweise. Das kantonale Gericht hat die Beschwerde daher zu Recht abgewiesen. Damit wurde entgegen der - ohnehin nicht weiter begründeten - Rüge in der Beschwerde auch der Grundsatz des fairen Verfahrens resp. der Waffengleichheit nicht verletzt.
4.
Die Vorinstanz hat, unter Bezugnahme auf ihre oben behandelten Erwägungen, dargelegt, weshalb sie zum Schluss gelangt ist, die bei ihr eingereichte Beschwerde sei als aussichtslos zu betrachten und die unentgeltliche Verbeiständung für das kantonale Verfahren sei zu verweigern. Diese Beurteilung entspricht ebenfalls Gesetz und Praxis (<ref-law>; <ref-ruling> E. 9 S. 536 f.). Der Versicherte beschränkt sich diesbezüglich auf sehr kurz gefasste und allgemein gehaltene Kritik. Damit vermag er auch in diesem Punkt keine Zweifel am angefochtenen Entscheid zu begründen.
5.
Die Vorbringen des Versicherten sind auch nicht ansatzweise geeignet, den angefochtenen Entscheid in Frage zu stellen. Die offensichtlich unbegründete Beschwerde ist im Verfahren nach <ref-law> abzuweisen.
6.
Die Kosten des Verfahrens sind vom unterliegenden Beschwerdeführer zu tragen (<ref-law>). Das Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren ist wegen Aussichtslosigkeit der Beschwerde abzuweisen (Art. 64 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Parteien und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 13. September 2016
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Der Gerichtsschreiber: Lanz