Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Die IV-Stelle macht in ihrer Vernehmlassung geltend, auf die Verwaltungsgerichtsbeschwerde sei wegen fehlender Unterschrift nicht einzutreten. Diese prozessuale Frage ist von Amtes wegen zu prüfen.
Nach Art. 30 Abs. 1 OG sind sämtliche Rechtsschriften mit der Unterschrift zu versehen. Fehlt die Unterschrift einer Partei oder eines zugelassenen Vertreters, wird eine angemessene Frist zur Behebung des Mangels angesetzt mit der Androhung, dass die Rechtsschrift sonst unbeachtet bleibe.
Auf der Beschwerdeschrift fehlt die Unterschrift des Versicherten. Der handschriftliche Absender auf dem Zustellkuvert ist nicht lesbar. Das Gericht hätte daher den Verfasser auf den Mangel aufmerksam machen und - selbst nach Ablauf der gesetzlichen Rechtsmittelfrist - eine Frist zur nachträglichen Unterzeichnung ansetzen müssen (<ref-ruling> Erw. 5c; SVR 2001 UV Nr. 7 S. 28 Erw. 4). Am 31. Dezember 2000 ist der Beschwerdeführer verstorben. Seine Erben sind mit Vollmacht vom 18. Januar 2002 in das Verfahren eingetreten, womit der formelle Mangel als nachträglich geheilt betrachtet werden kann.
2.- Die Eidgenössische Rekurskommission hat die vorliegend massgeblichen gesetzlichen Vorschriften und die für alle Angehörigen des ehemaligen Jugoslawien im Verfügungszeitpunkt weiterhin anwendbaren (<ref-ruling> Erw. 3) Staatsvertragsbestimmungen über die Versicherteneigenschaft als Voraussetzung für den Leistungsanspruch gegenüber der Invalidenversicherung sowie über die Entstehung des Anspruches auf eine Invalidenrente zutreffend dargelegt (<ref-law>; Art. 8 lit. b des Abkommens zwischen der Schweizerischen Eidgenossenschaft und der Föderativen Volksrepublik Jugoslawien über Sozialversicherung vom 8. Juni 1962; <ref-law>). Richtig sind ferner auch die vorinstanzlichen Ausführungen zur Frage, unter welchen Voraussetzungen ein jugoslawischer Staatsangehöriger nach der Rechtsprechung (ZAK 1989 S. 449 Erw. 3a, 1987 S. 443 Erw. 2c) als der jugoslawischen Versicherung angehörend und damit als versichert im Sinne von Art. 8 lit. b des Staatsvertrages gilt. Auf diese Erwägungen wird verwiesen.
3.- Wie die Vorinstanz zutreffend festgestellt hat, war der Verstorbene nach dem 5. Juni 1995 weder nach innerstaatlicher Rechtsordnung (mangels Wohnsitz oder Erwerbstätigkeit in der Schweiz) noch nach staatsvertraglicher Vereinbarung versichert. Denn gemäss Bescheinigung des jugoslawischen Sozialversicherungsträgers vom 9. Mai 1997 sind im ehemaligen Jugoslawien Beitragszeiten bis zum 5. Juni 1995 ausgewiesen. Gleichgestellte Zeiten sind keine vermerkt. Es wird auch keine Zugehörigkeit zur heimatlichen Sozialversicherung nach diesem Zeitpunkt behauptet. Der Verstorbene war daher auch aufgrund von Art. 8 lit. b des schweizerisch-jugoslawischen Abkommens nicht versichert, weshalb kein Rentenanspruch besteht. Bezüglich der Begründung kann vollumfänglich auf die Erwägungen im vorinstanzlichen Entscheid verwiesen werden, welchem seitens des Eidgenössischen Versicherungsgerichts auch unter Berücksichtigung der Vorbringen in der Verwaltungsgerichtsbeschwerde nichts beizufügen ist.
Bei den ärztlich festgestellten Leiden geht es um ein labiles pathologisches Geschehen, weshalb bei der Bestimmung des Eintritts der Invalidität nicht von einem stabilisierten Gesundheitsschaden und damit von einer im Sinne von <ref-law> bleibenden Erwerbsunfähigkeit ausgegangen werden kann. Ein Rentenanspruch kann deshalb erst entstehen, wenn während eines Jahres ohne wesentlichen Unterbruch durchschnittlich eine 50%-ige Arbeitsunfähigkeit bestand (Art. 29 Abs. 1 lit. b in Verbindung mit <ref-law>). Der Verstorbene konnte seine Tätigkeit als selbstständiger Landwirt bis 1995 voll ausüben. Vorgängige, länger andauernde krankheitsbedingte Arbeitsunterbrüche sind nicht belegt. Da sich der Anspruch auf eine Rente der schweizerischen Invalidenversicherung allein nach dem internen schweizerischen Recht bestimmt, kommt dem Zeitpunkt des Eintritts des Versicherungsfalles nach dem jugoslawischen Recht keine präjudizielle Bedeutung zu.
4.- Da die Verwaltungsgerichtsbeschwerde offensicht- lich unbegründet ist, wird sie im Verfahren nach Art. 36a OG erledigt.
5.- Dem Antrag auf Bestellung eines unentgeltlichen Rechtsbeistandes kann nicht stattgegeben werden, da die Verwaltungsgerichtsbeschwerde als aussichtslos bezeichnet werden muss (Art. 152 in Verbindung mit Art. 135 OG; <ref-ruling> Erw. 4b, 124 I 306 Erw. 2c).

Demnach erkennt das Eidg. Versicherungsgericht:
I. Die Verwaltungsgerichtsbeschwerde wird abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Das Gesuch um unentgeltliche Verbeiständung wird abgewiesen.
IV. Dieses Urteil wird den Parteien, der Eidgenössischen Rekurskommission der AHV/IV für die im Ausland wohnenden Personen und dem Bundesamt für Sozialversicherung
zugestellt.
Luzern, 15. März 2002
Im Namen des
Eidgenössischen Versicherungsgerichts
Die Vorsitzende der II. Kammer:
Die Gerichtsschreiberin: