Das Eidg. Versicherungsgericht zieht in Erwägung:
1.- Der Beschwerdegegner war seit 1996 bevormundet. Mit Verfügung vom 18. Januar 2001 des Oberamtes X._ wurde die Vormundschaft aufgehoben und neu eine Beistandschaft im Sinne von Art. 392 und 393 ZGB errichtet. Zum
Beistand wurde der vormalige Vormund, W._, ernannt.
a) Eine Vertretungsbeistandschaft im Sinne von <ref-law> ändert zwar nichts an der Handlungsfähigkeit der verbeiständeten Person, doch vermag diese aus einem vorübergehenden Grund (Krankheit, Abwesenheit) faktisch nicht oder nur ungenügend zu handeln. Der Beistand übernimmt daher die Vertretung der vorübergehend an der Teilnahme am Rechtsverkehr verhinderten Person. Die Vertretungsmacht leitet sich aus dem Gesetz ab und ist nicht vom Willen des Vertretenen abhängig (Bernhard Schnyder/Erwin Murer, Berner Kommentar zum schweizerischen Privatrecht, Band II, Abt. 3, 1. Teilband: Systematischer Teil und Kommentar zu den Art. 360 - 397 ZGB, Bern 1984, N 16, N 18 zu <ref-law>). Für den Beistand gelten, soweit keine besonderen Vorschriften aufgestellt sind, die Bestimmungen des ZGB über den Vormund (<ref-law>). Nach <ref-law> vertritt der Vormund den Bevormundeten in allen rechtlichen Angelegenheiten, unter Vorbehalt der Mitwirkung der vormundschaftlichen Behörden. Die Zustimmung der Vormundschaftsbehörde ist namentlich für die Prozessführung erforderlich (<ref-law>). Der Beistand seinerseits hat die Anweisungen der Vormundschaftsbehörde genau zu beachten, wenn ihm die Besorgung einer einzelnen Angelegenheit übertragen wird (<ref-law>).
b) Nachdem die Vormundschaftsbehörde der Einwohnergemeinde E._ dem Beistand des Beschwerdegegners die
Genehmigung zur Prozessführung erteilt hatte, als dieser noch als dessen Vormund amtete, ist davon auszugehen, dass diese Genehmigung auch im Rahmen der Vertretungsbeistandschaft im Sinne von <ref-law> gilt, zumal die Beistandschaft gemäss Ernennungsakt nicht auf eine bestimmte Angelegenheit beschränkt wurde. Der Beschwerdegegner ist somit rechtmässig vertreten.
2.- Die Ausgleichskasse hat in der Verfügung vom 17. November 1998 sowohl die Leistungsberechnung für das Jahr 1997 (recte: Verfügung vom 21. Februar 1997) wie auch diejenige ab dem 1. Mai 1998 (Verfügung vom 5. Juni 1998) überprüft. Dazu war sie aufgrund der Rückweisung des Verfahrens durch die Vorinstanz befugt. Aus unersichtlichen Gründen wurde jedoch die Leistungsberechnung zwischen 1. Januar 1998 und 30. April 1998 (Verfügung vom 1. Januar 1998) nicht in die Neubeurteilung einbezogen. Die Beschwerde richtete sich gegen die Verfügung vom 17. November 1998. Obwohl damit rein formell die Verfügung vom 1. Januar 1998 nicht erfasst ist, hat die Vorinstanz den Verfahrensgegenstand zu Recht auf diese Verfügung ausgedehnt. Die Verfügung vom 17. November 1998 (sowie jene vom 1. Januar 1998) ist mithin sowohl unter Berücksichtigung der für das Jahr 1997 wie auch unter der ab dem 1. Januar 1998 geltenden Fassung des ELG zu überprüfen.
a) Gemäss Art. 2 Abs. 1 ELG (in der ab 1. Januar 1997 für das Jahr 1997 geltenden Interimsfassung, geändert durch die 10. AHV-Revision vom 7. Oktober 1994) ist den in den Art. 2a-c bezeichneten Schweizer Bürgern mit Wohnsitz und gewöhnlichem Aufenthalt in der Schweiz ein Anspruch auf Ergänzungsleistungen einzuräumen, soweit das anrechenbare Jahreseinkommen einen bestimmten Grenzbetrag nicht erreicht. Dabei entspricht die jährliche Ergänzungsleistung gemäss Art. 5 Abs. 1 des bis 31. Dezember 1997 geltenden aELG dem Unterschied zwischen der massgebenden Einkommensgrenze und dem anrechenbaren Jahreseinkommen.
Nach Art. 4 Abs. 1 lit. b aELG können die Kantone für den Mietzins, soweit er bei Alleinstehenden Fr. 800. - im
Jahr übersteigt, einen Abzug von höchstens Fr. 11'200. - zulassen. Von dieser Ermächtigung hat der Kanton Solothurn
Gebrauch gemacht (§ 3 der kantonalen Verordnung zum Gesetz über Ergänzungsleistungen zur Alters-, Hinterlassenen- und Invalidenversicherung, VEL, BGS 831. 32, in der bis zum 30. Juni 1998 geltenden Fassung). Leben Alleinstehende dauernd oder für längere Zeit in einem Heim oder einer Heilanstalt, so entspricht die Ergänzungsleistung der Differenz zwischen den Ausgaben (Tagestaxe, Betrag für persönliche Auslagen, Abzüge gemäss aELG) und den gemäss aELG anrechenbaren Einkommensteilen. Sie darf jedoch die erhöhte Einkommensgrenze für Alleinstehende nach den Art. 2 Abs. 1bis und 4 Abs. 1 lit. d aELG nicht übersteigen (Art. 1a Abs. 1 aELV).
b) Gemäss Art. 2 Abs. 1 ELG (in der ab 1. Januar 1998 geltenden Fassung) haben Schweizer Bürger und Bürgerinnen mit Wohnsitz und gewöhnlichem Aufenthalt in der Schweiz Anspruch auf Ergänzungsleistungen, wenn sie eine der Voraussetzungen nach den Art. 2a - 2d ELG erfüllen und die gesetzlich anerkannten Ausgaben (Art. 3b ELG) die anrechenbaren Einnahmen (Art. 3c ELG) übersteigen. Dabei entspricht die jährliche Ergänzungsleistung dem Betrag, um den die anerkannten Ausgaben die anrechenbaren Einnahmen übersteigen (Art. 3a Abs. 1 ELG). Für Personen, die nicht dauernd oder längere Zeit in einem Heim oder Spital leben (zu Hause wohnende Personen), gehören zu den anrechenbaren Ausgaben namentlich der Mietzins einer Wohnung und die damit zusammenhängenden Nebenkosten (Art. 3b Abs. 1 lit. b ELG), und zwar bis zu einem Höchstbetrag von Fr. 12'000. - bei Alleinstehenden (Art. 5 Abs. 1 lit. b Ziff. 1 ELG). Bei Personen, die dauernd oder längere Zeit in einem Heim oder Spital leben (in Heimen wohnende Personen), sind als Ausgaben namentlich die Tagestaxe sowie der Betrag für persönliche Auslagen zu berücksichtigen (Art. 3b Abs. 2 ELG).
c) Sowohl nach der im Jahr 1997 gültigen wie auch nach der ab 1998 geltenden Fassung des ELG ist für die Berechnung der Ergänzungsleistungen zwischen Heimbewohnern und -bewohnerinnen einerseits und zu Hause lebenden Leistungsansprechern und -ansprecherinnen andererseits zu unterscheiden. Bei Ersteren sind die Wohnkosten in der Tagestaxe des Heimes eingeschlossen, während bei Letzteren die Mietkosten zum erforderlichen Lebensbedarf hinzuzuzählen sind. In beiden Fällen werden die Wohnkosten als Grundlage der Existenzsicherung, die den Zweck der EL darstellt (ZAK 1992 S. 326 Erw. 1b), in der EL-Berechnung berücksichtigt. Davon geht auch Art. 4 Abs. 1 lit. b Halbsatz 2 aELG aus, der festhält, Bewohnern von Heimen und Heilanstalten könne kein Mietzinsabzug gewährt werden. Der Grund dafür liegt darin, dass bereits in der Tagestaxe des Heimes oder der Heilanstalt Wohnkosten enthalten sind und mithin über die Ergänzungsleistungen vergütet werden (ZAK 1992 S. 489 f. Erw. 3b und c). Keinesfalls geht es indessen an, effektiv entstandene Wohnkosten überhaupt nicht - weder auf die eine noch die andere Weise - zu berücksichtigen. Die von der Ausgleichskasse vorgebrachte Begründung, die gewählte Wohnform entspreche weder einem Heimaufenthalt noch dem selbständigen Wohnen in der eigenen Wohnung und habe eher Therapie- und Nothilfe-Charakter, ist daher nicht stichhaltig. Liegt kein Heimaufenthalt vor, so sind Wohnkosten - soweit vorhanden - als Mietkosten in die Berechnung einzubeziehen. Etwas anderes ergibt sich auch nicht aus Rz 3022 der Wegleitung des BSV über die Ergänzungsleistungen zur AHV und IV (WEL), wonach bei entgeltlichem Aufenthalt bei Dritten - ausgenommen nahe Verwandte und Heime - ein Drittel der Pensionskosten als Mietzins berücksichtigt werden kann, sofern der auf die Miete entfallende Kostenanteil nicht bekannt ist. Diese Verwaltungsweisung besagt einzig, dass ohne weitere Abklärungen über die tatsächlichen Verhältnisse ein Pauschalbetrag (nämlich ein Drittel der effektiv entrichteten Pensionskosten) berücksichtigt werden darf. Entgegen der Annahme der Ausgleichskasse wird damit keineswegs impliziert, ein Kostenanteil könne unter bestimmten Voraussetzungen auch nicht berücksichtigt werden. Dem würde ja allein schon Rz 3024 WEL widersprechen, wo ein Mietzinsabzug explizit auch gewährt wird, wenn die Wohnkosten (teilweise) durch Fürsorgebehörden oder in fürsorgerischer Weise durch Dritte oder Verwandte übernommen werden. Schliesslich spricht - entgegen der Annahme der Ausgleichskasse - auch die Tatsache nicht gegen die Berücksichtigung von Mietkosten, dass die Unterbringungskosten allenfalls von der kantonalen Sozialhilfe übernommen werden; denn öffentliche Fürsorgeleistungen sind im Verhältnis zu den Ergänzungsleistungen subsidiär (<ref-ruling> Erw. 1c).
3.- Steht somit fest, dass die Wohnkosten entweder unter dem Titel der Mietkosten oder im Rahmen der Tagestaxe zu berücksichtigen sind, bleibt zu prüfen, ob vorliegend ein Heimaufenthalt im Sinne von Art. 1a aELV bzw. von
Art. 3b Abs. 2 ELG gegeben ist.
a) Ein Heimaufenthalt im Sinne des ELG setzt voraus, dass Heimbedürftigkeit besteht und dass die fragliche Institution insbesondere unter organisatorischen, infrastrukturellen und personellen Gesichtspunkten Gewähr dafür bietet, die Heimbedürftigkeit in adäquater Weise befriedigen zu können. Nicht entscheidend ist die Anzahl der betreuten Personen. Unter diesen Voraussetzungen können auch heimähnliche Institutionen, wie Pflegefamilien, heilpädagogische Grossfamilien und Invaliden-Wohngemeinschaften den Heimbegriff gemäss ELG erfüllen, und zwar (aufgrund des bundesrechtlichen Charakters dieser ELG-rechtlichen Regelung für Heimbewohner) auch dann, wenn sie den Heimbegriff nach kantonalem Heim- bzw. Fürsorgerecht nicht erfüllen und daher keine kantonale oder kommunale Bewilligung zur Pflege und Betreuung von Drittpersonen besitzen (<ref-ruling> Erw. 2b). Diese noch unter altem Recht ergangene Rechtsprechung ist auch im Rahmen des seit dem 1. Januar 1998 geltenden ELG anwendbar. Die EL-Berechnung für Heimbewohner setzt ferner voraus, dass es sich um einen längeren oder dauernden Aufenthalt handelt (Art. 1a aELV - dessen Gesetzmässigkeit in ZAK 1992 S. 488 Erw. 3a bejaht wurde - bzw. Art. 3b Abs. 2 ELG).
b) Der Beschwerdegegner hat seit April 1996 praktisch ununterbrochen in der Wohngruppe der Auffangstation Y._ gewohnt. Gemäss der Dokumentation der Auffangstation Y._ handelt es sich bei der "Wohngruppe" um ein betreutes Wohnangebot. Die Wohngruppe wendet sich an Menschen, "die für ihre weitere Entwicklung den Rahmen eines betreuten Wohnangebotes brauchen. Die Bewohner und Bewohnerinnen stimmen einem mindestens dreimonatigen Aufenthalt zu und sind mit einer persönlichen Beratung und Betreuung einverstanden. Sie müssen bereit sein, sich mit ihrer persönlichen Situation engagiert auseinanderzusetzen, die Hausordnung einzuhalten und ihren regelmässigen Anteil an den allgemeinen Hausarbeiten zu leisten. " Mit dem Ziel, dass die Bewohner und Bewohnerinnen wieder zu geordnetem, selbständigem Wohnen zurückfinden, bietet die Wohngruppe die nötige Hilfestellung und den äusseren Rahmen: Die Wohngruppe verfügt über eine geschlossene Wohneinheit mit sechs möblierten Einzelzimmern, einer gemeinsamen Küche, einem gemeinsamen Wohnzimmer und den sanitären Einrichtungen. Die Bewohner und Bewohnerinnen werden von qualifizierten Fachleuten betreut, können sich auch tagsüber im Haus aufhalten und nehmen die Mahlzeiten gemeinsam ein. Sie werden motiviert, einer regelmässigen Tätigkeit nachzugehen, ihre eigenen Ressourcen zu erkennen und sinnvoll zu nutzen. Sie werden ermuntert, sich wieder ein Ziel zu setzen und in Richtung dieses Zieles konkrete Schritte zu unternehmen, wie z.B. Eintritt in ein Drogen-Substitutionsprogramm, Beginn eines Drogenentzuges mit anschliessender Therapie oder Übertritt in die Wohnform "Begleitetes Wohnen". Diese Beschreibung des Wohnangebotes "Betreutes Wohnen" zeigt, dass es sich um ein Wohnangebot handelt, welches die Interessierten freiwillig nutzen. Der Austritt aus der Wohngruppe kann jederzeit und ohne besondere Voraussetzungen erfolgen. Die Bewohner und Bewohnerinnen unterstehen keiner besondern Aufsicht oder Weisungsbefugnis durch die betreuenden Personen, denen einzig die gewöhnliche Hausgewalt innerhalb der Wohnräume zusteht. Somit hat die Wohngruppe unter organisatorischen, personellen und infrastrukturellen Gesichtspunkten weder den Zweck noch die Möglichkeit eine allfällige Heimbedürftigkeit in adäquater Weise befriedigen zu können. Vielmehr geht es einzig um ein Angebot, das erwachsene Menschen freiwillig und grundsätzlich vorübergehend nutzen.
4.- Liegt mithin kein Heim im Sinne des ELG vor, ist die EL-Berechnung für Nicht-Heimbewohner und -bewohnerinnen vorzunehmen (siehe soeben Erw. 2b). Die Wohnkosten sind somit unter dem Titel der Mietkosten anzurechnen. In Anwendung von Rz 3022 WEL ist ein Drittel der Pensionskosten als Mietkosten zu berücksichtigen. Diese Berechnungsweise darf auch unter dem seit dem 1. Januar 1998 geltenden ELG angewendet werden. Bei Pensionskosten von Fr. 95.- pro Tag ergeben sich jährliche Pensionskosten von Fr. 34'200. - (360 x Fr. 95.-) und mithin Mietkosten von Fr. 11'400. -. Für das Jahr 1997 sind Mietkosten in der Höhe von maximal Fr. 11'200. - abzüglich des Selbstbehalts von Fr. 800. - (Art. 4 Abs. 1 lit. b aELG) zu berücksichtigen. Entgegen der Auffassung der Vorinstanz, welche 11'400. - abzüglich Fr. 800. - angerechnet hat, kann nämlich die pauschale Berücksichtigung von Mietkosten im Sinne von Rz 3022 WEL nicht zu einer Erhöhung der gesetzlich anrechenbaren Mietzinskosten führen, weshalb nur Fr. 10'400. - statt Fr. 10'600. - zu berücksichtigen sind. Dagegen können für das Jahr 1998 die gesamten Fr. 11'400. - angerechnet werden (Art. 3b Abs. 1 lit. b ELG).
Daraus ergibt sich nach den Berechnungen der Vorinstanz, auf welche - abgesehen von jenen für das Jahr 1997 - vollumfänglich verwiesen werden kann, ein EL-Anspruch von Fr. 1'269. - pro Monat ab dem 1. Januar 1997 (Ausgabenüberschuss von Fr. 15'223. -), von Fr. 1'300. - ab dem 1. Januar 1998 (unter Vorbehalt der Sistierung während des Straf- und
Massnahmenvollzuges) und von Fr. 1'330. - ab dem 1. Mai 1998 (unter Vorbehalt der Sistierung während des Straf- und
Massnahmenvollzuges).

Demnach erkennt das Eidg. Versicherungsgericht:
I. In teilweiser Gutheissung der Verwaltungsgerichtsbeschwerde wird der Entscheid des Versicherungsgerichts des Kantons Solothurn vom 30. Juni 1999 aufgehoben, soweit damit die Ergänzungsleistungen für das Jahr 1997 festgelegt werden (Dispositiv Ziff. 1.1), und es wird festgestellt, dass die Ergänzungsleistungen vom 1. Januar bis 31. Dezember 1997 Fr. 1'269. - pro Monat betragen. Im Übrigen wird die Verwaltungsgerichtsbeschwerde abgewiesen.
II. Es werden keine Gerichtskosten erhoben.
III. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Solothurn und dem Bundesamt für Sozialversicherung zugestellt.
Luzern, 11. Juli 2001
Im Namen des
Eidgenössischen Versicherungsgerichts
Der Präsident der I. Kammer:
Die Gerichtsschreiberin:
i.V.