Sachverhalt:
A.
Die Staatsanwaltschaft des Kantons Basel-Stadt führt gegen A._ ein Strafverfahren wegen des Verdachts auf mehrfache Sachbeschädigung, Drohung und Widerhandlung gegen das Betäubungsmittelgesetz. A._ wurde am 14. September 2021 vorläufig festgenommen und mit Verfügung des Zwangsmassnahmengerichts des Kantons Basel-Stadt vom 16. September 2021 für die vorläufige Dauer von drei Wochen in Untersuchungshaft versetzt. Die dagegen erhobene Beschwerde von A._ wies das Appellationsgericht des Kantons Basel-Stadt mit Entscheid vom 1. Oktober 2021 ab.
Am 20. September 2021 reichte A._ ein Haftentlassungsgesuch ein. Die Staatsanwaltschaft beantragte am 4. Oktober 2021 die Verlängerung der Untersuchungshaft um drei Monate. Das Zwangsmassnahmengericht wies das Haftentlassungsgesuch mit Verfügung vom 11. Oktober 2021 ab und verlängerte die Untersuchungshaft um zwölf Wochen bis zum 3. Januar 2022.
Diese Verfügung focht A._ beim Appellationsgericht an, das die Beschwerde mit Entscheid vom 29. Oktober 2021 abwies. Für das Beschwerdeverfahren würden keine Kosten erhoben und dem amtlichen Verteidiger, Rechtsanwalt Dr. Valentin Landmann, werde für das Beschwerdeverfahren ein Honorar (inklusive Auslagenersatz) von Fr. 800.--, zuzüglich 7.7 % MWST von Fr. 61.60, aus der Gerichtskasse ausgerichtet. Art. 135 Abs. 4 StPO bleibe vorbehalten.
B.
Mit Beschwerde in Strafsachen vom 19. November 2021 gelangt A._ an das Bundesgericht und beantragt, der appellationsgerichtliche Entscheid sei aufzuheben und er sei umgehend aus der Untersuchungshaft zu entlassen. Eventualiter sei im Sinne von Ersatzmassnahmen die Auflage zu erlassen, dass er sich im Zusammenhang mit seiner Suchtproblematik einer ärztlichen Behandlung oder Kontrolle zu unterziehen habe und/oder ein Kontaktverbot hinsichtlich seiner Nachbarn auszusprechen. In formeller Hinsicht ersucht er um Gewährung der unentgeltlichen Rechtspflege.
Das Appellationsgericht verzichtet auf eine Vernehmlassung und beantragt gestützt auf den angefochtenen Entscheid die Abweisung der Beschwerde. Die Staatsanwaltschaft beantragt in ihrer Vernehmlassung, auf die Beschwerde sei nicht einzutreten, eventualiter sei diese abzuweisen. Der Beschwerdeführer habe mit eigenhändigem Schreiben vom 22. November 2021 um Versetzung in den vorzeitigen (Straf-) Vollzug ersucht und ausgeführt, der Haftgrund der Fortsetzungsgefahr sei bei ihm gegeben.
Der Beschwerdeführer nahm mit Eingabe vom 3. Dezember 2021 Stellung. Gleichzeitig - und noch innerhalb der Beschwerdefrist - reichte er erneut seine Beschwerde ein, datiert auf den 3. Dezember 2021.

Erwägungen:
1.
1.1. Gegen den kantonal letztinstanzlichen Entscheid betreffend Haftentlassung und Verlängerung der Untersuchungshaft steht grundsätzlich die Beschwerde in Strafsachen an das Bundesgericht gemäss Art. 78 ff. BGG offen. Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen und befindet sich, soweit aus den Akten ersichtlich, nach wie vor in Haft. Er hat folglich ein aktuelles, rechtlich geschütztes Interesse an der Aufhebung des angefochtenen Entscheids und ist somit gemäss Art. 81 Abs. 1 BGG zur Beschwerde berechtigt. Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind und der Beschwerdeführer mit der erneuten Eingabe seiner Beschwerde (implizit) seinen Willen, an der ursprünglichen Beschwerde festzuhalten, bestätigt hat, ist auf die Beschwerde insoweit einzutreten.
1.2. Die Rechtsvertretung des Beschwerdeführers beantragt "in eigenem Namen und im eigenen Interesse", Absatz 3 des Dispositivs des angefochtenen Entscheids (betreffend die Entschädigung der amtlichen Verteidigung) sei aufzuheben und ihr sei für das vorinstanzliche Verfahren eine angemessene Entschädigung auszurichten.
Gemäss Art. 80 Abs. 1 BGG ist die Beschwerde zulässig gegen Entscheide letzter kantonaler Instanzen und gegen Entscheide des Bundesstrafgerichts. Gegen den von der Beschwerdeinstanz oder dem Berufungsgericht des Kantons gefällten Entschädigungsentscheid steht der amtlichen Verteidigung die Beschwerde an das Bundesstrafgericht offen (Art. 135 Abs. 3 lit. b StPO), worauf die Vorinstanz in ihrer Rechtsmittelbelehrung zutreffend hingewiesen hat. Die Beschwerde in Strafsachen an das Bundesgericht ist damit gegen den von der Vorinstanz gefällten Entscheid betreffend die Entschädigung der amtlichen Verteidigung für das vorinstanzliche Verfahren nicht zulässig (vgl. <ref-ruling> E. 1.7; Urteile 1B_451/2016 vom 3. März 2017 E. 1.2 mit Hinweisen; 1B_79/2013 vom 13. März 2013 E. 1.2). Das in der beschwerdeführerischen Stellungnahme zitierte Urteil des Bundesgerichts 6B_652/2014 vom 10. Dezember 2014 E. 1.1, mit Verweis auf <ref-ruling> E. 1.4, vermag daran nichts zu ändern, beziehen sich doch beide Urteile auf erstinstanzliche Entschädigungsentscheide im Sinne von Art. 135 Abs. 3 lit. a StPO. Der Umstand, dass der Beschwerdeführer gegen die Abweisung des Haftentlassungsgesuchs und die Verlängerung der Untersuchungshaft Beschwerde beim Bundesgericht erhoben hat, führt im Übrigen nicht zu einer Änderung der Zuständigkeit nach Art. 135 Abs. 3 lit. b StPO (vgl. Verfügung des Bundesstrafgerichts BB.2014.72 vom 18. Juli 2014 E. 1.3).
Auf die Beschwerde ist daher insoweit, als sie sich gegen Absatz 3 des Dispositivs des angefochtenen Entscheids richtet, nicht einzutreten und die Angelegenheit zur Beurteilung an das Bundesstrafgericht zu überweisen (Art. 30 Abs. 2 BGG).
2.
In der Sache macht der Beschwerdeführer geltend, das von der Vorinstanz angeführte "gesamte psychisch auffällige Verhalten" sei kein Haftgrund im Sinne von Art. 221 Abs. 2 StPO. Es fehle an der ernsthaften Gefahr, dass er ein schweres Verbrechen begehen werde. Mit seiner Inhaftierung seien nicht nur Art. 221 Abs. 2 StPO und Art. 5 Abs. 1 lit. c EMRK verletzt, sondern auch seine persönliche Freiheit (Art. 10 Abs. 2 BV).
2.1. Gemäss Art. 221 Abs. 1 StPO darf strafprozessuale Haft nur angeordnet oder fortgesetzt werden, wenn und solange der allgemeine Haftgrund des dringenden Tatverdachts gegeben ist und kumulativ mindestens ein besonderer Haftgrund vorliegt (Flucht-, Kollusions- oder Wiederholungsgefahr; vgl. lit. a-c). Dagegen besteht Ausführungsgefahr im Sinne von Art. 221 Abs. 2 StPO, wenn ernsthaft zu befürchten ist, eine Person werde ihre Drohung, ein schweres Verbrechen auszuführen, wahrmachen. Wie sich aus dem Gesetzeswortlaut und der inneren Systematik von Art. 221 StPO ergibt, setzt der in Absatz 2 geregelte selbstständige Präventivhaftgrund (anders als die besonderen Haftgründe von Absatz 1 lit. a-c) keinen dringenden Tatverdacht von bereits verübten Verbrechen oder Vergehen (Absatz 1 Ingress) notwendigerweise voraus (<ref-ruling> E. 2.1.1; Urteile 1B_392/2020 vom 24. August 2020 E. 3.1; 1B_567/2018 vom 21. Januar 2019 E. 4.1; 1B_31/2018 vom 19. Februar 2018 E. 2.2.1; je mit Hinweisen).
2.2. Die Notwendigkeit, Personen an der Begehung strafbarer Handlungen zu hindern, wird auch in Art. 5 Ziff. 1 lit. c EMRK ausdrücklich als Haftgrund anerkannt. Die Haft wegen Ausführungsgefahr als freiheitsentziehende Zwangsmassnahme muss allerdings verhältnismässig sein (Art. 36 Abs. 3 i.V.m. Art. 10 Abs. 2 BV; Art. 197 Abs. 1 lit. c-d StPO). Die rein hypothetische Möglichkeit der Verübung von Delikten sowie die Wahrscheinlichkeit, dass nur geringfügige Straftaten verübt werden, reichen nicht aus, um eine Präventivhaft zu begründen. Der Haftgrund der Ausführungsgefahr setzt ein ernsthaft drohendes schweres Verbrechen ausdrücklich voraus (Art. 221 Abs. 2 StPO).
2.3. Bei der Annahme dieses Präventivhaftgrundes ist nach der Rechtsprechung des Bundesgerichts besondere Zurückhaltung geboten. Erforderlich ist daher eine sehr ungünstige Risikoprognose. Nicht Voraussetzung ist hingegen, dass die verdächtige Person bereits konkrete Anstalten getroffen hat, um das angedrohte schwere Verbrechen zu vollenden. Vielmehr genügt es, wenn die Wahrscheinlichkeit einer Ausführung aufgrund einer Gesamtbewertung der persönlichen Verhältnisse sowie der Umstände als sehr hoch erscheint. Besonders bei drohenden schweren Gewaltverbrechen ist dabei auch dem psychischen Zustand der verdächtigen Person bzw. ihrer Unberechenbarkeit oder Aggressivität Rechnung zu tragen (<ref-ruling> E. 2.1.1; <ref-ruling> E. 5.2; Urteil 1B_392/2020 vom 24. August 2020 E. 4). Je schwerer das ernsthaft angedrohte schwere Verbrechen ist, desto eher rechtfertigt sich grundsätzlich - aufgrund der gebotenen Risikoeinschätzung - eine Inhaftierung (<ref-ruling> E. 2.1.1; Urteile 1B_567/2018 vom 21. Januar 2019 E. 4.2; 1B_31/2018 vom 19. Februar 2018 E. 2.2.1; s.a. <ref-ruling> E. 2.9).
2.4. Falls die Beurteilung des Haftgrundes massgeblich von der Gefährlichkeitsprognose abhängt, kann es sich aufdrängen, vom forensischen Psychiater in einem Kurzgutachten vorab eine Risikoeinschätzung einzuholen, bevor die Gesamtexpertise über sämtliche psychiatrisch abzuklärenden Fragen (Diagnose, geeignete Sanktion, Behandlungsbedürftigkeit, Therapiefähigkeit etc.) vorliegt. Nötigenfalls kann der Haftrichter der Verfahrensleitung (gestützt auf Art. 226 Abs. 4 lit. b StPO) entsprechende Anweisungen erteilen. Angesichts des Beschleunigungsgebotes in Haftsachen (Art. 31 Abs. 4 BV, Art. 5 Abs. 2 StPO) muss eine solche summarische Risikoeinschätzung in Haftfällen rasch erfolgen (<ref-ruling> E. 2.8; Urteil 1B_567/ 2018 vom 21. Januar 2019 E. 4.3 mit Hinweisen). Über das Dargelegte hinaus hat der Haftrichter weder eine umfassende und abschliessende Würdigung der psychiatrischen Begutachtung im Rahmen des Haftprüfungsverfahrens vorzunehmen noch dem Sachrichter diesbezüglich vorzugreifen (Urteile 1B_392/2020 vom 24. August 2020 E. 3.4; 1B_487/2017 vom 1. Dezember 2017 E. 3.8).
2.5. Freiheitsentziehende Massnahmen sind aufzuheben, wenn Ersatzmassnahmen zum gleichen Ziel führen (Art. 212 Abs. 2 lit. c StPO). Dies gilt besonders auch für Präventivhaft wegen Ausführungsgefahr (vgl. <ref-ruling> E. 2.1.2; <ref-ruling> E. 6.2). Gemäss Art. 237 Abs. 1 StPO ordnet das zuständige Gericht an Stelle der strafprozessualen Haft eine oder mehrere mildere Massnahmen an, wenn sie den gleichen Zweck wie die Haft erfüllen. Es kann die Ersatzmassnahmen jederzeit widerrufen, andere Ersatzmassnahmen oder strafprozessuale Haft anordnen, wenn neue Umstände dies erfordern oder die betroffene Person die ihr gemachten Auflagen nicht erfüllt (Art. 237 Abs. 5 StPO). Als Ersatzmassnahme kommt gemäss Art. 237 Abs. 2 lit. f StPO namentlich die Auflage in Frage, sich einer ärztlichen Behandlung oder einer Kontrolle zu unterziehen.
2.6. Bei Beschwerden, die gestützt auf das Recht der persönlichen Freiheit (Art. 10 Abs. 2 und Art. 31 BV) wegen strafprozessualer Haft erhoben werden, prüft das Bundesgericht im Hinblick auf die Schwere des Eingriffes die Auslegung und Anwendung der StPO frei. Art. 98 BGG gelangt bei strafprozessualen Zwangsmassnahmen nicht zur Anwendung (<ref-ruling> E. 3.3; <ref-ruling> E. 2.1; je mit Hinweisen). Soweit jedoch reine Sachverhaltsfragen und damit Fragen der Beweiswürdigung zu beurteilen sind, greift das Bundesgericht nur ein, wenn die tatsächlichen Feststellungen der Vorinstanz offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (Art. 97 Abs. 1 i.V.m. Art. 105 Abs. 2 BGG; <ref-ruling> E. 3.3; <ref-ruling> E. 2.1; je mit Hinweis).
3.
3.1. Die Vorinstanz begründete das Vorliegen von Ausführungsgefahr gestützt auf eine Gesamtwürdigung des psychisch auffallenden Vorverhaltens des Beschwerdeführers sowie die Vorkommnisse vom 14. September 2021, samt dessen Aussage, wonach die Polizei froh sein könne, dass er noch keinen Terroranschlag oder Amoklauf verübt habe. Diese Gesamtwürdigung komme in der gutachterlichen Vorabstellungnahme zum Ausdruck. Dass der Beschwerdeführer bereits konkrete Anstalten zur Ausübung eines bewaffneten Amoklaufs getroffen habe, sei nicht erforderlich. Ausreichend sei die hohe Wahrscheinlichkeit einer solchen Ausführung, die anhand einer Gesamtbewertung der persönlichen Verhältnisse sowie der Umstände anzunehmen sei. Dem Gutachter zufolge bestehe ein hohes Risiko für fortgesetzte störungsbedingte Gewalthandlungen und könne es zu gravierenden Gewalttaten mit schweren Opferschäden kommen. Dass der Amtsarzt am 14. September 2021 nach einer rund 30-minütigen Begutachtung des Beschwerdeführers auf dem Polizeiposten auf die Anordnung einer fürsorgerischen Unterbringung verzichtet habe, ändere daran nichts. Mit der aktenkundigen Vorgeschichte zu den psychischen Auffälligkeiten des Beschwerdeführers, dem eskalierten Vorfall vom 14. September 2021 und der Vorabstellungnahme des Gutachters sprächen insgesamt genügend Faktoren für die Annahme von Ausführungsgefahr.
3.2. Der Beschwerdeführer wendet dagegen ein, aus den Ausführungen der Vorinstanz gehe nicht hervor, welches schwere Verbrechen er zu verwirklichen drohe. Vielmehr habe diese ausdrücklich eingeräumt, dass eine ernsthafte Drohung, zu Lasten der Nachbarn ein schweres Verbrechen auszuführen, gar nicht als Haftgrund herangezogen werde. Die Konstruktion einer Terrorgefahr oder eines Amoklaufs stütze die Vorinstanz auf einen Satz, den er nach seiner Verhaftung im Anschluss an eine verbale Auseinandersetzung mit seinen Nachbarn am 14. September 2021 gegenüber den Polizisten geäussert haben solle. Dass dieser Satz keine ernsthafte Ausführungsgefahr erkennen lasse, sei durch den umgehend beigezogenen Amtsarzt bestätigt worden, der ihm nach einer 30-minütigen Begutachtung am 14. September 2021 auf dem Polizeiposten eine fehlende Fremdgefährdung bescheinigt habe.
3.3.
3.3.1. Es trifft zu, dass sich dem angefochtenen Entscheid selber nur begrenzt entnehmen lässt, aufgrund welchen Verhaltens des Beschwerdeführers die Vorinstanz vom Vorliegen von Ausführungsgefahr ausging.
Jedoch verwies sie in E. 3 ihres Entscheids auf E. 3 des appellationsgerichtlichen Entscheids vom 1. Oktober 2021 betreffend Anordnung der Untersuchungshaft. Daraus geht - gestützt auf die zwangsmassnahmengerichtlichen Ausführungen - hervor, dass sich der Beschwerdeführer am 14. September 2021 aus seiner Wohnung auf die Strasse begeben habe, wobei er drei Messer in seinen beiden Händen gehalten habe. Mit diesen Messern habe er auf unbesetzte Stühle vor einem Café eingestochen und mit mindestens einem Messer zwei parkierte Personenwagen beschädigt. Anschliessend solle er seine beiden Nachbarn verbal angegangen haben. Diese hätten sich durch das Verhalten des zu diesem Zeitpunkt noch mit Messern bewaffneten Beschwerdeführers bedroht gefühlt und sich aus Angst in ihre Wohnungen zurückgezogen. Zudem solle der Beschwerdeführer auch die herbeigerufenen Polizisten bedroht haben. Ihm werde ausserdem der Konsum und Besitz von Crystal Meth und anderen Drogen vorgeworfen.
Zudem wird in E. 4.3.2 des angefochtenen Entscheids auf E. 4.3 des appellationsgerichtlichen Entscheids vom 1. Oktober 2021 verwiesen, wo festgehalten wurde, dass der Beschwerdeführer gemäss den Einträgen in den Requisitionsrapporten bereits seit einiger Zeit vor dem Vorfall des 14. September 2021 psychisch auffällig gewesen sei. So habe er im Mai 2021 bei einer Personenkontrolle wirre Angaben gegenüber der Polizei gemacht und davon gesprochen, ein bestimmter Staatsanwalt habe ihn bei einem Online-Spiel angemeldet und würde sein Leben ruinieren. Deshalb würde er ihn "gerne umbringen". Zwei Tage später habe der Beschwerdeführer gegenüber der von ihm selbst aufgebotenen Polizei angegeben, dass "jemand" in seiner Wohnung randaliere, was durch die Polizei jedoch nicht habe bestätigt werden können. Der Beschwerdeführer habe sich verwirrt präsentiert und gesagt, er fühle sich gestört. Im August 2021 habe die Polizei ausrücken müssen, weil der Beschwerdeführer diverse Gegenstände aus seiner Wohnung im 5. Stock auf die Strasse geworfen habe. Er sei der Polizei gegenüber psychotisch und verwirrt erschienen und scheine Stimmen gehört zu haben. Die aufgebotene Amtsärztin habe daraufhin am 10. August 2021 eine fürsorgerische Unterbringung in der Klinik B._ verfügt. Im September 2021 habe der Beschwerdeführer der durch seinen Nachbarn aufgebotenen Polizei gesagt, jemand "habe sein Internet manipuliert" und aus Wut darüber habe er seine eigene Wohnung demoliert. Am 14. September 2021 sodann habe der Beschwerdeführer gegenüber der Polizei angegeben, es gehe ihm sehr schlecht, und sie (die Polizei) könne froh sein, dass er noch keinen Terroranschlag oder Amoklauf verübt habe. Eine Auskunftsperson habe ausgesagt, der Beschwerdeführer habe am 14. September 2021 vor dem Café herumgeschrien, er müsse "dorthin, wo etwas los sei". Sie habe Angst gehabt, da der Beschwerdeführer mit den Messern in den Händen herumgelaufen sei. Man habe nicht gewusst, was passiere, er habe bedrohlich gewirkt. Der eine Nachbar des Beschwerdeführers habe ausgesagt, er fühle sich durch den Beschwerdeführer ständig bedroht. Man wisse ja nie, was passiere, wenn man aus dem Lift steige. Der Beschwerdeführer randaliere immer wieder in seiner Wohnung und werfe Gegenstände herum. Der andere Nachbar gab an, er habe Angst vor dem Beschwerdeführer. Er fühle sich in seiner Wohnung eingeengt und habe Angst, diese zu verlassen. Der Beschwerdeführer habe im Jahr 2021 damit angefangen, grundlos mit den Fäusten gegen die Tür zu schlagen.
3.3.2. Des Weiteren stellte die Vorinstanz auf das im Auftrag der Staatsanwaltschaft erstellte vorläufige Gutachten vom 4. Oktober 2021 ab. Der Gutachter äussere darin in diagnostischer Hinsicht zunächst den dringenden Verdacht auf das Vorliegen einer psychotischen Störung mit paranoider Symptomatik, die mit hoher Wahrscheinlichkeit mit dem mutmasslichen Drogenkonsum des Beschwerdeführers oder auch mit anderen Einflussvariablen in Zusammenhang stehe. Bei gegenwärtigem Kenntnisstand müsse von einem hohen Risiko für fortgesetzte bzw. erneute störungsbedingte Gewalthandlungen ausgegangen werden. Auch könne nicht ausgeschlossen werden, dass es zu gravierenden Gewalttaten mit schweren Opferschäden komme. In der Gesamtempfehlung komme der Gutachter zum Schluss, dass keine tatsächlich erfolgsversprechenden deliktpräventiven Ersatzmassnahmen erkennbar seien, um der hohen Gefahr störungsbedingter fremdschädigender Handlungen zu begegnen und um einen wirksamen Opferschutz zu gewährleisten. Zudem werde eine ausführliche forensisch-psychiatrische Begutachtung empfohlen.
3.4. Wie dies bereits das Zwangsmassnahmengericht in seiner Verfügung vom 11. Oktober 2021, auf welche die Vorinstanz im angefochtenen Entscheid mehrfach Bezug nahm, festgehalten hat, ist das Auftreten des Beschwerdeführers unberechenbar, unkontrolliert und bedrohlich. Er weist eine hohe Gewaltbereitschaft auf und hinsichtlich seiner Aggressivität und Gewaltbereitschaft lässt sich eine stetige Steigerung erkennen. Das Zwangsmassnahmengericht hat diese ausgehend vom Schlagen gegen die Aufzugstüre, über Gegenstände aus dem Fenster und gezielt auch auf Passanten werfen, zusammengeschlagenes Mobiliar und Messer, deren Klingen im Tisch steckten, bis hin zum 14. September 2021 skizziert, als er sich mit drei Messern auf die offene Strasse begeben haben soll, mit den Messern auf Stühle eines Cafés eingeschlagen und gegenüber den Besuchern geäussert haben soll, in die Stadt zu ziehen, "wo etwas los sei". Anschliessend soll er gegenüber der Polizei Äusserungen betreffend Terroranschläge und Amokläufe gemacht haben. Der Gutachter geht in seinem vorläufigen Gutachten vom 4. Oktober 2021 von einem hohen Risiko für fortgesetzte bzw. erneute störungsbedingte Gewalthandlungen aus.
Vor diesem Hintergrund ging die Vorinstanz zu Recht von einem ernsthaft drohenden schweren Verbrechen bzw. vom Bestehen von Ausführungsgefahr im Sinne von Art. 221 Abs. 2 StPO aus. Dass die Vorinstanz die drohenden Gewalthandlungen nicht rechtlich eingeordnet hat, ändert daran nichts. Immerhin geht aus E. 4.3.2 des angefochtenen Entscheids hervor, dass die Vorinstanz davon ausgeht, der Beschwerdeführer könnte einen "bewaffneten Amoklauf" verüben (vgl. oben E. 3.1). "Amok laufen" bedeutet gemäss Duden: "in einem Zustand krankhafter Verwirrung [mit einer Waffe] umherlaufen und blindwütig töten". Damit droht nach Auffassung der Vorinstanz zweifellos ein "schweres Verbrechen" im Sinne von Art. 221 Abs. 2 StPO. Entgegen der vom Beschwerdeführer vertretenen Auffassung stützte sie sich dabei nicht alleine auf seine gegenüber der Polizei gemachte Äusserung, wonach diese froh sein könne, dass er noch keinen Amoklauf oder Terroranschlag verübt habe, sondern auf eine Gesamtbewertung der Umstände und persönlichen Verhältnisse des Beschwerdeführers, was nicht zu beanstanden ist (vgl. oben E. 2.3). In diesem Zusammenhang ist auch die vom Beschwerdeführer zitierte Stelle des angefochtenen Entscheids zu sehen, wonach die Ausführungsgefahr mit dem gesamten psychisch auffälligen Verhalten des Beschwerdeführers begründet wird, das dieser am 14. September 2021 "hinsichtlich möglicher Amokläufe oder Terroranschläge gezeigt" habe. Aus dem Umstand, dass der Amtsarzt am 14. September 2021 nach einer rund 30-minütigen Begutachtung des Beschwerdeführers auf dem Polizeiposten auf die Anordnung einer fürsorgerischen Unterbringung verzichtet hat, kann der Beschwerdeführer vorliegend nichts zu seinen Gunsten ableiten.
3.5. Wie bereits im vorinstanzlichen Verfahren bemängelt der Beschwerdeführer das vorläufige Gutachten vom 4. Oktober 2021 und macht geltend, es genüge den Anforderungen, welche die Rechtsprechung an ein solches Gutachten stelle, nicht, weshalb es nicht zur Risikoabschätzung herangezogen werden könne. Dabei wiederholt er die im vorinstanzlichen Verfahren vorgebrachten Rügen.
Dem angefochtenen Entscheid ist in diesem Zusammenhang zu entnehmen, der Beschwerdeführer verkenne Sinn und Zweck einer solchen Vorabstellungnahme. Diese äussere sich lediglich zu den bezüglich der Ausführungsgefahr relevanten Fragen eines Rückfalls bzw. der Risikoeinschätzung. Ein solches Kurzgutachten eines psychiatrischen Experten werde zu Fragen eingeholt, die sich auf die Prüfung der Haftgründe auswirkten. Würden daran dieselben Anforderungen gestellt wie an ein forensisch-psychiatrisches Gutachten, wäre die Erstellung eines solchen innert der kurzen Frist, die in Haftfällen einzuhalten sei, nicht zu bewerkstelligen. Die Kritik an dieser Vorabstellungnahme sei daher nicht zu hören.
Mit diesen Erwägungen der Vorinstanz setzt sich der Beschwerdeführer nicht auseinander. Vielmehr rügt er eine Verletzung seines Anspruchs auf rechtliches Gehör (Art. 29 Abs. 2 BV), da die Vorinstanz auf seine Rügen nicht eingegangen sei. Jedoch bestand für die Vorinstanz mit Blick auf deren Erwägungen gar keine Veranlassung zu einer diesbezüglichen Auseinandersetzung, weshalb eine Gehörsverletzung vorliegend zu verneinen ist. Abgesehen davon beruft sich der Beschwerdeführer im Rahmen seiner Argumentation nicht auf die bundesgerichtliche Rechtsprechung zu Kurzgutachten und macht geltend, das vorläufige Gutachten genüge "den juristischen Anforderungen an forensisch-psychiatrische Gutachten klar nicht". Demgegenüber hat der Experte auf den Seiten 29 f. seines vorläufigen Gutachtens ausgeführt, zur genaueren gutachterlichen Beurteilung des beim Beschwerdeführer vorliegenden psychischen Störungsbilds, seiner psychischen Verfassung zur Tatzeit am 14. September 2021 sowie der tatzeitbezogenen Schuldfähigkeit, der individuellen Kriminalprognose und der Therapiebedürftigkeit werde eine ausführliche forensisch-psychiatrische Beurteilung empfohlen.
In inhaltlicher Hinsicht rügt der Beschwerdeführer: Würde dem vorläufigen Gutachten das Verständnis der Staatsanwaltschaft zu Grunde gelegt, wonach ein hohes Risiko für schwere Gewaltverbrechen bestehe, müsste dieses Gutachten als in sich nicht nachvollziehbare Darstellung des Erkenntnis- und Wertungsprozesses des Sachverständigen bezeichnet werden, gehe dieser doch grundsätzlich davon aus, dass bei ihm nur wenige, überwiegend leichtgradig ausgeprägte 'psychopathische' Persönlichkeitsmerkmale festzustellen seien und attestiere er ihm nur wenige Merkmale, die auf einen typischen Gewalttäter hinwiesen. Dabei übersieht der Beschwerdeführer, dass sich letztere Ausführung auf eine erhöhte strukturelle Gewaltbereitschaft unabhängig von einer psychischen Störung und einer Drogenproblematik bezog. Nachdem beim Beschwerdeführer, gemäss der im vorläufigen Gutachten enthaltenen Gesamtschau, insbesondere bei fehlender oder unzureichender psychiatrischer und suchttherapeutischer (abstinenzorientierter) Behandlung ein hohes Risiko für fortgesetzte bzw. neuerliche störungsbedingte Gewalthandlungen bestehe, das Risiko von nicht-störungsbedingten Gewaltdelikten beim gegenwärtigen gutachterlichen Erkenntnisstand aber als eher gering eingeschätzt werden könne, kann dem beschwerdeführerischen Vorbringen nicht gefolgt werden.
3.6. Somit ist insgesamt nicht zu beanstanden, dass die Vorinstanz das Vorliegen von Ausführungsgefahr im Sinne von Art. 221 Abs. 2 StPO bejaht hat. Es kann daher offenbleiben, ob noch andere Haftgründe gegeben wären.
4.
4.1. Schliesslich macht der Beschwerdeführer geltend, die Untersuchungshaft sei unverhältnismässig und es sei eine ambulante Behandlung als Ersatzmassnahme anzuordnen. Damit könne einer allfälligen Suchtproblematik Rechnung getragen werden.
4.2. Die Vorinstanz erwog in diesem Zusammenhang, der Beschwerdeführer sei bereits seit Mai 2021 psychisch auffällig und habe sich im August 2021 in einer amtlich angeordneten fürsorgerischen Unterbringung befunden. Gemäss seinen eigenen Aussagen vom 15. September 2021 habe er dort Medikamente erhalten, die ihn aber müde gemacht hätten und die er auch nicht habe nehmen wollen. Aktuell nehme er keine Medikamente ein. Einen Termin bei seinem Hausarzt, wie von der Klinik B._ empfohlen, habe er noch nicht vereinbart. Die Vorinstanz hielt fest, der gesundheitliche Zustand des Beschwerdeführers biete im jetzigen Zeitpunkt keine ausreichende Gewähr dafür, dass er amtlichen Anordnungen ausreichend Folge leisten würde. Die Anordnung einer entsprechenden Ersatzmassnahme, wie sie der Beschwerdeführer geltend mache, sei daher kaum erfolgsversprechend, zumal eine solche nur dann in Frage kommen könne, wenn beim Betroffenen glaubhaft die Einsicht in ein psychisches Leiden oder eine Suchtproblematik bestehe. Dies scheine beim Beschwerdeführer, insbesondere hinsichtlich der Suchtproblematik nicht gegeben, verneine er eine solche doch stets vehement, obwohl er regelmässig Crystal Meth konsumiere.
4.3. Inwiefern diese Ausführungen der Vorinstanz nicht zutreffen sollten, geht auch aus den Vorbringen des Beschwerdeführers nicht hervor. Dem vorläufigen Gutachten vom 4. Oktober 2021 ist zu entnehmen, dass der Beschwerdeführer - zumindest zum gegenwärtigen Zeitpunkt - weder über eine Störungseinsicht noch über eine Therapie-, Veränderungs- und Abstinenzmotivation verfüge und deshalb kaum zu erwarten sei, dass er sich der dringend indizierten störungsspezifischen und risikoorientierten psychiatrischen Behandlung unterziehen werde. Für den Fall, dass eine Entlassung des Beschwerdeführers aus der Untersuchungshaft in Erwägung gezogen werden sollte, seien aus gutachterlicher Sicht derzeit keine tatsächlich erfolgsversprechenden deliktpräventiven Ersatzmassnahmen erkennbar, um der weiterhin hohen Gefahr erneuter störungsbedingter fremdschädigender Handlungen zu begegnen und einen wirksamen Opferschutz zu gewährleisten. Dass der Beschwerdeführer in seiner Stellungnahme an das Bundesgericht angibt, sich während des gesamten Verfahrens als bereit und willig erklärt zu haben, sich in Zusammenhang mit einer allfälligen Suchtproblematik einer ambulanten ärztlichen Ersatzmassnahme unterziehen zu wollen, erscheint vor diesem Hintergrund als Schutzbehauptung.
Was sodann das vom Beschwerdeführer ebenfalls beantragte Kontaktverbot hinsichtlich seiner Nachbarn betrifft, hielt die Staatsanwaltschaft in ihrer Vernehmlassung an das Bundesgericht zutreffend fest, der Beschwerdeführer sehe den Veränderungsbedarf aufseiten der Nachbarn und keine Veranlassung, die Wohnsituation zu verändern, was der Beschwerdeführer nicht bestreitet. Vor diesem Hintergrund besteht keine genügende Gewähr dafür, dass er sich an ein Kontaktverbot halten würde.
Die Abweisung des Haftentlassungsgesuchs des Beschwerdeführers bzw. die Verlängerung der Untersuchungshaft erweisen sich damit zum heutigen Zeitpunkt als verhältnismässig.
5.
Nach diesen Erwägungen ist die Beschwerde abzuweisen, soweit darauf einzutreten ist.
Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer grundsätzlich kostenpflichtig (Art. 66 Abs. 1 BGG). Er ersucht jedoch um unentgeltliche Rechtspflege und Rechtsverbeiständung. Da die diesbezüglichen gesetzlichen Voraussetzungen erfüllt sind, kann dem Gesuch entsprochen werden (Art. 64 BGG). Dem Beschwerdeführer werden daher keine Gerichtskosten auferlegt und seinem Rechtsvertreter wird aus der Bundesgerichtskasse eine angemessene Entschädigung ausgerichtet.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Soweit sich die Beschwerde gegen Absatz 3 des Dispositivs des Entscheids des Appellationsgerichts des Kantons Basel-Stadt, Einzelgericht, vom 29. Oktober 2021 (HB.2021.26) richtet, ist die Angelegenheit zuständigkeitshalber dem Bundesstrafgericht zu überweisen.
3.
Das Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird gutgeheissen.
3.1. Es werden keine Gerichtskosten erhoben.
3.2. Rechtsanwalt Dr. Valentin Landmann wird als unentgeltlicher Rechtsbeistand eingesetzt und für das bundesgerichtliche Verfahren mit Fr. 1'500.-- aus der Bundesgerichtskasse entschädigt.
4.
Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft des Kantons Basel-Stadt, dem Appellationsgericht des Kantons Basel-Stadt, Einzelgericht, sowie dem Bundesstrafgericht (mit den Akten) schriftlich mitgeteilt.
Lausanne, 15. Dezember 2021
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Kneubühler
Die Gerichtsschreiberin: Dambeck