Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03297.jsonl.gz/937

Bildton
Interaktives Tool zur musikalischen Interpretation von Bewegtbild
Bachelorthesis Raphael Benz
Hochschule für Gestaltung und Kunst Basel, 2020
Einleitung
Als visueller Gestalter und als Musiker interessiert mich die Schnittstelle zwischen visuellen und auditiven
Medien, weshalb ich dieses Feld in meiner Bachelorthesis zum Gegenstand der Untersuchung gemacht habe. Ich suche
nach Wegen, wie visuelle Medien genutzt werden könenn zur Generierung, Komposition und Manipulation von Musik.
Das Endresultat ist ein Tool, das Bewegtbilder in Melodien, Geräusche und Rhythmen umwandeln kann. Es funktioniert ohne Installation im Browser, aber auch in Kombination mit externer Hard- und Software.
Ich bedanke mich herzlich bei meinen Mentoren Prof. Marion Fink, Jinsu Ahn und Ted Davis, meinen Kommilitoninnen und Kommilitonen sowie meinen Eltern Suzanne und Marco für ihre Unterstützung bei dieser Arbeit.
Prozessdokumentation
Vorliegend zeige ich meinen gestalterischen Prozess auf, der mich zum Endresultat meiner Arbeit brachte. Der Prozess ist chronologisch aufgebaut und endet mit dem interaktiven Tool "Bildton", das meine Bachelorarbeit abschliesst.
Audiovisualisierungen
Im zweiwöchigen Workshop zu Beginn der Bachelorarbeit experimentierte ich im Bereich der Audiovisualisierung und nutzte verschiedenste Techniken, Geräte und Materialien dazu.
Erste Versuche Bild-in-Ton-Übersetzung
Ich entschied mich, das Thema der Audiovisualisierungen zu verlassen und in die entgegengesetzte Richtung zu experimentieren, also Möglichkeiten der Übersetzung von Bild/Bewegtbild in Klang zu suchen. Diese Art der Intermedialität schien mir im Gegensatz zu der Audiovisualisierung noch wenig erforscht und spannend für weitere Experimente. Ich erstellte Programme in Processing und Max MSP, die visuelle Inputs in akustische Outputs verwandeln.
Mögliche konzeptuelle Richtungen
Nach einigen Experimenten standen mir nun verschiedene Möglichkeiten offen, in welche Richtung sich die Arbeit konzeptuell vertiefen könnte:
- Audio-Video Installation
- Tool zur Generierung von Ton und Visuals
- Game
- Datensonifikation und -visualisierung
Bild-in-Klang-Übersetzung
Im Folgenden begann ich eine Untersuchung, wie man Bildaufnahmen in Klang übersetzen kann und ob sich so Aussagen machen lassen über Parallelen zwischen Bild und Klang. Dazu entwickelte ich ein Programm, das Bilder in Wellenformen umwandelt, die wiederum als akustische Wellen wiedergegeben werden.
Konzept Live-Performance Tool
Es manifestierte sich die Idee, ein Live-Performance-Tool zu programmieren, das in Echtzeit Bilddaten in Musik, Bild und Bewegung übersetzt. Die Grundidee ist, dass visuelle Daten in für digitale Anwendungen lesbare Daten umgewandelt werden. Das Tool kann genutzt werden als elektronisches Musikinstrument, zur Generierung von Visuals als auch zur Steuerung motorischer Skulpturen. Das Tool so audiovisuellen Performern und Künstlern eine Möglichkeit bieten, die direkte Erfahrung der Umgebung in die Arbeit einfliessen zu lassen und damit zu improvisieren.
Konzept Bewegtbild zu Musik
Das finale Konzept meiner gestalterischen Bachelorthesis ist ein Tool, das Bewegtbild in musikalische
Kompositionen umwandeln kann. Dabei nimmt es verschiedene Aspekte des Bewegtbildes wie Helligkeiten, Farben,
Bewegung und Konturen auf, quantifiziert diese Daten und wandelt sie in Melodien, Rhyhthmen und Geräusche um.
Tool "Bildton"
Unter folgendem Link kann das Tool genutzt werden:
bildton.ch
Das Tool funktioniert online und ohne Installation, der Quellcode ist frei verfügbar. Es kann auch in Kombination mit MIDI-kompatibler Soft- und Hardware genutzt werden. Ich habe für die Implementierung verschiedene Libraries benutzt, in erster Linie P5.js zur Bildanalyse und für die Interaktion sowie Tone.js zur Generierung der Musik. Weitere Informationen und eine genauere Anleitung befinden sich auf der Github-Seite, zusammen mit dem Sourcecode.
Anhang
Impressum
Raphael Benz, Basel
Bachelorthesis, FS 2020
Institut Visuelle Kommunikation
FHNW HGK Basel
Mentoren: Prof. Marion Fink, Jinsu Ahn, Ted Davis
Schrift: Neue Haas Grotesk Display & Text
© Copyright 2020 by FHNW HGK / Raphael Benz
Alle Rechte vorbehalten – die Bildrechte liegen bei den Urhebern.