UTAU
概要
ピアノロール上にノートを挿入して動かし、完成した譜面のノートにある文字から音声ファイルを使用して結合し、1つの音声ファイルを作ることができるソフトウェアである。ソフトウェアの分類としては音声合成の一派に当たるが、どちらかと言えば歌唱に特化した「歌唱合成」(波形接続型)に分類される。厳密に言えば、「音声データの挿入(切り貼り)・編集による歌唱ソフトウェア（シーケンサー、あるいはサンプラー）」に当てはまり、より専門的に特化した合成ツールと比べ、いくつか差異がある。UTAUの機能でまとめるなら、「音声をまとめたファイルを使用し、フォルマントを保ちながらピッチを変更でき、タイムストレッチに対応した音声結合ツール」の1つである。
制作の過程で、VOCALOIDと同じ3部構造を持ち（VOCALOIDの項、及び下記の節を参照）、それらの構成内容にユーザーが手を加えられるのも特徴。
公開以後、ニコニコ動画やYouTubeにて楽曲のヴォーカルにUTAUで作成した歌を加えた動画などが投稿され、またUTAUで使用される事を目的とした音声ファイルが少しずつアップロードされ、一つのコミュニティを生み出す。2009年には窓の杜大賞にて金賞を受賞した。
2011年1月19日、着うたや着声配信業務も手掛けているドワンゴに音声ファイルの簡易生成用に仕様を変えたエンジンの開発・提供し、『歌う@mobile』のサービスが行われている。
また、UTAUをボーカルとして使用したCD楽曲も商業流通で販売されている。
エディタ部
resamplerに受け渡すための楽譜情報・加工設定データを入力・出力する部分である。デフォルトでは、ピアノロール上には音符データしか表示されていないが、表示設定を切り替えることでピッチ曲線と音量の減衰情報、その他音声加工用の各種パラメータの文字が視覚的に表示される。1トラックのみ作成可能で音符の重ね置きはできない。ただし、音符上での原音設定によっては声を被せて1トラック内でコーラスさせることも可能。また、MacOSX版においては、単一の音源に限り8つのマルチチャンネルに対応している。休符はrで表記される。
作成した楽譜および発音データは、ustファイルとして保存される。楽譜データをresamplerに通すことで音声ファイルであるwaveファイルとして出力可能。また標準MIDIファイル (SMF) 形式のMIDIデータの読み込みに対応し、VocaloidのVSQファイルにも対応しているため、それらのファイルとUTAUとの間でデータを互換させることも可能である。
各音符には、ピッチ調整やエンベロープ、音を加工するためのオプション設定が可能。オプション設定で使われる加工処理用パラメータは、使用するエンジンの伸縮加工部（resampler等）によって使用できるものに差異がある。その内容は、声を男性的・女性的に変化するもの、ローパス・ハイパスフィルタ、原音のピッチ変動の揺れ幅操作、ノイズの低減や追加(吐息成分(ホワイトノイズ)の追加。VOCALOIDエディタのパラメータで言うブレシネスに相当)などがある。
操作系の簡易化・補助も、母音結合やオートピッチ、オートビブラート、総合的な機能としてボタン選択によりビブラートの自動設定や母音結合、ポルタメント等を自動で行う「おま☆かせ」が使用できる。オートピッチについてはより具体的に、且つ簡易に操作が行えるようにするためのAutopitch Mode2（通称Mode2）という操作体系に切り替えることが可能。
ドネーションウェアとしてのレジスト登録を行うと、レンダリング後に生成した波形を書きだし、再度調整することが可能。
エディタ部ではプラグインを用いることも可能で、これにより便利な拡張機能を使用できる。プラグインは、有志が制作したものが特定個所で配布されている。ちなみに、エディタの配色はsetting.iniのパラメータを書き換えることで変更することができる。
音声ライブラリの使われ方
音声ライブラリは、ユーザーが自分で必要な音声データを採集して制作し、使用することができる。人間の声である必要もなく、楽器の音や猫の鳴き声で音を奏でる・歌わせるなどの使い方も登場している。これらの作られたライブラリは、有志によっていくつかの無償音声データが提供されているものもあれば（諸海外では配布サイトをボイスバンク (VoiceBank) と呼ぶところがある）、商業関係の企画や、サークル活動の一環として制作されて販売されるものもある。キャラクター・ボーカル・シリーズに倣って、（主にUTAU用の）キャラクター設定を付加している所もある。
音声ライブラリは、多重音声やささやき声、子音のみ等といった音声ファイルを用意することで表現力を高めることも可能となっている。日本語にない発音を含む言語に対応したライブラリを作る場合、入力にX-SAMPAなどの音声記号を用いることにより、多言語に対応したライブラリも存在する。
エンジン部
エンジン部にあたる波形合成器は、エディタ部で作成した加工データと音声ライブラリを使い、音声ファイルを出力する部分。伸縮器と結合器で構成されている。デフォルトで、伸縮部のresamplerと結合部のwavtoolがそれぞれ同梱されている。
出力させる音声ファイルは、エディタ部で範囲指定した部分を再生することも可能。エンジン自体は独立したものであるため、同じような合成をおこなうものであれば、エンジン部だけを入れ替えることも可能。エンジン部は、作者が公開しているものから有志が作成したものもある。デフォルトで搭載されている音声伸縮エンジンであるresamplerも同様に、処理の仕方が多少異なるバージョンが複数ある。基本的に使用できるエンジンは、エディタ部で入力したustファイルに対して1つであるが、ツールを併用することで複数のエンジンをノートごとに指定し切り替えることも可能。
エンジンによって生成される音声の音質及び加工結果が異なるほか、結合ファイルが生成されるまでの処理時間が異なったり、処理の仕様に合わせて独自の波形加工用フラグオプションを付け加えることもできる。ただし、エンジンの処理仕様に適する原音の仕様との相性があり、適合しないエンジンと音源では音質が悪化したり、異常処理が起きることもある。
生成方法はバッチ処理でデータをまとめて生成するため、UTAUのエディタ上でオートスクロールさせる場合は一度キャッシュファイルを作成しなければならない。エンジンによっては、処理で生じるキャッシュファイルの量が増大することもある。出力時は仕様上単一で処理を行うが、DLLの使用やマルチスレッド支援ツールの使用で高速化ができるようになっている。
なお、VOCALOIDで使うvsqファイルをGUIで編集可能なソフトウェア「Cadencii」は、外部から合成器を使用する作りとなっており、UTAUの波形合成器とも連動させることができ、リアルタイム再生を行うことができる。
開発の経緯
2007年9月に初音ミクが発売とともに大きな話題になり、ニコニコ動画に多くの既存曲、オリジナル曲がアップロードされるようになると、かねてよりニコニコ動画にTHE IDOLM@STER関連のMAD作品を発表していた、いわゆる「職人」と呼ばれるユーザーたちは、その動きを面白がり、THE IDOLM@STERに関する多くの歌から、曲の一音一音を切り貼りして別の歌に仕立て、それをニコニコ動画にアップロードしてその出来栄えを競い合っていく。THE IDOLM@STERは、短い期間に大量の曲が作られており、1人のアーティストの膨大な音声データを簡単に集めることが可能であったため、切り貼りで別の曲に仕立てることが出来た。このような手作業による声の繋ぎ合わせでの歌の制作を「人力Vocaloid」と称して楽しんでいた。
この流れの中で、ニコニコ動画に自作ラップを投稿するなどの活動を行うミュージシャンの一人だったLOLI.COMは、自らの声を収録した音声ファイルを人力Vocaloid用の素材とし、「炉利音コム」と称して公開した。UTAUの作者となる飴屋／菖蒲も、炉利音コムを使用して動画を投稿していた。飴屋／菖蒲は、分解された素材から歌詞への再結合にAudacity、Audacityで作成した音源を楽曲の音高に合わせるためのMelodyneの体験版、それによってできた音声の録音にWindows付属のサウンドレコーダーを使用して作品を作った結果、相当手間がかかることを動画内で記載している。このように人力Vocaloidに歌わせるには膨大な手間がかかるため、切り貼りを簡単に出来る「人力Vocaloid支援ツール」としてUTAUは開発された。
ツール自体は、2008年1月11日にニコニコ動画で発表されている。その時点では、コマンドラインツールとバッチファイルを使用した「Wavtool」によるので、音声ファイルの中で切り出すエンベロープにも近い、音の時間指定の調節を可能としたものであった。音階は事前に音声を加工したファイルを作りまとめておく必要があった。
2008年2月05日に単音の伸縮機能と音高変更、さらにGUIを追加した動画が公開されている。音源は、JPNTAKE
が出力した音節を加工して使用された。2008年2月20日には、原音設定に該当する単音伸縮における伸縮境界点の設定(タイムストレッチ)と、単音単位でのピッチベンドの調節を可能にした動画が公開され、基本的な仕様はほぼ完成された。この時点では、作者が「人力Vocaloid」のツールとして使用していたMELODYNEに劣らないように改良が加えられている。2008年3月6日に仕様説明の動画がニコニコ動画で公開され、同年3月15日にツールの名前をUTAUと命名し現在に至る。
作者はもともと業務系プログラマで音声合成専門ではなかったが、UTAUの制作を通じて知識を取り入れて制作がすすめられた。公開後も改良が重ねられており、他の音声合成関係開発者たちと情報を重ねて開発が進められている。
ただし、飴屋／菖蒲は、2008年6月に「人力Vocaloidは人の手作業で膨大な手間をかけて作られたものであり、機械で生成するのは方向性が違うため、『人力ボーカロイド支援ツール』という名称を辞退する」とした。これによってUTAUは歌声合成ソフトウェアという名称になっている。
肖像権・著作権とデモンストレーション用音声データの変更
UTAUは、あらゆる音声を用いて歌声を作成する事が可能なため、テレビ番組、CD、DVDソフトから既存の人物の音声を採取し、それをデータとして用いることが可能である。作者の飴屋／菖蒲も、当初は『HAND MAID メイのボイスドラマCD』の一部を用いて、デモンストレーションを行っていた。
これらを背景として2008年5月に飴屋／菖蒲は、権利関係がクリアにならない限り、当面はその音声データを用いたデモンストレーションを行わないとした。