Datasets:
The dataset viewer is not available for this split.
Error code: FeaturesError
Exception: ArrowInvalid
Message: JSON parse error: Invalid value. in row 0
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 342, in _generate_tables
df = pandas_read_json(f)
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 38, in pandas_read_json
return pd.read_json(path_or_buf, **kwargs)
~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/pandas/io/json/_json.py", line 815, in read_json
return json_reader.read()
~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/pandas/io/json/_json.py", line 1014, in read
obj = self._get_object_parser(self.data)
File "/usr/local/lib/python3.14/site-packages/pandas/io/json/_json.py", line 1040, in _get_object_parser
obj = FrameParser(json, **kwargs).parse()
File "/usr/local/lib/python3.14/site-packages/pandas/io/json/_json.py", line 1176, in parse
self._parse()
~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/pandas/io/json/_json.py", line 1392, in _parse
ujson_loads(json, precise_float=self.precise_float), dtype=None
~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
ValueError: Expected object or value
During handling of the above exception, another exception occurred:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/split/first_rows.py", line 244, in compute_first_rows_from_streaming_response
iterable_dataset = iterable_dataset._resolve_features()
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 4645, in _resolve_features
features = _infer_features_from_batch(self.with_format(None)._head())
~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2866, in _head
return next(iter(self.iter(batch_size=n)))
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 3073, in iter
for key, pa_table in ex_iterable.iter_arrow():
~~~~~~~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2581, in _iter_arrow
yield from self.ex_iterable._iter_arrow()
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 558, in _iter_arrow
for key, pa_table in iterator:
^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 440, in _iter_arrow
for key, pa_table in self.generate_tables_fn(**gen_kwags):
~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 345, in _generate_tables
raise e
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/json/json.py", line 291, in _generate_tables
pa_table = paj.read_json(
io.BytesIO(batch), read_options=paj.ReadOptions(block_size=block_size)
)
File "pyarrow/_json.pyx", line 364, in pyarrow._json.read_json
File "pyarrow/error.pxi", line 155, in pyarrow.lib.pyarrow_internal_check_status
File "pyarrow/error.pxi", line 92, in pyarrow.lib.check_status
raise convert_status(status)
pyarrow.lib.ArrowInvalid: JSON parse error: Invalid value. in row 0Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
Style Scout CSD — LDA
62,051作者のCSD特徴をLDA空間で比較する、ローカル画風検索ツールです。 作者名、画像ファイル、画像フォルダから類似作者を検索できます。 LDAのみ使用します。PLDA・SVD・一般タグの除外射影は使いません。 従来のDINOv3/SVD版とは別のデータセットで、互換性はありません。
Windows:ダブルクリックでセットアップと検索
start.bat をダウンロード して、書き込み可能なフォルダに保存し、ダブルクリックしてください。
この1ファイルだけで起動できます(.bat.txt にならないように保存)。Windows 10/11の64bit環境を想定しています。
- 既存の64bit Python 3.10以上を検出します。見つからなければ、
Yを選ぶと winget でPython 3.12をユーザー領域へ導入します。 wingetがない・導入できない場合は画面の案内に従ってPythonをインストールしてから再実行してください。 - 「1: 作者名」または「2: 画像ファイル/フォルダ」を選び、作者タグかパスを入力します。
- 専用仮想環境・依存ライブラリ・作者パックを自動導入します。画像検索の場合だけCSDモデルも取得します。
start.batの隣のresults/に結果を保存し、HTMLをブラウザで開きます。
入力する作者名・画像パスはPython側で扱うため、空白・日本語・括弧も使用できます。
画像パスを貼り付けたときの外側の引用符も取り除きます。終了時は画面が残るので、エラーも確認できます。
コマンドプロンプトから引数を付けて起動する場合、結果は実行場所の results/ に保存します。
start.bat --artist mochizuki_kei
start.bat --images "C:\Pictures\reference"
start.bat --artist "1=2" --no-open
導入先は %USERPROFILE%\style-scout-csd。STYLE_SCOUT_CSD_HOME で変更できます。
STYLE_SCOUT_PYTHON はPython実行ファイルのパス、STYLE_SCOUT_NO_PAUSE=1 は終了時の待機を省略する設定です。
初回はネット接続が必要で、以降も起動時に公開コードの更新を確認します。
画像検索はCPUでも実行できます。CUDA対応PyTorchと対応GPUが利用できる場合はCUDAを自動選択します。
GPU環境の自動構築は行いません。
Windows実機では未検証です。 対話入力・引数保持・UTF-8・既存検索のテストはmacOSで実施しています。
macOS / Linux:仮想環境の構築から全部自動(おすすめ)
start.sh だけを保存して実行してください。通常のBashスクリプトです。 仮想環境の作成・ライブラリ導入・作者パック取得・必要時のCSDモデル取得・検索・HTML表示まで進みます。
curl -fL https://huggingface.co/datasets/cloudaiman/style-scout-csd-lda/resolve/main/start.sh -o start.sh
chmod +x start.sh
./start.sh
chmod +x start.sh は初回の実行権限設定です。以降は ./start.sh で起動できます。
引数なしなら「作者名/画像」を選び、タグまたは画像ファイル・フォルダのパスを入力します。
括弧や = を含む作者タグもそのまま入力できます。
./start.sh --artist mochizuki_kei
./start.sh --images "/path/to/images"
./start.sh --artist '1=2' --no-open
Python 3.10以上を既存環境・PATH・Homebrew等から自動検出します。壊れたPythonのPATH設定は読み飛ばします。
Python本体が未導入の場合だけ、先にPythonをインストールしてください。
STYLE_SCOUT_PYTHON でPython、--install-dir で導入先を指定できます。
--offline は一度オンラインでセットアップ済みの場合に使えます。
起動オプション
以下はmacOS/Linux用です。Windowsでは ./start.sh を start.bat に置き換えてください。
# 作者名はDanbooruの完全一致タグ。括弧や = を含む場合は引用符で囲む
./start.sh --artist 'dino_(dinoartforame)'
./start.sh --artist '1=2' --artist nixeu
# 画像1枚、複数ファイル、フォルダ(サブフォルダも再帰的に探索)
./start.sh --images '/path/to/picture.png'
./start.sh --images '/path/to/a.jpg' '/path/to/b.webp'
./start.sh --images '/path/to/reference-folder'
# 結果のブラウザ表示を止める/プロフィールAPIを呼ばない
./start.sh --artist mochizuki_kei --no-open
./start.sh --artist mochizuki_kei --no-links
# 初期表示で32枚以上の作者に絞る(変換行列は再計算しない)
./start.sh --artist mochizuki_kei --min-count 32 --top 20
# Mac GPU自動選択。明示指定も可能
./start.sh --images '/path/to/folder' --device mps
./start.sh --images '/path/to/folder' --device cpu
# NVIDIA環境(適切なCUDA版PyTorchが必要)
./start.sh --images '/path/to/folder' --device cuda
# 保存済みCSD重みを利用
./start.sh --images '/path/to/folder' --model-dir '/path/to/csd-vit-l'
初回に行うこと
~/style-scout-csd/.venvに専用の仮想環境を作る。手動のactivateは不要。- 必要なライブラリと、約182MBの作者特徴量パックをダウンロードする。
- 画像検索を指定したときだけPyTorch等とCSD ViT-Lの公式重み(約2.4GB)を取得する。
- 検索結果を実行場所の
./results/<日時>/に保存し、HTMLを自動で開く。
--install-dir で仮想環境の場所、--cache-dir で画像特徴・リンク・CSDモデルの
キャッシュ先を変えられます。特徴量パックと実行コードはHugging Faceの標準キャッシュを利用します。
--output DIR は結果保存先を指定します。既存ディレクトリは上書きしません。
起動時は公開 release.json から検証済みコミットを選び、固定リビジョンでコードとパックを取得して
SHA-256を確認します。同じバージョンはキャッシュを再利用します。
このCSD版ランチャーは公開リリース情報を毎回確認します。旧DINOv3版ランチャーはCSDへ自動移行しません。
通信不能なら保存済みのリリース情報を使います。--offline は初期セットアップ後に使えます。
画像検索の完全オフライン実行にはCSD重みまたは対象画像の特徴キャッシュも必要です。
作者名検索だけならPyTorch・GPU・CSD重みは不要です。初回のネットワーク接続は パック取得と、指定に応じたモデル・プロフィールメタデータ取得に限ります。 入力画像は端末外へアップロードしません。画像生成APIも呼びません。
出力
report.html: LDA上位ランキング、距離グラフ、採用枚数フィルター (全作者/8・16・32・64枚以上)、Danbooru登録数フィルター (指定なし/100・300・500・1,000・3,000・10,000件以上)、Danbooru・Pixiv・Twitter/Xのリンク。 登録数は収録したDanbooru 2026メタデータ時点の件数で、リアルタイムの件数ではありません。 採用枚数と組み合わせて全候補を絞り込み、その後に上位を選び直します。 全rating・削除/禁止投稿を含み、作者の別名は統合しません。件数不明は「指定なし」のみ表示します。results.json: 距離、採用枚数、参照条件、使用パックのハッシュとリンク。- 標準出力: 順位・作者名・距離・枚数と、HTMLのURL1本。長いSNS URLは並べません。
HTMLには画像もサムネイルも含みません。取得済みのHTMLはネット接続なしで読めます。
SNSリンクはDanbooruに登録された公開プロフィールだけを使い、7日間キャッシュします。
未登録・取得失敗・古いキャッシュは区別して表示します。リンク先の現在の所有者は保証しません。
--no-links ならDanbooru検索リンクだけを作成します。
数学的な処理
画像ごとにCSDの768次元特徴をL2正規化して $x_i$ とします。 作家平均は $\mu_a = n_a^{-1}\sum_i x_i$。この平均は再正規化しません。
作家を等しく重み付けした中心化共分散を用います。
画像集合の検索は、各画像のCSD特徴を平均した $\mu_q$ を同じ変換に通します。 順位は $|W(\mu_q-\bar\mu)-u_a|_2$ の昇順です。作者名検索は保存済み $u_a$ を使い、本人を除きます。 距離は一致率・確率ではありません。
768軸、shrinkage=0、固有値floorは作家内共分散の平均固有値の $10^{-6}$ 倍です。 旧実験の共通変換を再利用しています。設定は14 validation作者・360枚で、歴史的にはPLDAの macro MRRにより選択されたものです。この配布版はLDAだけを実行し、LDA専用に設定を最適化し直したものではありません。 テスト用クイズでのパラメータ選択はしていません。
CSD抽出と互換性
Somepalli et al., Measuring Style Similarity in Diffusion Models (2024) の
CSD ViT-L を使用。
リビジョン 5bc26a6fb0487f3f00a2a7313135103a005b1b67 に固定します。
EXIF補正、透明背景を白で合成、RGB化 → 長辺1024px以下 → JPEG quality=88 →
短辺224pxへbicubicリサイズ → 224×224中央切り出し → CLIP標準化 →
視覚バックボーンと last_layer_style → L2正規化です。
content projectionやCLIP本来のprojectionは使いません。前処理を変えるとパックとの互換性が崩れます。
JPEG・PNG・WebP・GIF・BMPに対応。GIFは先頭フレームです。 1ファイル100MiB、2億画素まで(上限内でも大画像には数GBのRAMが必要な場合があります)。 同一バイト列の重複は1枚にまとめます。入力画像の近似重複は自動除去しないため、 表情差分などを大量投入するとその内容に平均が偏ります。少数画像でも動きますが不確かさは増えます。
公開CSD実装には、公開重みと論文の値に差異がある旨の注意書きがあります。 このツールの評価値を論文の性能と同一視しないでください。
データの由来・収録条件
- nyanko-devs/danbooru2026, revision
ebb02a630201c7b51487e45fb90b3fcf4cbedc20のアーカイブと投稿メタデータから作成。 - 元の35,705作者名簿に、アーカイブに32枚以上ある未登録26,672タグを追加。 名簿62,377のうち特徴量がある62,051作者を配布。326作者は採用画像なし。
- 計3,344,456枚の作者への採用レコード。同一画像が複数作者に紐付く場合もあり、 全世界で一意な画像数という意味ではありません。
- 作者ごと最大64枚。g=22、s=21、q/e合計21を目標とし、不足区分は他区分で補完。 各区分内では新しい投稿日時を優先(作品制作日時とは限らない)。
- SFW=g、NSFW=s/q/e。検索パックには両方を含み、画像内容での絞り込みは提供しません。
- 評価画像はID・親子関係・Pixiv ID・MD5と視覚照合で除外。作者内の近似重複も除外。 作者間の全共有画像を除外する処理はしていません。
- 32枚は追加対象を選ぶ前段階の条件。重複除外後に32枚未満になる作者や、旧名簿の少数作者も含みます。
- この配布物に元画像、画像別特徴量、画像ID一覧、私的ファイル、APIキーは含みません。 作者座標・採用枚数・共通変換だけの検索用集約パックです。作家別に再学習するためのフル画像特徴データではありません。
検証と限界
固定クイズ(候補62,051作者)のLDA Top-1:
| クイズ | 1枚 | 5枚 | 10枚 |
|---|---|---|---|
| 180作者・1,800画像 | 42.4% | 79.7% | 86.1% |
| nude50・250画像 | 31.2% | 84.0% | — |
これらは既存の研究中に繰り返し評価したクイズで、新規に収集した盲検ベンチマークではありません。 候補数や作者構成が違う実験との単純比較はできません。64枚が全作者で十分収束したという意味でもありません。 内容・構図・色・年代の影響は残ります。本人特定や作者の権利確認には使わないでください。
権利・帰属
この配布コードの独自部分はMIT。CLIP/CSD由来のコードは vendor/ 内のMITライセンスを保持しています。
CSDモデルカードはCC BY 4.0を表示しています。重みは再配布せず公式リポジトリから取得します。
元アーカイブ のカードはMITを表示していますが、
各作品の著作権や第三者の権利までその表示で解決したとは扱いません。
集約特徴量パックをMITやCC0として一括許諾する主張はしません。 詳細は DATA-NOTICE.txt。
帰属や削除窓口の用意は許諾の代わりではありません。権利者の連絡はこのリポジトリのCommunityへ。
必要に応じて収録・配布内容を見直し、削除します。過去に第三者が取得したコピーの回収は保証できません。
手動実行・テスト
リポジトリ一式を取得して pip install -r requirements.txt、画像検索なら
pip install -r requirements-images.txt の後、python search.py --artist mochizuki_kei。
合成データのテストは python tests.py -v(画像処理テストにはPillowが必要)。
CSD版は作者名のLDA検索にPyTorchを要求しません。
- Downloads last month
- 182