Dataset Viewer

Split (1)

train

The dataset viewer is not available for this split.

Cannot extract the features (columns) for the split 'train' of the config 'default' of the dataset.

Error code:   FeaturesError
Exception:    UnicodeDecodeError
Message:      'utf-8' codec can't decode byte 0x89 in position 0: invalid start byte
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/split/first_rows.py", line 249, in compute_first_rows_from_streaming_response
                  iterable_dataset = iterable_dataset._resolve_features()
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 4379, in _resolve_features
                  features = _infer_features_from_batch(self.with_format(None)._head())
                                                        ~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2661, in _head
                  return next(iter(self.iter(batch_size=n)))
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2839, in iter
                  for key, pa_table in ex_iterable.iter_arrow():
                                       ~~~~~~~~~~~~~~~~~~~~~~^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2377, in _iter_arrow
                  yield from self.ex_iterable._iter_arrow()
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 536, in _iter_arrow
                  for key, pa_table in iterator:
                                       ^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 419, in _iter_arrow
                  for key, pa_table in self.generate_tables_fn(**gen_kwags):
                                       ~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/text/text.py", line 98, in _generate_tables
                  batch = f.read(self.config.chunksize)
                File "/usr/local/lib/python3.14/site-packages/datasets/utils/file_utils.py", line 844, in read_with_retries
                  out = read(*args, **kwargs)
                File "<frozen codecs>", line 325, in decode
              UnicodeDecodeError: 'utf-8' codec can't decode byte 0x89 in position 0: invalid start byte

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

YAML Metadata Warning:empty or missing yaml metadata in repo card

Check out the documentation for more information.

collect_top.py — датасет «характерных» дефектов + заливка на HF

Один вызов собирает из папок-источников датасет с наиболее характерными примерами по каждой категории качества (самые размытые, самые тёмные, самый сильный шум и т.д.) и заливает на Hugging Face как публичный dataset-репозиторий.

python3 collect_top.py ИСТОЧНИК1 [ИСТОЧНИК2 ...] [параметры]

Что на выходе (папка `--out`)

На каждую категорию — свой zip, внутри плоско лежат файлы категории и <категория>_scores.tsv со скорами именно этих картинок:

top_defects/
├── good.zip              # 1000 jpg/png + 1000 txt + good_scores.tsv
├── blur.zip              # самые размытые + blur_scores.tsv
├── underexposed.zip      # ...
├── noise.zip
├── jpeg_artifacts.zip
├── color_cast.zip
├── overexposed.zip
├── empty.zip
├── collect_top.py        # скрипт, которым собран датасет
├── scan.py               # актуальный скан-скрипт (scan.py из dataset-utils)
└── README.md             # эта инструкция

Что делает (пайплайн из 5 шагов)

Скоры → .tsv (режим --scores в scan.py): каждый файл прогоняется через все детекторы, для каждой категории считается непрерывный скор [0..1] (метрики считаются независимо от диагноза — не только первая сработавшая причина).
Отбор топ-N (режим --select): для категории X берутся изображения, где X — первичный диагноз («категория превалирует»), ранжируются по скору X (больше = характернее) и копируются с парными .txt. low_res по умолчанию отсекается, дубликаты убираются по md5.
Упаковка: на категорию свой zip (файлы + _scores.tsv внутри).
Скрипт и инструкция: рядом кладутся collect_top.py и README.md.
HF: создаёт публичный dataset-репо и заливает всё (если задан --repo).

Скоры по категориям

Категория	Метрика	«Хуже» =	Нормировка к
blur	резкость лучшего окна 96×96 (95-й перц. лапласиана)	меньше	порогу 90 (фото) / 150 (илл.)
underexposed	средняя яркость кадра	меньше	порогу 90
overexposed	доля выбитых пикселей (≥250)	больше	0.05 → 0.5
noise	std самых гладких 10% блоков 16×16	больше	порогу 18 (фото) / 15 (илл.)
jpeg_artifacts	разрыв на стыках 8×8 / внутри блоков (ds/di)	больше	порогу 1.8
color_cast	перекос каналов на нейтральных пикселях	больше	порогу 50 (фото) / 40 (илл.)
screenshot / not_photo / empty / low_res	категориальные	—	1.0 если диагноз сработал
good	резкость × отсутствие дефектов	—	1.0 = чистое резкое фото

Пороги блюра калибруются константой BLUR_BEST в scan.py (фото 90, иллюстрации 150).

Примеры

# сбор без загрузки (sources: World_in_photo + LIFE wallpapers)
python3 collect_top.py ~/datasets/d23/World_in_photo \
    ~/datasets/d23/LIFEstyleNewsMiXtureImagesWallpapers \
    --out ~/datasets/top_defects --tsv ~/datasets/scores_photo.tsv \
    --counts good=1000,blur=1000,underexposed=100,noise=100 -j 16

# с загрузкой на HF (создаст публичный датасет recoilme/top_defects)
HF_TOKEN=... python3 collect_top.py ~/datasets/d23/World_in_photo \
    --out ~/datasets/top_defects --repo recoilme/top_defects -j 16

# не удалять временные папки категорий (для проверки до упаковки)
python3 collect_top.py ИСТОЧНИК --out OUT --keep-staging

Параметры

Параметр	По умолчанию	Описание
`sources`	—	одна или несколько папок с изображениями
`--out`	`top_defects`	папка результата (zip'ы + скрипт + README)
`--tsv`	`scores.tsv`	общий файл скоров (промежуточный артефакт)
`--counts`	good=1000, blur=1000, остальные=100	цели по категориям
`--include-lowres`	выкл	не отсекать low_res
`--keep-staging`	выкл	не удалять временные папки категорий
`--repo`	—	HF dataset-репо для заливки, например `recoilme/top_defects`
`-j N`	8	параллельных процессов

Требования

collect_top.py и scan.py должны лежать рядом (scan.py кладётся автоматически в --out, а в dataset-utils они живут в папке quality/)
pip install huggingface_hub
токен HF: переменная HF_TOKEN или ~/.cache/huggingface/token

Нюансы

not_photo/screenshot в фото-источниках почти не встречаются — если нужны, добавь источник с иллюстрациями (например аниме-набор) или собери отдельно (скан mjnj 1.9M файлов — это часы, лучше бить на части).
Скор good у резких чистых фото насыщается на 1.0 — порядок внутри топ-N хороших произвольный. Если нужно ранжировать и хорошие — расширь динамику скора (не клипи резкость).
Источники не изменяются: скоры читают файлы, отбор копирует (не переносит).

Downloads last month: 53

Total file size:

697 MB