# Data Designer

[Data Designer](https://github.com/NVIDIA-NeMo/DataDesigner) — это фреймворк NVIDIA NeMo для генерации высококачественных синтетических наборов данных с помощью LLM. Он позволяет создавать разнообразные данные с использованием статистических сэмплеров, LLM или существующих стартовых наборов данных.

## Предварительные требования

```bash
pip install data-designer
```

## Загрузка наборов данных из Hub в качестве исходных

Используйте `HuggingFaceSeedSource` для загрузки наборов данных непосредственно из Hub в качестве исходных данных для генерации.

```python
import data_designer.config as dd
from data_designer.interface import DataDesigner

data_designer = DataDesigner()
config_builder = dd.DataDesignerConfigBuilder()

# Load seed data from HuggingFace
seed_source = dd.HuggingFaceSeedSource(
    path="datasets/gretelai/symptom_to_diagnosis/data/train.parquet",
    token="hf_...",  # Optional, for private datasets
)
config_builder.with_seed_dataset(seed_source)

# Reference seed columns in prompts
config_builder.add_column(
    dd.LLMTextColumnConfig(
        name="physician_notes",
        model_alias="openai-gpt-5",
        prompt="Write notes for a patient with {{ diagnosis }}. Symptoms: {{ patient_summary }}",
    )
)

preview = data_designer.preview(config_builder, num_records=5)
```

## Отправка сгенерированных наборов данных в Hub

Используйте встроенный метод `push_to_hub` для загрузки сгенерированных наборов данных на Hub.

```python
# Generate dataset
results = data_designer.create(config_builder, num_records=1000, dataset_name="my-dataset")

# Push to Hub
url = results.push_to_hub(
    repo_id="username/my-synthetic-dataset",
    description="Synthetic dataset generated with Data Designer.",
    tags=["medical", "notes"],
    private=False,
)
```

## Ресурсы

- [Документация Data Designer](https://nvidia-nemo.github.io/DataDesigner/)
- [Репозиторий на GitHub](https://github.com/NVIDIA-NeMo/DataDesigner)
- [Руководство по наборам данных Seed](https://nvidia-nemo.github.io/DataDesigner/latest/concepts/seed-datasets/)
- [Руководство по использованию Data Designer с Inference Providers](https://huggingface.co/docs/inference-providers/integrations/datadesigner)