update

README.md

@@ -43,7 +43,7 @@ This dataset is meticulously curated from five renowned open-source emotional di
 The dataset is organized as follows:
 
 ```
-ExpressiveSpeech.tar.gz/
+ExpressiveSpeech/
 ├── audio/
 │   ├── M3ED
 │   │    ├── audio_00001.wav
@@ -55,7 +55,6 @@ ExpressiveSpeech.tar.gz/
 └── metadata.jsonl
 ```
 
-- **`ExpressiveSpeech.tar.gz`**: This package contains all the audio files in `.wav` format (16kHz, 16-bit, mono).
 - **`metadata.jsonl`**: A jsonl file containing detailed information for each utterance. The metadata includes:
   - `audio_path`: The relative path to the audio file.
   - `value`: The ASR-generated text transcription.

README_zh.md

@@ -35,7 +35,7 @@
 数据集的组织结构如下：
 
 ```
-ExpressiveSpeech.tar.gz/
+ExpressiveSpeech/
 ├── audio/
 │   ├── M3ED
 │   │    ├── audio_00001.wav
@@ -47,7 +47,6 @@ ExpressiveSpeech.tar.gz/
 └── metadata.jsonl
 ```
 
-- **`ExpressiveSpeech.tar.gz`**: 该压缩包包含所有 `.wav` 格式的音频文件（16kHz, 16-bit, 单声道）。
 - **`metadata.jsonl`**: 一个 `jsonl` 文件，其中包含每条语音的详细信息。元数据包括：
   - `audio_path`: 音频文件的相对路径。
   - `value`: 由 ASR 生成的文本转录。

generate_config.py

@@ -0,0 +1,60 @@
+from datasets import load_dataset, Audio
+
+# 1. 登录 (如果需要)
+# ...
+
+# 2. 以 JSON Lines 格式加载原始的、嵌套的数据集
+print("正在以 JSON Lines 格式加载 metadata.jsonl...")
+nested_dataset = load_dataset('json', data_files='metadata.jsonl', split='train')
+
+# 3. 使用 .map() 扁平化数据集（适配新版 datasets 库）
+print("正在扁平化数据集结构 (使用 .map)...")
+def flatten_conversations_batch(batch):
+    # 'batch' 是一个字典，它的值是列表，例如：
+    # {'conversations': [ [{'No':1,...},{'No':2,...}], [{'No':3,...}] ]}
+    
+    # 我们创建一个新的字典来存放扁平化后的列
+    flat_batch = {
+        'No': [],
+        'from': [],
+        'value': [],
+        'emotion': [],
+        'length': [],
+        'score_arousal': [],
+        'score_prosody': [],
+        'score_nature': [],
+        'score_expressive': [],
+        'audio-path': []
+    }
+    
+    # 遍历批次中的每一个 'conversations' 列表
+    for conversation_list in batch['conversations']:
+        # 遍历列表中的每一个样本字典
+        for sample in conversation_list:
+            # 将样本的值追加到新字典的对应列表中
+            for key in flat_batch:
+                flat_batch[key].append(sample.get(key))
+                
+    return flat_batch
+
+# 使用 .map() 应用这个函数
+# batched=True 表示函数一次处理一批数据，效率更高
+# remove_columns 会移除原始的 'conversations' 列
+dataset = nested_dataset.map(
+    flatten_conversations_batch, 
+    batched=True, 
+    remove_columns=nested_dataset.column_names
+)
+
+print("数据集已成功扁平化，现在的列为:", dataset.column_names)
+
+# 4. 定义数据类型
+print("正在转换音频列...")
+# 确保'audio-path'中的音频文件路径相对于仓库根目录是正确的
+dataset = dataset.cast_column("audio-path", Audio())
+
+# 5. 将配置和优化后的元数据推送到Hub
+print("正在将新的配置和元数据上传到Hub...")
+dataset.push_to_hub("FreedomIntelligence/ExpressiveSpeech")
+
+print("操作完成！请刷新您在Hugging Face上的数据集页面。")