update

generate_config.py

@@ -1,60 +0,0 @@
-from datasets import load_dataset, Audio
-
-# 1. 登录 (如果需要)
-# ...
-
-# 2. 以 JSON Lines 格式加载原始的、嵌套的数据集
-print("正在以 JSON Lines 格式加载 metadata.jsonl...")
-nested_dataset = load_dataset('json', data_files='metadata.jsonl', split='train')
-
-# 3. 使用 .map() 扁平化数据集（适配新版 datasets 库）
-print("正在扁平化数据集结构 (使用 .map)...")
-def flatten_conversations_batch(batch):
-    # 'batch' 是一个字典，它的值是列表，例如：
-    # {'conversations': [ [{'No':1,...},{'No':2,...}], [{'No':3,...}] ]}
-    
-    # 我们创建一个新的字典来存放扁平化后的列
-    flat_batch = {
-        'No': [],
-        'from': [],
-        'value': [],
-        'emotion': [],
-        'length': [],
-        'score_arousal': [],
-        'score_prosody': [],
-        'score_nature': [],
-        'score_expressive': [],
-        'audio-path': []
-    }
-    
-    # 遍历批次中的每一个 'conversations' 列表
-    for conversation_list in batch['conversations']:
-        # 遍历列表中的每一个样本字典
-        for sample in conversation_list:
-            # 将样本的值追加到新字典的对应列表中
-            for key in flat_batch:
-                flat_batch[key].append(sample.get(key))
-                
-    return flat_batch
-
-# 使用 .map() 应用这个函数
-# batched=True 表示函数一次处理一批数据，效率更高
-# remove_columns 会移除原始的 'conversations' 列
-dataset = nested_dataset.map(
-    flatten_conversations_batch, 
-    batched=True, 
-    remove_columns=nested_dataset.column_names
-)
-
-print("数据集已成功扁平化，现在的列为:", dataset.column_names)
-
-# 4. 定义数据类型
-print("正在转换音频列...")
-# 确保'audio-path'中的音频文件路径相对于仓库根目录是正确的
-dataset = dataset.cast_column("audio-path", Audio())
-
-# 5. 将配置和优化后的元数据推送到Hub
-print("正在将新的配置和元数据上传到Hub...")
-dataset.push_to_hub("FreedomIntelligence/ExpressiveSpeech")
-
-print("操作完成！请刷新您在Hugging Face上的数据集页面。")