Update golos_opus.py

golos_opus.py

@@ -117,51 +117,66 @@ class GolosOpus(datasets.GeneratorBasedBuilder):
         audio_archives = dl_manager.download(audio_urls)
         transcript_paths = dl_manager.download_and_extract(transcript_urls)
         
+        # Создаем архивы для каждого разделения
+        train_archives = [dl_manager.iter_archive(path) for path in audio_archives["train"]]
+        test_archives = [dl_manager.iter_archive(path) for path in audio_archives["test"]]
+        
         return [
             datasets.SplitGenerator(
                 name=datasets.Split.TRAIN,
                 gen_kwargs={
-                    "archives": [dl_manager.iter_archive(path) for path in audio_archives["train"]],
+                    "archives": train_archives,
                     "transcript_path": transcript_paths["train"],
-                    "split": "train",
                 },
             ),
             datasets.SplitGenerator(
                 name=datasets.Split.TEST,
                 gen_kwargs={
-                    "archives": [dl_manager.iter_archive(path) for path in audio_archives["test"]],
+                    "archives": test_archives,
                     "transcript_path": transcript_paths["test"],
-                    "split": "test",
                 },
             ),
         ]
 
-    def _generate_examples(self, archives, transcript_path, split):
+    def _generate_examples(self, archives, transcript_path):
         """Yields examples."""
+        # Получаем список всех ожидаемых полей
+        data_fields = list(self._info().features.keys())
+        
         # Загружаем метаданные из TSV
         metadata = {}
         with open(transcript_path, encoding="utf-8") as f:
-            reader = csv.DictReader(f, delimiter="\t")
+            reader = csv.DictReader(f, delimiter="\t", quoting=csv.QUOTE_NONE)
             for row in reader:
+                # Если нужно добавить к имени файла расширение
+                if not row["path"].endswith(".opus"):
+                    row["path"] += ".opus"
+                
+                # Заполняем отсутствующие поля пустыми строками
+                for field in data_fields:
+                    if field not in row and field != "audio":
+                        row[field] = ""
+                
                 metadata[row["path"]] = row
-
+        
         # Проходим по всем архивам и извлекаем файлы
-        example_idx = 0
         for archive_idx, archive in enumerate(archives):
             for file_path, file_obj in archive:
-                # Получаем имя файла из пути без использования os.path
-                # Используем самый простой способ - разделение по '/' и взятие последнего элемента
+                # Получаем имя файла из пути
                 filename = file_path.split("/")[-1]
                 
                 # Если файл есть в метаданных, создаем пример
                 if filename in metadata:
                     row = metadata[filename]
-                    example = {
-                        "id": row["id"],
-                        "path": filename,
-                        "text": row["text"],
-                        "duration": float(row["duration"]) if row["duration"] else 0.0,
-                        "audio": {"path": file_path, "bytes": file_obj.read()},
-                    }
-                    yield example_idx, example
-                    example_idx += 1
+                    
+                    # Копируем данные из метаданных
+                    result = dict(row)
+                    
+                    # Добавляем аудио-данные
+                    result["audio"] = {"path": file_path, "bytes": file_obj.read()}
+                    
+                    # Устанавливаем путь
+                    result["path"] = filename
+                    
+                    # Как в Common Voice: ключ = путь к файлу, значение = запись
+                    yield file_path, result