#!/bin/bash # ===================== ⚙️ 配置区域 (请修改这里) ===================== # 路径 A:存放原始视频的文件夹 (待压缩) # SOURCE_DIR="/storage/wenzheng/dataset/omni/ChronusAV/video/train" SOURCE_DIR="/storage/wenzheng/dataset/omni/ChronusAV/video_new" # 路径 B:生成的压缩包要存放在哪里 DEST_DIR="/storage/wenzheng/dataset/omni/2026_data_HF/chronus_videos_2" # 每个包里放多少个视频 (建议 500-1000) BATCH_SIZE=1000 # =================================================================== # 1. 安全检查 if [ ! -d "$SOURCE_DIR" ]; then echo "❌ 错误:路径 A (源目录) 不存在: $SOURCE_DIR" exit 1 fi # 如果路径 B 不存在,自动创建 if [ ! -d "$DEST_DIR" ]; then echo "📂 路径 B 不存在,正在自动创建: $DEST_DIR" mkdir -p "$DEST_DIR" fi # 获取绝对路径,防止 tar 命令找不到位置 ABS_SOURCE_DIR=$(cd "$SOURCE_DIR" && pwd) ABS_DEST_DIR=$(cd "$DEST_DIR" && pwd) # 创建一个临时目录来存放文件列表 TEMP_DIR=$(mktemp -d) echo "🔧 创建临时工作区: $TEMP_DIR" # 2. 扫描文件 echo "🔍 正在扫描路径 A 中的所有文件..." # 进入源目录,查找所有文件 (排除隐藏文件) cd "$ABS_SOURCE_DIR" || exit find . -maxdepth 1 -type f ! -name ".*" > "$TEMP_DIR/all_files.txt" TOTAL_FILES=$(wc -l < "$TEMP_DIR/all_files.txt") if [ "$TOTAL_FILES" -eq 0 ]; then echo "⚠️ 警告:路径 A 中没有发现文件!" rm -rf "$TEMP_DIR" exit 0 fi echo "✅ 共发现 $TOTAL_FILES 个视频文件。" echo "📦 准备按每包 $BATCH_SIZE 个进行打包..." # 3. 切分列表 # 将长长的文件列表切分成多个小列表 (split_00, split_01...) cd "$TEMP_DIR" || exit split -l "$BATCH_SIZE" -d "all_files.txt" "file_list_" # 4. 循环打包 COUNT=0 for listfile in file_list_*; do # 计算当前包的文件数量 FILE_COUNT=$(wc -l < "$listfile") # 生成压缩包名称,例如 video_part_000.tar SUFFIX=$(printf "%03d" $COUNT) ARCHIVE_NAME="video_part_${SUFFIX}.tar" OUTPUT_PATH="$ABS_DEST_DIR/$ARCHIVE_NAME" echo "🚀 [${COUNT}] 正在生成: $ARCHIVE_NAME (包含 $FILE_COUNT 个文件)..." # 使用 tar 打包 # -c: 创建, -f: 文件名 # -C: 切换到源目录 (确保包里不带绝对路径) # -T: 从列表文件读取要打包的文件名 tar -cf "$OUTPUT_PATH" -C "$ABS_SOURCE_DIR" -T "$listfile" ((COUNT++)) done # 5. 清理 rm -rf "$TEMP_DIR" echo "===========================================" echo "🎉 全部完成!" echo "📂 原始文件位置 (A): $ABS_SOURCE_DIR" echo "🎁 压缩包已生成在 (B): $ABS_DEST_DIR" echo "📊 总共生成了 $COUNT 个 Tar 包" echo "==========================================="