# 高光谱塑料分类工具 - 项目交接文档 --- ## 一、项目概述 ### 1.1 项目基本信息 | 项目属性 | 内容 | |---------|------| | **项目名称** | 高光谱塑料分类工具 (Hyperspectral Plastic Classification) | | **项目目的** | 基于高光谱成像和深度学习的微塑料材料分类与识别 | | **开发语言** | Python 3.12 | | **当前版本** | v1.0.0 (2025-08-26) | | **许可证** | Creative Commons 非商业许可证 | ### 1.2 核心功能 - 支持BIL格式高光谱数据读取和处理 - 使用UNet模型进行图像分割和掩膜生成 - 支持9种塑料材料分类识别 - 背景校正和光谱特征提取 - 输出ENVI标准格式分类结果 ### 1.3 支持的塑料类型 | 类别编号 | 材料名称 | 英文缩写 | |---------|---------|---------| | 1 | 丙烯腈-丁二烯-苯乙烯共聚物 | ABS | | 2 | 高密度聚乙烯 | HDPE | | 3 | 低密度聚乙烯 | LDPE | | 4 | 尼龙6 | PA6 | | 5 | 聚对苯二甲酸乙二醇酯 | PET | | 6 | 聚丙烯 | PP | | 7 | 聚苯乙烯 | PS | | 8 | 聚四氟乙烯 | PTFE | | 9 | 聚氯乙烯 | PVC | --- ## 二、项目结构 ``` micro_plastic/ ├── main.py # 主程序入口(核心流程) ├── fliter_sample_spectral.py # 滤纸背景样本光谱提取工具 ├── bil2rgb.py # BIL转RGB模块 ├── mask.py # 图像分割/掩膜生成 ├── shape_spectral.py # 光谱特征提取 ├── shape_spectral_background.py # 背景校正计算 ├── extact_shape.py # 特征提取工具(含二次分类背景校正) ├── chose_bands.py # 波段选择工具 ├── get_glcm.py # GLCM纹理特征提取 ├── only_mask.py # 仅掩膜处理 ├── spectral_shape_class.py # 光谱形状分类 ├── main_batch_nosample.py # 批量处理(无样本) ├── maintest.py / mainv1.py # 测试/旧版本入口 ├── 多模型.py # 多模型处理脚本 ├── time.py # 时间相关工具 ├── outputs2dataframe.py # 输出转换工具 ├── bil2rgb.py # BIL转RGB工具 ├── classification_model/ # 分类模型模块 │ ├── Classification/ # 分类算法 │ │ ├── ClassicCls.py # 经典分类器 │ │ ├── ClassicClsHY.py # 经典分类器(优化版) │ │ ├── ClassicCls_网格搜索.py # 网格搜索参数优化 │ │ ├── Cls.py # 基础分类器 │ │ ├── Cls_网格搜索.py # 分类器网格搜索 │ │ ├── Cls_超参数.py # 超参数调优 │ │ ├── DeepCls.py # 深度学习分类器 │ │ ├── CNN.py # CNN模型 │ │ ├── CNN_deepseek.py # DeepSeek优化CNN │ │ ├── CNN_HYper.py # 超参数CNN │ │ ├── CNN_SAE.py # CNN+SAE模型 │ │ ├── CNN_Transfomer.py # CNN+Transformer │ │ ├── SAE.py # 堆叠自编码器 │ │ └── CNN_网格搜索.py # CNN网格搜索 │ │ │ ├── WaveSelect/ # 波长选择算法 │ │ ├── WaveSelcet.py # 主入口 │ │ ├── Cars.py # CARS算法 │ │ ├── GA.py # 遗传算法 │ │ ├── Lar.py # LARS算法 │ │ ├── MRMR.py # 最大相关最小冗余 │ │ ├── Pca.py # 主成分分析 │ │ ├── ReliefF.py # ReliefF算法 │ │ ├── Spa.py # SPA算法 │ │ ├── Spa_acc.py # SPA精确版 │ │ └── Uve.py # UVE算法 │ │ │ ├── DataLoad/ # 数据加载 │ │ └── DataLoad.py # 数据加载器 │ │ │ ├── Preprocessing/ # 预处理 │ │ └── Preprocessing.py # 数据预处理 │ │ │ ├── Evaluate/ # 模型评估 │ │ └── RgsEvaluate.py # 回归评估 │ │ │ └── Parallel/ # 并行处理/预测 │ ├── predict_plastic.py # 塑料预测主入口 │ └── test.py # 测试脚本 │ ├── README.md # 项目说明文档 ├── requirements.txt # Python依赖列表 └── 项目交接文档.md # 本文件 ``` --- ## 三、技术栈与依赖 ### 3.1 核心依赖库 | 库名称 | 版本 | 用途 | |--------|------|------| | torch | 2.8.0 | 深度学习框架 | | torchvision | 0.23.0 | 图像处理工具 | | opencv-python | 4.12.0 | 计算机视觉 | | numpy | 2.2.6 | 数值计算 | | pandas | - | 数据处理 | | scikit-learn | 1.6.1 | 机器学习 | | scipy | 1.15.3 | 科学计算 | | matplotlib | 3.10.3 | 数据可视化 | | spectral | - | 高光谱数据处理 | | PyWavelets | 1.8.0 | 小波变换 | | plantcv | - | 植物/图像分析 | ### 3.2 完整依赖安装 ```bash pip install -r requirements.txt ``` --- ## 四、核心流程说明 ### 4.1 主程序处理流程 (main.py) ``` 1. 读取BIL格式高光谱数据 ↓ 2. 转换为RGB图像 (bil2rgb.py) ↓ 3. 使用分割模型生成掩膜 (mask.py) ├─ 微塑料掩膜 └─ 滤纸背景掩膜 ↓ 4. 提取光谱特征 (shape_spectral.py) ↓ 5. 计算背景光谱并校正 (shape_spectral_background.py) ↓ 6. 数据清理和过滤 ├─ 去NA值 ├─ 过滤轮廓点数不足样本 └─ 过滤面积<500像素的样本 ↓ 7. 主要分类 (classification_model.Parallel.predict_plastic) ↓ 8. 二次分类(HDPE/LDPE精细分类) ↓ 9. 后处理类别7/8阴影识别 ↓ 10. 保存ENVI格式分类结果 ``` ### 4.2 关键参数配置 #### 训练相机波长(237通道,912.36-1706.6nm) ```python TRAIN_WAVELENGTHS = [912.36, 915.68, 919, ..., 1703.3, 1706.6] ``` #### 分类处理参数 - **主模型类型**: SVM - **预处理方法1**: SS (Spectral Standardization) - **预处理方法2**: None #### 分割参数 - `flow_threshold`: 0.4 - `cellprob_threshold`: -1 - `filter_method`: 'threshold' --- ## 五、使用方法 ### 5.1 基本用法 ```bash python main.py --bil_path /path/to/input.bil --output_path /path/to/output --model_path /path/to/model.m ``` ### 5.2 参数说明 | 参数 | 必需 | 默认值 | 描述 | |------|------|--------|------| | `--bil_path` | 是 | 无 | 输入BIL文件路径 | | `--output_path` | 是 | 无 | 输出目录路径 | | `--model_path` | 是 | 无 | 主分类模型路径 | | `--unet_path` | 否 | ./unet_pytorch/logs/best_epoch_weights.pth | UNet模型权重路径 | ### 5.3 使用示例 ```bash # 使用默认UNet权重 python main.py --bil_path ./data/input.bil --output_path ./results --model_path ./models/svm.m # 指定所有参数 python main.py --bil_path ./data/input.bil --output_path ./results --model_path ./models/svm.m --unet_path ./custom_unet_weights.pth # Windows系统示例 python main.py --bil_path "C:\Users\HyperSpec\test\MPData2.bil" --output_path "C:\Users\HyperSpec\test" --model_path ".\classification_model\modelsave\svm.m" ``` ### 5.4 滤纸背景样本提取 (fliter_sample_spectral.py) ```python # 处理单个文件或文件夹 bil_path_or_folder = r"D:\Data\Traindata-11" output_csv_path = r"E:\plastic\plastic\output\滤纸样本光谱\11.csv" num_masks = 50 # 生成的背景样本数量 rng_seed = 42 # 随机种子,保证可复现 ``` --- ## 六、输入输出格式 ### 6.1 输入文件格式 | 文件类型 | 扩展名 | 说明 | |---------|--------|------| | 高光谱数据 | .bil | BIL格式高光谱数据 | | 头文件 | .hdr | 对应的ENVI头文件 | **HDR文件关键字段:** ``` samples = 1024 # 列数 lines = 1024 # 行数 bands = 237 # 波段数 wavelength = {912.36, 915.68, ...} # 波长列表 ``` ### 6.2 输出文件格式 | 文件类型 | 扩展名 | 说明 | |---------|--------|------| | 分类结果 | .dat | ENVI分类结果数据 | | 头文件 | .hdr | ENVI头文件(含类别定义)| **输出HDR示例:** ``` ENVI description = {Classification Result.} samples = 1024 lines = 1024 bands = 1 classes = 10 class = { background, ABS, HDPE, LDPE, PA6, PET, PP, PS, PTFE, PVC } data type = 2 # 16-bit整数 ``` --- ## 七、关键代码模块详解 ### 7.1 main.py - 主流程控制 **核心函数:** - `validate_inputs()` - 输入验证 - `generate_rgb()` - RGB生成 - `run_segmentation()` - 图像分割 - `extract_primary_features()` - 特征提取 - `compute_background_spectrum()` - 背景计算 - `apply_background_and_optional_resample()` - 背景校正+重采样 - `run_primary_classification()` - 主要分类 - `run_secondary_classification_if_needed()` - 二次分类 - `postprocess_class7_shadow()` - 阴影后处理 ### 7.2 mask.py - 图像分割 **功能:** - 微塑料颗粒检测 - 滤纸背景区域识别 - 返回微塑料掩膜和滤纸掩膜 **关键参数:** - `flow_threshold`: 流动阈值 - `cellprob_threshold`: 细胞概率阈值 ### 7.3 shape_spectral.py - 光谱特征提取 **功能:** - 从BIL数据提取光谱特征 - 计算形状特征(轮廓、面积等) - 使用PlantCV库 ### 7.4 shape_spectral_background.py - 背景校正 **功能:** - 计算滤纸背景光谱 - 用于后续背景校正 ### 7.5 classification_model.Parallel.predict_plastic - 分类预测 **功能:** - 加载训练好的模型 - 特征标准化 - 预测塑料类别 --- ## 八、注意事项与常见问题 ### 8.1 系统要求 - **Python版本**: 3.12+ - **内存**: 足够处理高光谱数据(建议16GB+) - **存储**: 建议使用固态硬盘 - **GPU**: 可选,用于加速(CUDA支持) ### 8.2 常见问题 #### Q1: 运行时报错"ModuleNotFoundError" **解决:** 确保已安装所有依赖 ```bash pip install -r requirements.txt ``` #### Q2: 处理大型文件时内存不足 **解决:** - 考虑减少处理区域 - 增加系统内存 - 分批处理数据 #### Q3: 分类结果不准确 **解决:** - 检查输入数据质量 - 确认模型是否适合当前数据类型 - 验证波长范围是否匹配 #### Q4: BIL文件波段数不足 **解决:** 确保输入文件至少有160个波段(RGB生成需要索引9, 59, 159) #### Q5: 特征维度不匹配错误 **解决:** - 检查模型对应的`scaler_params.pkl`是否存在 - 确认训练时和预测时的特征维度一致 ### 8.3 重要注意事项 1. **波长对齐**: 系统会自动检测输入波长与训练波长(237通道)是否匹配,不匹配时会自动重采样 2. **背景校正**: 使用滤纸区域光谱作为背景进行除法校正 3. **轮廓收缩**: 输出前会自动收缩轮廓1像素,避免颗粒相连 4. **阴影处理**: 类别7/8会进行阴影检测,低对比度区域会被标记为背景 --- ## 九、模型文件说明 ### 9.1 模型文件位置 ``` classification_model/modelsave/ ├── svm.m # 主分类模型(SVM) ├── scaler_params.pkl # 标准化参数 └── HDPELDPE_model/ └── svm.m # HDPE/LDPE二次分类模型 ``` ### 9.2 支持的模型类型 - SVM (支持向量机) - Random Forest (随机森林) - XGBoost/LightGBM (梯度提升) - CNN (卷积神经网络) - SAE+CNN (堆叠自编码器+CNN) --- ## 十、开发历史与版本记录 ### v1.0.0 (2025-08-26) - 初始版本发布 - 支持BIL格式高光谱数据处理 - 集成UNet分割和SVM分类 - 输出ENVI格式分类结果 - 支持9种塑料材料分类 --- ## 十一、联系方式 | 项目 | 信息 | |------|------| | **作者** | 北京依锐思 | | **邮箱** | huilai_zhang@126.com | --- ## 十二、待优化/已知问题 ### 12.1 已知限制 1. 输入BIL文件波段数需≥160(RGB生成需求) 2. 滤纸检测依赖于阈值方法,对非标准滤纸可能需要调整参数 3. 二次分类仅针对HDPE/LDPE ### 12.2 建议改进方向 1. 增加更多二次分类场景(如PP/PS等易混淆材料) 2. 优化内存使用,支持更大文件流式处理 3. 添加GUI界面便于非技术用户使用 4. 增加批处理脚本的配置化能力 --- **文档生成日期:** 2026-04-10 **文档版本:** 1.0