【课后作业06】 迁移学习和恢复训练(十二生肖) 作业布置

作者:欧新宇(Xinyu OU)
开发平台:Paddle 2.1
运行环境:Intel Core i7-7700K CPU 4.2GHz, nVidia GeForce GTX 1080 Ti

本教案所涉及的数据集仅用于教学和交流使用,请勿用作商用。

最后更新:2021年8月19日


【实验目的】

  1. 学会调用paddle.vision.models库实现内置模型的调用,并能够实现预训练模型的载入
  2. 熟练使用各种不同的模型(AlexNet, ResNet, VGG, MobileNet等)进行训练、验证和推理
  3. 熟练使用logging函数进行日志输出和保存,熟练保存运行结果图,并能够反复调用输出
  4. 能够快速更改优化方法和学习率优化方法

【实验要求】

  1. 所有作业均在AIStudio上进行提交,提交时包含源代码和运行结果
  2. 补充完成下列ResNet50, ResNet18, Mobilenetv2, VGG16四个模型的结果统计表
  3. 对下列结果进行总结和分析

下面我们将在ResNet50, ResNet18, Mobilenetv2, VGG16四个模型对十二生肖数据集进行评估,所有模型设置batch_size=64。 数据集包含样本8500个,其中训练验证集样本7840个,训练集样本7190个, 验证集样本650个, 测试集样本660个, 共计8500个。

1. 实验结果

模型名称 Baseline模型 ImageNet预训练 learning_rate best_epoch top-1 acc top-5 acc loss test_top1_acc 单batch时间/总训练时间(s) 可训练参数/总参数
Zodiac_Alexnet Alexnet 0.001 3/10 0.48769 0.87231 0.02458 0.48485 9.06/1177.53 11,172,042/11,191,242
Zodiac_Resnet18 ResNet18
Zodiac_Resnet18_withoutPretrained ResNet18 0.01 50/50 0.60769 0.90769 0.02072 0.60909 0.26/374.98 11,172,042/11,191,242
Zodiac_Resnet50 ResNet50
Zodiac_Resnet50_withoutPretrained ResNet50 0.01 45/50 0.54154 0.89538 0.04756 0.55152 11.24/7868.96 23,479,500/23,585,740
Zodiac_VGG16 VGG16
Zodiac_VGG16_withoutPretrained VGG16 0.001 45/50 0.55231 0.90000 0.03685 0.86429 14.75/8727.87 134,309,708/134,309,708
Zodiac_Mobilenetv2 Mobilenetv2
Zodiac_Mobilenetv2_withoutPretrained Mobilenetv2 0.001 44/50 0.52615 0.87077 0.03536 0.51667 10.44/5838.82s 2,205,132/2,273,356

2. 实验结果分析

从实验结果可以得到以下几个结论: