网站建设策划书封面,个人网页制作策划书,网站开发需求方案,十大免费游戏网站一、搭建dataset 基于datasets这个库创建的dataloader#xff0c;底层代码还待探索
二、修改模型结构#xff08;非必要#xff09;
尽量可以利用已有的预训练权重去训练模型#xff0c;但是权重并不一定能够完全是适配#xff0c;所以还需要自己来视情况做修改#xf…一、搭建dataset 基于datasets这个库创建的dataloader底层代码还待探索
二、修改模型结构非必要
尽量可以利用已有的预训练权重去训练模型但是权重并不一定能够完全是适配所以还需要自己来视情况做修改未能加载预训练权重的那一部分参数必须要重新开始训练不存在finetune一说
三、无条件样本生成
先搭建环境 train_unconditional.py这个代码待细看 train_unconditional.py中创建的unet
model UNet2DModel(sample_sizeargs.resolution,in_channels3,out_channels3,layers_per_block2,block_out_channels(128, 128, 256, 256, 512, 512),down_block_types(DownBlock2D,DownBlock2D,DownBlock2D,DownBlock2D,AttnDownBlock2D,DownBlock2D,),up_block_types(UpBlock2D,AttnUpBlock2D,UpBlock2D,UpBlock2D,UpBlock2D,UpBlock2D,),
)# Initialize the scheduler
accepts_prediction_type prediction_type in set(inspect.signature(DDPMScheduler.__init__).parameters.keys())
if accepts_prediction_type:noise_scheduler DDPMScheduler(num_train_timestepsargs.ddpm_num_steps,beta_scheduleargs.ddpm_beta_schedule,prediction_typeargs.prediction_type,)
else:noise_scheduler DDPMScheduler(num_train_timestepsargs.ddpm_num_steps, beta_scheduleargs.ddpm_beta_schedule)# Initialize the optimizer
optimizer torch.optim.AdamW(model.parameters(),lrargs.learning_rate,betas(args.adam_beta1, args.adam_beta2),weight_decayargs.adam_weight_decay,epsargs.adam_epsilon,
)默认的优化器和采样器
dataset load_dataset(imagefolder, data_dirargs.train_data_dir, cache_dirargs.cache_dir, splittrain)augmentations transforms.Compose([transforms.Resize(args.resolution, interpolationtransforms.InterpolationMode.BILINEAR),transforms.CenterCrop(args.resolution) if args.center_crop else transforms.RandomCrop(args.resolution),transforms.RandomHorizontalFlip() if args.random_flip else transforms.Lambda(lambda x: x),transforms.ToTensor(),transforms.Normalize([0.5], [0.5]),]
)读取数据模块 accelerate launch train_unconditional.py \--dataset_namehuggan/flowers-102-categories \--output_dirddpm-ema-flowers-64 \--mixed_precisionfp16 \--push_to_hub
# 单卡训accelerate launch --multi_gpu train_unconditional.py \--dataset_namehuggan/flowers-102-categories \--output_dirddpm-ema-flowers-64 \--mixed_precisionfp16 \--push_to_hub
多卡训预测代码小疑问这个路径咋确定的呢
四、
