2023.9.20

研究 alpha 在 Loha 画风训练中的影响，并顺便训练了一版模型。

结论：alpha 值越低，模型学习画面中的元素会更趋近概念化（且观察到画风受到了轻微影响，不清楚是不是随机误差导致的），且出图时会尽量保留画面中的原有元素，而不去过多考虑画面和谐度的问题，因此低 alpha 下模型对提示词敏感度高。当 alpha = dim 时，完全参考 Loha 进行出图，并对画面中不和谐的元素进行删减，使画面更加干净，因此高 alpha 下模型对提示词敏感度会较低，而更倾向去考虑如何生成一张好图。

比如这张坐在行李上的洋装女孩，使用 alpha 值较低的模型出图，女孩不仅手上拿着卡牌，背景也镶上了一层卡面：

alpha 的问题大家见仁见智吧，设置的太低，有些次要的提示词 ai 会过度理解，实际使用起来会比较麻烦，设置的高了容易调用，但是对提示词服从度会比较低，具体看训练目标。我这里上传的是 alpha 值较高的版本，使用起来会比较容易。

2023.8.30

使用204张图，优化器采用 prodigy 。

这个自适应优化器完美解决了参数修改太多导致的学习率计算问题，非常适合我这种不会调参的懒狗，强烈推荐。经多次尝试，训练画风时，在较大训练集和 batch size 下，将两个学习率都设置成 1 效果最佳，coef 应设置为2。

其他参数没有过多修改，使用金字塔噪声，另外设置了最小信噪比伽马值为 5 以提高模型泛化性。出图模型均使用 NAI 和 easynegative。