FastAi中的fit_one_cycle()函数中的slice(lr)是什么意思?

10
第三课-行星中,我看到了这两行代码:
lr = 0.01
learn.fit_one_cycle(5, slice(lr))

如果使用slice(min_lr, max_lr),那么我理解fit_one_cycle()将使用来自slice(min_lr, max_lr)的分散学习率。(希望我的理解是正确的)
但在这种情况下,slice(lr)只有一个参数,
fit_one_cycle(5, lr)和fit_one_cycle(5, slice(lr))之间有什么区别?
使用slice(lr)而不是直接使用lr有什么好处?

1
也许这个链接可以帮到你。 - akshayk07
1个回答

12

在第5课中,Jeremy花了一些时间解释slice的作用。

我理解的是,fastai.vision模块将架构分成三个组,并根据输入的内容使用可变学习率对它们进行训练。(通常,起始层不需要大的参数变化)

此外,如果您使用'fit_one_cycle',所有组都将具有与其相应的可变学习率的学习率退火。

请查看第5课https://course.fast.ai/videos/?lesson=5(使用transcript finder快速转到“slice”部分)


3
注意:随着课程更新,此时为第6课:https://course.fast.ai/videos/?lesson=6 - Robert Link

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接