标题： 机械：学习率调节器 显示英文标题

标题： Mechanic: A Learning Rate Tuner

摘要： 我们介绍了一种技术，用于自动调整任何基础优化算法和调度的学习率缩放因子，我们称之为\textsc{机械学}。 我们的方法提供了对近期理论缩减的实用实现，以在在线凸优化中完成类似的目标。 我们在具有不同批量大小、调度和基础优化算法的大规模深度学习任务范围内对\textsc{机械学}进行了严格的评估。 这些实验表明，根据问题的不同，\textsc{机械学}要么非常接近、匹配甚至优于手动调整学习率。 显示英文摘要

摘要： We introduce a technique for tuning the learning rate scale factor of any base optimization algorithm and schedule automatically, which we call \textsc{mechanic}. Our method provides a practical realization of recent theoretical reductions for accomplishing a similar goal in online convex optimization. We rigorously evaluate \textsc{mechanic} on a range of large scale deep learning tasks with varying batch sizes, schedules, and base optimization algorithms. These experiments demonstrate that depending on the problem, \textsc{mechanic} either comes very close to, matches or even improves upon manual tuning of learning rates.