Оптимизатор LION — evoLved sIgn mOmeNtum или о том, как нейросети снова победили
Алгоритм разработан командой из DeepMind (подразделение Google, занимающиеся ИИ и известным проектами, такими как AlphaGo, AlphaZero, AlphaTensor и др.). Однако, учитывая их любовь к экспериментам со скрещиванием нейросетей и математических моделей, не удивительно, что этот алгоритм также получил эволюционное развитие.