AIニュース・トレンド Aurora登場、LLM訓練のニューロン死問題を解決
AI研究の世界で注目されているオプティマイザ「Muon」に、長らく課題として知られていた問題がありました。訓練の早い段階でニューロンの25%以上が永久に機能しなくなってしまう「ニューロン死」です。Tilde Researchはこの問題を解決する新しいオプティマイザ「Aurora」を開発し、コードと事前訓練済みモデルをオープンソースで公開しました。
AIニュース・トレンド
AIニュース・トレンド
AIニュース・トレンド
業務効率化・自動化
AIニュース・トレンド
AIニュース・トレンド
AIニュース・トレンド
おすすめAIツール
おすすめAIツール
おすすめAIツール