2025-11-25から1日間の記事一覧

誤差逆伝播なしで巨大Transformerは学習できるのか？

はてなブログだと数式がうまく表示されないのでHackMDに書きました。話題として気になっていたので、ゼロ次最適化の次元依存下限とクレジット割当問題の観点から考察してみました。 hackmd.io