パフォーマンス最適化

無限のコンテキストを夢見る狂乱の果てに AI開発の現場にいると、ハードウェアのリソース制限とアルゴリズムの要求が激しく衝突する音を毎日のように聞くことになる。昨今のLLM界隈は特に異常だ。コンテキストウィンドウは数万から … 続きを読む