Llama 3.3 70B が昨年12月にリリースされていたが動かしてみる時間がなかった。
久しぶりに動かしてみようとすると
File "
", line 43, in TypeError: 'str' object is not callable
というエラーが出て、以前動いていたはずのプログラムが動かなくなっていた。
サーバーの再起動や別の実験などなどいろいろあったので、どこかでコードを書き変えてしまったのかと思い、いろいろ試したが直らない。
検索してもなかなか原因にたどり着けなかったが、unslothが使っているaccelerateモジュールを1.3にバージョンアップすると直るという情報を見つけて適用してみると直った。
pip install accelerate==1.3