MicrosoftのPhi-4 はMSのモデル大規模のモデルの技術を活かして少ないパワーで動くようなモデルとのこと、10~13GぐらいのGPUメモリでも稼働する。MACだと16Gぐらいあれば実行できる。小規模化も加速しそうだ。
参考:https://www.itmedia.co.jp/news/articles/2501/09/news106.html
:https://techcommunity.microsoft.com/blog/aiplatformblog/introducing-phi-4-microsoft%E2%80%99s-newest-small-language-model-specializing-in-comple/4357090