月: 2024年4月

【トピックス】日本語から画像生成するサカナAI

by じんトピックスLeave a Comment on 【トピックス】日本語から画像生成するサカナAI

既存のモデルを複数マージして組合すことで高性能なモデルを作り出すとのこと

https://ai-kenkyujo.com/news/sakana-ai/

　ラボで試してみたところ「ホームランを打つ左バッター」らしい画像は出たが破綻していたり
「ホームランを打つ侍」ではあまり侍っぽさが出なかったりした。
スピード的には画像は数秒で出てきていた。

【トピックス】東京工業大学横田研究室が日本語LLMをリリース

by ta_nakaguchiトピックスLeave a Comment on 【トピックス】東京工業大学横田研究室が日本語LLMをリリース

モデル: https://huggingface.co/tokyotech-llm/Swallow-MX-8x7b-NVE-v0.1

紹介記事: https://zenn.dev/tokyotech_lm/articles/5f4211b9ed3197

東京工業大学が、産総研、東京工業大学 岡崎研究室、横田研究室の合同プロジェクトで開発した日本語LLM, Swallow-MX-8x7b-NVE-v0.1を公開しました。

Mistral AIが公開した Mixtral-8x7B-Instruct-v0.1 を日本語コーパスを用いて継続学習させたもので、日本語性能が向上しているとのことです。下記画像は、合同プロジェクトのページより引用。

以下は Swallow-MX-8x7b-NVE-v0.1 の8bit量子化モデル で生成した結果です。

入力:
京都の春におすすめの観光地を教えてください。

出力:
京都は日本有数の歴史的な街であり、多くの文化遺産や自然が残っています。春におすすめの観光地として以下をご紹介します：
1. 清水寺（きよみずでら）: 京都市東山区にある世界遺産登録された古刹。春の桜や秋の紅葉が美しく、境内からは京都市街を一望することができます。
2. 金閣寺（きんかくじ）: 世界的に有名な観光地であり、春の桜や秋の紅葉も美しい場所です。特に夜間ライトアップされた姿は必見です。
3. 二条城（にじょうじょう）: 江戸時代初期に建てられた日本の重要文化財であり、春になると美しい桜が咲きます。
4. 祇園（ぎおん）：京都市東山区に位置する伝統的な街並みを残す地域です。花見の名所や舞子町、八坂神社などがあります。
5. 平安神宮（へいあんじんぐう）: 京都市左京区に位置しており、春は桜と紅葉の名所でもある観光地です。特に夜間ライトアップされた姿が美しい場所です。
6. 醍醐寺（だいごじ）: 京都市伏見区に位置しており、春は桜と紅葉の名所でもある観光地です。特に夜間ライトアップされた姿が美しい場所です。
7. 京都御所（きょうとごしょ）: 江戸時代から続く皇室の居城跡地であり、春には桜や紅葉を楽しむことができます。
8. 嵐山（あらしやま）：京都市西部に位置する自然豊かな場所です。渡月橋、竹林の小径、天龍寺などを楽しむことができます。
9. 嵯峨野（さがの）：京都市西部に位置する自然豊かな場所であり、春は桜や紅葉を楽しむことができます。特に竹林の小径や天龍寺周辺がおすすめです。
10. 哲学の道（てつがくのみち）：京都市左京区に位置する散策路であり、春は桜と紅葉を楽しむことができます。特に夜間ライトアップされた姿も美しい場所です。
以上の観光地は京都市内にあり、春におすすめのスポットです。

【トピックス】Mistral AIがChatGPT級のローカルモデルの新バージョンをリリース

by ta_nakaguchiトピックスLeave a Comment on 【トピックス】Mistral AIがChatGPT級のローカルモデルの新バージョンをリリース

モデル: https://huggingface.co/mistral-community/Mixtral-8x22B-v0.1

日本語記事(ITMedia): https://www.itmedia.co.jp/news/articles/2404/11/news102.html

フランスのベンチャー企業 Mistral AIが、新しい言語モデル Mixtral-8x22B-v0.1 をリリース。ライセンスは Apache2.0。昨年末にリリースされた Mixtral-8x7B はChatGPT3.5に匹敵する性能が報告されており(日本語記事: https://note.com/npaka/n/n6043bc8b01bc )、さらに高い性能が期待される。

以下の表は、Mixtral-8x7B の性能。多くのベンチマークで、Llama70BやChatGPT3.5を上回っている(参考: https://mistral.ai/news/mixtral-of-experts/ )。