【トピックス】東京工業大学横田研究室が日本語LLMをリリース

モデル: https://huggingface.co/tokyotech-llm/Swallow-MX-8x7b-NVE-v0.1

紹介記事: https://zenn.dev/tokyotech_lm/articles/5f4211b9ed3197

東京工業大学が、産総研、東京工業大学 岡崎研究室、横田研究室の合同プロジェクトで開発した日本語LLM, Swallow-MX-8x7b-NVE-v0.1を公開しました。

Mistral AIが公開した Mixtral-8x7B-Instruct-v0.1 を日本語コーパスを用いて継続学習させたもので、日本語性能が向上しているとのことです。下記画像は、合同プロジェクトのページより引用。

以下は Swallow-MX-8x7b-NVE-v0.1 の8bit量子化モデル で生成した結果です。

入力:
京都の春におすすめの観光地を教えてください。

出力:
京都は日本有数の歴史的な街であり、多くの文化遺産や自然が残っています。春におすすめの観光地として以下をご紹介します:
1. 清水寺(きよみずでら): 京都市東山区にある世界遺産登録された古刹。春の桜や秋の紅葉が美しく、境内からは京都市街を一望することができます。
2. 金閣寺(きんかくじ): 世界的に有名な観光地であり、春の桜や秋の紅葉も美しい場所です。特に夜間ライトアップされた姿は必見です。
3. 二条城(にじょうじょう): 江戸時代初期に建てられた日本の重要文化財であり、春になると美しい桜が咲きます。
4. 祇園(ぎおん):京都市東山区に位置する伝統的な街並みを残す地域です。花見の名所や舞子町、八坂神社などがあります。
5. 平安神宮(へいあんじんぐう): 京都市左京区に位置しており、春は桜と紅葉の名所でもある観光地です。特に夜間ライトアップされた姿が美しい場所です。
6. 醍醐寺(だいごじ): 京都市伏見区に位置しており、春は桜と紅葉の名所でもある観光地です。特に夜間ライトアップされた姿が美しい場所です。
7. 京都御所(きょうとごしょ): 江戸時代から続く皇室の居城跡地であり、春には桜や紅葉を楽しむことができます。
8. 嵐山(あらしやま):京都市西部に位置する自然豊かな場所です。渡月橋、竹林の小径、天龍寺などを楽しむことができます。
9. 嵯峨野(さがの):京都市西部に位置する自然豊かな場所であり、春は桜や紅葉を楽しむことができます。特に竹林の小径や天龍寺周辺がおすすめです。
10. 哲学の道(てつがくのみち):京都市左京区に位置する散策路であり、春は桜と紅葉を楽しむことができます。特に夜間ライトアップされた姿も美しい場所です。
以上の観光地は京都市内にあり、春におすすめのスポットです。