国産LLM初、AIエージェントとして使える「KARAKURI LM 8x7B Instruct v0.1」を一般公開
～6月20日・21日開催の AWS Summit 2024 で初披露～
カスタマーサポートDXを推進するカラクリ株式会社（東京都中央区：代表取締役CEO 小田志門、以下カラクリ）は、6月20日に国産LLMの中で初めて※1Function callingとRAGに対応した「KARAKURI LM 8x7B Instruct v0.1」を公開いたします。本対応により、「KARAKURI LM 8x7B Instruct v0.1」は様々なアプリケーションを人間に代わって操作するAIエージェント※2としての活用が可能です。そのため生成AIをビジネス実装をする際に、従来の国産モデルであれば必要だった「業界・企業特有のタスクのプログラミング」など導入の手間やコストを大幅に削減できます。
また本モデルはトレーニングコストを最大50%削減できるといわれているAWS Trainiumを活用しており、開発費用は75万円です。カラクリは、今後も国産モデルの国際競争力を高めていくため、低コスト且つ実用性を重視した開発を進めてまいります。
※1．カラクリ社調べ（2024年6月時点・オープンソースおよびインターネットで情報公開されている国産LLMとして）
※2．AIエージェントとは、生成AIを活用した、自律的にタスクを実行するソフトウェアのことを指します。これらのエージェントは、検索エンジンやデータベースを始めとした外部のツールを活用し、ユーザーの代わりに様々な作業を遂行します。
■開発背景
国際競争力を高めるため、ビジネス実装に不可欠な学習を優先
カラクリは、2016年の創業以来、FriendlyTechnologyをモットーに国内の大手企業向けにAIチャットボットなどのSaaS事業を展開してまいりました。2022年のChatGPTの登場により世界中がテクノロジーの可能性に期待を寄せる一方で、日本国内のセキュリティが厳しい業界（金融・医療・製造など）から独自LLMのご要望を多く頂戴したのも事実です。「日本語に強く」「ビジネス実装に最適な学習」を最優先に取り組んだことで、国産モデルの中でいち早くFunction callingとRAGに対応したモデルの開発に成功いたしました。
■KARAKURI LM 8x7B Instruct v0.1について
生成AIが外部ツール（ドキュメントやデータベースなど）を活用し、様々な作業を代行
カラクリは2023年9月に「AWS LLM 開発支援プログラム」に採択いただき、700億パラメーター「KARAKURI LM 70B Chat v0.1」の開発に着手、2024年1月に国産オープンモデルとして最高性能を獲得いたしました。その後、LLMの主流となっているMoE方式を採用し、「KARAKURI LM 8x7B Chat v0.1」を開発しております。
今回は第三弾となり、本モデルの特徴としてFunction callingを学習させていることから、外部ツールを活用できる点が大きな特徴となります。ユーザーの指示から「どのドキュメント、どのデータベースから検索するのが最適か？」をLLM自身が自動的に選択することができ、幅広い領域での自動化を促進します。また本モデルも、「Japanese MT-Bench」の性能評価で、これまでと同等の評価を得ております（2024年6月18日時点）。
【カスタマーサポート業界のAIエージェント活用例】
カラクリがDX推進するカスタマーサポート業務においても幅広い活用が想定されます。
| 業務 | 活用例 |
| 高度な顧客対応 | 顧客から問い合わせに対しても、1to1接客・手続き・後処理の自動化が可能になります。たとえば「サイズ変更」の問い合わせがあった際、購買履歴や過去の対応履歴を生成AIが検索し、購入日・金額・適正サイズなどのデータを収集した上で、返品処理まで代行いたします。 |
| VoC分析 | 人間が得たい指標を設定するだけで、生成AIがコールログや顧客対話のテキストデータを各ツールから収集し、データ分析用に情報を数値化します。それらを表計算ファイルに変換し、目標にそったレポート内容にすることで、顧客の声を社内で可視化できます。 |
| アウトバウンドのタイミング予測 | 生成AIが対象顧客のこれまでの購入履歴・応対履歴から最適な接触方法、また最適な接触タイミングを予測し、コールセンターのエージェントが効率的に作業を進められるようデータを収集・分析し、サポートします。 |
■公開URL
https://huggingface.co/karakuri-ai/karakuri-lm-8x7b-instruct-v0.1
デモ
※期間限定で公開しており、上記デモは予告なく終了する可能性がございますので予めご了承ください。
■KARAKURI LMについて
「KARAKURI LM」は、カラクリが開発する大規模言語（LLM)シリーズの総称です。学習に使うデータさえ質が高ければ、中小企業でもベンチャーでも独自のデータセットをもとに国際的競争力を持つAIモデルを開発可能だということを証明するため、さまざまなシリーズ開発に着手しています。
詳細について：https://ad.karakuri.ai/karakuri-lm
KARAKURI techblogでは、これまで使用した技術の詳細記事を投稿しておりますのでご覧ください。
KARAKURI techblog： https://medium.com/karakuri/
▶ 会社概要
カラクリは「カスタマーサポートをエンパワーメントする」をブランドパーパスに掲げ、大規模言語モデル(LLM)のカスタマーサポートへの実用化を目指した事業を展開しています。2018 年より transformer を用いた言語モデルBERT を、2022 年からは GPT を含めた大規模言語モデルの研究を実施。主力ビジネスである高精度 AI チャットボット「KARAKURI chatbot」は、高島屋、SBI 証券、セブン-イレブン・ジャパン、SmartHR など各業界のトップランナーに選ばれつづけています。2018 年の ICC サミット「スタートアップ・カタパルト」に入賞、2020 年に「Google for Startups Accelerator」に採択、2023 年に「AWS LLM 開発支援プログラム」に採択されました。
| 住所 | 〒104-0045 東京都中央区築地2-7-3 Camel 築地 II |
| 設立 | 2016年10月3日 |
| 代表者 | 代表取締役CEO 小田 志門 |
| 事業内容 | カスタマーサポート特化型AI「KARAKURI」シリーズの開発・提供・運営など |
| URL | https://about.karakuri.ai/ |
▶ 本件に関するお問い合わせ先
カラクリ株式会社： 広報 堀之内
E-mail: pr@karakuri.ai
