生成AIの本格的な業務活用に向け、「業務特化型LLM構築・運用サービス」を提供開始

生成AIの本番業務への適用を支援する「生成AI業務適用サービス」も合わせて提供

[画像]生成AI活用プロフェッショナルサービス

株式会社日立製作所(以下、日立)は、お客さまの生成AI活用を試行段階から本格的な業務適用フェーズへの移行を加速するため、「生成AI活用プロフェッショナルサービスpowered by Lumada」*1 を拡充し、専門的な業務に適したLLM*2 の構築や継続的な改善を支援する「業務特化型LLM構築・運用サービス」と、実行環境の構築・運用を担う「生成AI業務適用サービス」を10月1日より提供開始します。これらのサービスは、業務レベルの回答精度を得る上で課題となる生成AI技術者の確保や大規模な学習環境への投資、実行環境の整備・運用といったお客さまの負荷を低減します。

  「業務特化型LLM構築・運用サービス」では、日立が、お客さまの業務や生成AI適用の目標のアセスメントをもとに、企業がもつ固有のデータ(手順書や対応記録など)の選定や抽出を行い、業務知識として汎用LLM*3に学習させることで、その業務に適した規模・精度のLLM構築と、継続的な改善を行います。また、構築したLLMと生成AIアプリを組み込んだ実行環境を、「生成AI業務適用サービス」により、ニーズに応じた場所で構築、運用します。特に、高い機密性が求められる場合には、お客さまのオンプレミス環境で運用することにより、安心して生成AIを業務に活用することが可能です。
  この一連のプロセスには、お客さまとともに業務への理解を深めながら、試行錯誤を繰り返すアプローチと、データエンジニアリング、AIのモデル学習、生成AIの環境構築など高い技術力が必要であり、日立がLumadaで培ってきたDXノウハウや、データサイエンティスト、LLMエンジニア、GPUエンジニア*4といったプロフェッショナル人財など日立の強みを生かして対応していきます。
  今回、第一弾として、専門性の高い金融分野の業務や、コンタクトセンターの複雑な問い合わせ対応など、汎用LLMとRAG*5だけでは専門知識の活用が難しい業務向けに提供を開始します。今後、製造業や交通インフラなど日立が深いドメインナレッジを有するOT(制御・運用技術)領域へも拡大し、現場の障害対応や生産工程の高度化などフロントラインワーカーの業務へも順次適用していく予定です。

日立は、お客さまの生成AI適用の戦略策定から本番運用まで伴走し、DX実現による生産性向上・競争力強化や持続的な成長を支援するとともに、労働人口の減少といった社会課題の解決を通じて、サステナブルな社会の実現に貢献します。

課題・背景

現在、多くの企業が生産性向上や顧客体験の改善などをめざして生成AIの活用を試行しています。しかし、一般的な生成AIでは専門性の高い業務に必要なレベルの回答が得られない場合が多く、業務適用には専門知識を学習させるための高度な技術やノウハウが必要です。また、ビジネス環境の変化や技術の進歩に対応するためには、継続的な学習が不可欠であり、そのための生成AI基盤の整備や専門人財の確保など、投資負荷が非常に大きいことが生成AIの業務適用の障壁となっています。日立は、このような課題を解決するために、Generative AIセンター*6を中心として社内外で取り組んできた50件以上の業務適用検証プロジェクトや、生成AI共通基盤の構築で培ったノウハウを活用し新サービスを提供します。

新サービスの特長

1.業務特化型LLM構築・運用サービス : 専門的な業務に適した回答精度のLLMを整備

お客さまの業務手順書や業務記録など、学習に必要な知識データの選定から日立のデータサイエンティストが支援します。そうした知識データは、社内関係者向けに特有の言い回しがある、紙で管理されているなど、そのままでは学習させることが難しいケースが多くあります。そこで、日立はお客さまとともに、これらのデータをLLMに取り込みやすい形に加工し、効果的なモデル学習を進めていきます。また、LLMエンジニアが、適切な汎用LLMの選定を行い、それをベースに、過学習による正答率の低下を防ぎながら専門知識を学習させます。さらに、回答精度を評価する技術や、LLMとRAGを適切に組み合わせる技術を駆使して、適切な規模と回答精度のLLMを構築します。
また、運用開始後も、ビジネス環境の変化や技術の進歩により業務特化型LLMの改善が必要となった場合、日立の生成AI共通基盤上でLLMエンジニアが継続的な学習を担います。

2.生成AI業務適用サービス : 適切な実行環境の提供により、お客さまの投資を抑制

  学習済データの機密性やセキュリティポリシーに応じて、LLMと生成AIアプリを組み込んだ実行環境の導入先を選択できます。例えば、NVIDIAの最新AI機能と日立ストレージを搭載したHitachi iQ with NVIDIA DGX*7に業務特化型LLMを組み合わせて、お客さまのオンプレミス環境に導入することで、企業独自の業務ノウハウである学習済みの専門知識を保護しながら活用できます。
  また、日立が生成AIの本格的な活用を通じて得たノウハウをもとに、生成AIアプリの開発・運用や、汎用LLMと業務特化型LLMの使い分けや組み合わせをガイドできるため、お客さまは業務適用を円滑に推進できます。今後、オンプレミスとクラウドにまたがったハイブリッド環境で、お客さまがデータの所在を意識せず、生成AIを自在に活用できるAIソリューションの実現をめざしています。
  これにより、お客さまは膨大なデータ処理に耐えうる大規模な学習環境や生成AI技術者を確保する必要がなくなるため、投資を抑制できます。

*1: : ニュースリリース(2024年7月22日発表)「生成AI活用プロフェッショナルサービス powered by Lumada」を提供開始」
*2: : LLM : Large Language Models(大規模言語モデル)
*3: : 汎用LLM : 公開データを中心に学習された言語モデルのこと。
*4: : GPUエンジニア : GPUインフラの特性を理解し生成AI基盤の構築・運用のノウハウをもつ専門技術者のこと。
*5: : RAG : Retrieval-Augmented Generationの略。LLMに、外部情報の検索を組み合わせることで、回答精度を向上させる技術のこと。
*6: : ニュースリリース(2023年5月15日発表)新組織「Generative AIセンター」により、生成AIの社内外での利活用を推進し、Lumada事業での価値創出の加速と生産性向上を実現
*7: : ニュースリリース(2024年7月29日発表) 「日立ヴァンタラが、企業のAI対応を支援する「Hitachi iQ」を販売開始」

社内実証例

表を見る

対象	評価内容
コンタクトセンターの問い合わせ対応	ミッションクリティカルシステムを支えるサポートサービス「日立サポート360」のコンタクトセンターでの問い合わせ対応の社内実証において、汎用LLMとRAGのプロンプトエンジニアリング技術の活用により、高い効果が確認できたため、10月より問い合わせ対応の一次受けの本番業務に適用予定。今後、業務特化型LLMを、より複雑な問い合わせ対応などの業務にも適用を見込む。
自社製品のコンサルタント	日立のIT運用管理ソフトウェア「JP1」のナレッジ・対応策のドキュメントを活用し、汎用LLMにJP1コンサルタントが持つべきノウハウを学習させ、合格率24%*8というJP1の最難関資格である「JP1コンサルタント資格」の認定試験へ挑戦。学習したLLMとRAGの組み合わせにより、合格点を上回った。構築した業務特化型LLMは、将来的に、JP1コンサルタント業務の前提知識を補完するアシスタントとして活用を見込む。
有識者によるレビュー (システム開発)	ミッションクリティカルなシステムの開発における設計書のレビューを対象に、日立が蓄積してきた設計書レビューの観点や過去のチェック事例をLLMに学習させる社内実証を推進中。これにより、設計書の誤りや不備を特化型LLMが自動検出できるようにし、対面レビューでの指摘漏れなどのヒューマンエラーを抑え、効率よく、高い品質を確保することをめざす。並行して、プログラム開発時の設計書だけでなく、設計工程やテスト工程、QA工程での生成AI適用に向けて取り組み中。有識者によるレビューで培ったLLM構築ノウハウを活用し、今後、金融などの専門性の高い業務へ適用することを見込む。

*8: : 2024年7月時点

「生成AI活用プロフェッショナルサービスpowered by Lumada」に追加した新サービス

表を見る

サービス名称	価格(税別)	提供開始時期
業務特化型LLM構築・運用サービス	個別見積	10月1日
生成AI業務適用サービス	個別見積	10月1日

*: as a Service型の提供はEverFlex from Hitachiで行います。

商標注記

EverFlexは、Hitachi Vantara LLCの商標または登録商標です。
その他記載の会社名、製品名などは、それぞれの会社の登録商標もしくは商標です。

Hitachi Social Innovation Forum 2024 JAPANでの紹介について

本サービスは、日立が2024年9月4日(水)～5日(木)に開催する「Hitachi Social Innovation Forum 2024 JAPAN」において、ご覧いただけます。
セッションにおいては、9月4日(水) 17:00から開催する「SE01-08 : ミッションクリティカルなシステムを支える業務への生成AI適用のご紹介」の中でご紹介いたします。

Hitachi Social Innovation Forum 2024 JAPAN オフィシャルサイト

日立製作所について

日立は、データとテクノロジーでサステナブルな社会を実現する社会イノベーション事業を推進しています。お客さまのDXを支援する「デジタルシステム&サービス」、エネルギーや鉄道で脱炭素社会の実現に貢献する「グリーンエナジー&モビリティ」、幅広い産業でプロダクトをデジタルでつなぎソリューションを提供する「コネクティブインダストリーズ」という3セクターの事業体制のもと、ITやOT(制御・運用技術)、プロダクトを活用するLumadaソリューションを通じてお客さまや社会の課題を解決します。デジタル、グリーン、イノベーションを原動力に、お客さまとの協創で成長をめざします。3セクターの2023年度(2024年3月期)売上収益は8兆5,643億円、2024年3月末時点で連結子会社は573社、全世界で約27万人の従業員を擁しています。