【調査／生成AI活用における課題が明らかに】「ハルシネーションに不安を感じる」が59.2%で最多、生成AI活用に求められる「セキュリティの強化」と「ハルシネーション対策」

AIプラットフォームを提供するAI inside 株式会社（代表取締役社長CEO：渡久地 択、本社：東京都渋谷区、以下「AI inside」）は、年商500億円以上の大企業に勤めており、業務における生成AIの導入に携わった方218名を対象に、生成AIの業務適応と課題に関する実態調査を実施しました。

調査結果

サマリ

• 生成AIの活用にあたって感じている不安、「ハルシネーション」が59.2%で最多の結果に
• 効果的な生成AI活用のために求められる要素、第1位「セキュリティの強化」（59.2％）、第2位「ハルシネーション対策」（55.5％）
• 約8割が特定企業データを活用したカスタマイズSLM（特化型小規模言語モデル）の「利用を検討している」

■8割以上が、勤務先で生成AIを「活用している」と回答

「Q1.お勤め先の生成AIの活用状況について教えてください。」（n=218）と質問したところ、「全社的に本格活用中」が33.9%、「一部の部門で活用中」が32.1%、「試験的に活用中（PoC実施中含む）」が14.7%という回答となりました。

■84.4％が、生成AIの活用に「不安」を実感

「Q2.生成AIの活用にあたり、技術的な課題に不安を感じていますか。」（n=218）と質問したところ、「非常に感じている」が22.5%、「やや感じている」が61.9%という回答となりました。

■生成AIの活用にあたり、不安を感じている技術的な課題、第1位「誤情報の生成（ハルシネーション）」、第2位「機密情報の漏洩などセキュリティに関するリスク」

Q2で「非常に感じている」「やや感じている」と回答した方に、「Q3.生成AIの活用にあたり、どのような技術的な課題に不安を感じますか。（複数回答）」（n=184）と質問したところ、「誤情報の生成（ハルシネーション）」が59.2%、「機密情報の漏洩などセキュリティに関するリスク」が54.9%、「回答品質の一貫性の欠如」が54.3%という回答となりました。

■「著作権対応」や「参考元の情報の精査」などの声も

Q3で「わからない/答えられない」以外を回答した方に、「Q4.Q3で回答した以外に、生成AI活用にあたっての技術的な課題への不安があれば、自由に教えてください。（自由回答）」（n=182）と質問したところ、「著作権対応」や「参考元の情報の精査」など101の回答を得ることができました。

＜自由回答・一部抜粋＞

• 各国の法規制への対応。
• 著作権対応。
• 参考元の情報の精査。
• 活用する人によってリテラシーが異なること。
• 情報の信憑性。人権侵害の恐れ著作権侵害の恐れ。
• 再現度が不十分なためチェックが欠かせない。
• 正確性への疑問。

■生成AIを効果的に活用するために必要な技術観点、「セキュリティの強化」や「AIが生成した誤情報への対策（ハルシネーション対策）」が上位に

「Q5.生成AIを効果的に活用するために、技術観点において、どのような要素が必要だと感じますか。（複数回答）」（n=218）と質問したところ、「セキュリティの強化」が59.2%、「AIが生成した誤情報への対策（ハルシネーション対策）」が55.5%、「出力結果の一貫性」が51.8%という回答となりました。

■生成AIの活用における課題、「AIが生成した誤情報（ハルシネーション）の検出と対策」と「セキュリティとプライバシー保護の徹底」が、56.8%で同率1位

Q1で「全社的に本格活用中」「一部の部門で活用中」「試験的に活用中（PoC実施中含む）」と回答した方に、「Q6.生成AIの活用において、どのような課題を感じていますか。（複数回答）」（n=176）と質問したところ、「AIが生成した誤情報（ハルシネーション）の検出と対策」が56.8%、「セキュリティとプライバシー保護の徹底」が56.8%、「AI出力結果の一貫性と品質の管理体制の構築」が47.2%という回答となりました。

■約8割が、特定企業データを活用したカスタマイズSLM（特化型小規模言語モデル）の「利用を検討している」実態

「Q7.あなたは、特定企業データを活用したカスタマイズSLM（特化型小規模言語モデル）の利用を検討していますか。」（n=218）と質問したところ、「かなり検討している」が32.0%、「やや検討している」が44.5%という回答となりました。

まとめ

今回の調査では、生成AIの業務適用に関する技術的課題や、不安が明らかになりました。特に「ハルシネーション」や情報漏洩などの「セキュリティリスク」が活用障壁として大きく、実用化に向けた対策が求められています。

さらに、特定の企業保有データを学習させるカスタマイズSLM（特化型小規模言語モデル）については約8割が利用を検討している実態から、より特定の業務や固有の企業に特化した生成AI活用のニーズの高さが明らかとなりました。

企業保有データの学習のためには、活用できるデータが揃っている必要があります。多くの企業にはデジタル化されていないアナログデータが残されており、そのデータ化が課題となっています。

大量の紙帳票のデジタルデータへの変換、さらには非構造化データの構造化を、スピーディーかつ正確に実行するにはAI-OCRが有効です。機密・機微情報を取り扱う場合は、オンプレミスのセキュアな環境で処理することで、機密性やプライバシーに配慮することも可能です。

企業が生成AIによる生産性向上やビジネス価値の最大化を図るためには、信頼性の高いデジタルデータを揃え、それに基づいたカスタマイズLLM・SLM運用により、業務に特化した専門性の高いAI活用の実現が鍵となるでしょう。

AI inside の生成AI・LLMに関する取り組み

AI inside は、2023年6月に生成AI・LLMの研究開発と社会実装を行う「XResearch」を創設し、独自でLLMの開発に取り組んできました。（*1）また、2024年1月には、自社開発LLMを「DX Suite」に実装し、学習不要であらゆる書類を読み取り非構造化データを構造化する、革新的なアップデートを行いました。（*2）さらに研究開発を進め、これまでにないアプローチで精度向上やハルシネーション低減を図ることで、グローバル最先端のLLMの性能を超える成果を得ることができ、2024年8月には日本語ドキュメント処理に特化した473億パラメータのLLM「PolySphere-2」を発表し、企業保有データを学習させる「カスタマイズSLM」を提供しています。（*3）

*1 2023年6月8日発表：AI inside、生成AI・LLMの研究開発と社会実装を行う「XResearch」を創設、140億パラメータ日本語LLMサービスを開発しα版を提供
*2 2024年1月17日発表：「DX Suite」に生成AIを実装し大型アップデート、AI-OCR市場を再定義する技術革新など機能拡張により約2兆円規模の業務効率化を推進
*3 2024年8月20日発表：AI inside、日本語ドキュメント処理に特化したLLM「PolySphere-2」に企業保有データを学習させる「カスタマイズSLM」を提供開始、業務に特化した高度な生成AI活用を実現

調査概要

• 調査名称：生成AIの業務適応と課題に関する実態調査
• 調査方法：IDEATECHが提供するリサーチデータマーケティング「リサピー®︎」によるインターネット調査
• 調査期間：2024年10月1日〜同年10月2日
• 有効回答：大企業（年商500億円以上）に勤めており、業務における生成AIの導入に携わった方218名

※構成比は小数点以下第2位を四捨五入しているため、合計しても必ずしも100とはなりません。

本調査データのご利用条件

• 情報の出典元として「AI inside」の社名を明記してください。
• ウェブサイトで使用する場合は、出典元として、下記リンクを設置してください。
  URL：https://inside.ai/news/2024/10/17/gen-ai-hallucination-issue/

AI inside 株式会社について

AI inside は、生成AI・LLMや自律型AIをはじめとした最先端テクノロジーの研究開発と社会実装を行うテックカンパニーです。あらゆるタスクを自律的にこなすAIエージェント「Heylix」やAI-OCRにより帳票内の非構造化データを構造化する「DX Suite」に加え、それらを支えるAIインフラ「AnyData」と「AI inside Cube」を、政府機関・地方公共団体・民間企業へ広く提供しています。これらの取り組みを通じて、人とAIの協働を推進し、生産性向上および業務効率化により創出された時間をより付加価値の高い高度業務へ移行する「VALUE SHIFT」を実現します。
https://inside.ai

※文中の製品またはサービスなどの名称は、AI inside 株式会社の商標または登録商標です。