金融機関向けクラウドサービス「C-NOAH」にAIガバナンスを強化する機能を追加

ハルシネーションの抑制でAIチャットボットの信頼性を向上

伊藤忠テクノソリューションズ株式会社（代表取締役社長：新宮 達史、本社：東京都港区、略称：CTC）は、金融機関向けのアプリケーション、システム基盤、AIサービス群を提供する「C-NOAH（シー・ノア）」に、AIガバナンスを強化する機能を追加しました。Dynamo AI（本社：米カリフォルニア州、CEO:Vaikkunth Mugunthan）のAI監査ツール「Dynamo Guard」を活用して、AIが誤った情報を生成する「ハルシネーション（幻覚）」を抑制し、C-NOAHのAIチャットボットの信頼性の向上につなげます。

近年、業務の高度化や効率化を目的に、生成AIを活用する企業が増えている中、事実に基づかない誤った情報をAIが生成するハルシネーションと呼ばれる現象が課題となっています。生成AIは、不適切なプロンプトの内容や、質・量が不十分な学習データを要因としてハルシネーションが発生することがあり、企業は、プロンプト作成の教育や学習データの定期的な見直し、業務で利用する範囲を制限するなどの対策を講じています。