IEEEが提言を発表　エージェンティックAIが機密性の高い個人情報を漏洩させるリスクとは

IEEE(アイ・トリプルイー)は世界各国の技術専門家が会員として参加しており、さまざまな提言やイベントなどを通じ科学技術の進化へ貢献しています。

AIエージェントは、現在主流の許可ベースのアプリケーションから、独立して動作する自律型システムへの本質的な転換を象徴する技術です。コマンドに応答する従来型の音声アシスタントとは異なり、エージェンティックAIは、人間による継続的な監視を必要とせずに意思決定を行い、複雑な処理をこなし、膨大な個人データへアクセスすることができます。この自律性により、従来にない規模でのプライバシーおよびセキュリティ上のリスクが生じます。なぜなら、こうしたシステムは膨大な個人データへのアクセスを前提として機能するからです。
私たちは、アプリケーションが位置情報や連絡先、マイクへのアクセス許可を求めてくることにすっかり慣れてしまっています。エージェンティックAIは、これまでの常識を覆します。単に許可を求めるだけではなく、自ら行動することから、アシスタントと自律的なオペレーターとの境界を曖昧にします。