企業はAIエージェントの活用を急速に拡大している。しかし、デロイトの最新レポートによると、安全性とガバナンスの枠組みは追いついていない。 企業におけるAIの現状 この調査は、24か国3,200人以上のビジネスリーダーを対象にした調査に基づいており、エージェント型AIが試験運用から実稼働環境に移行するにつれて、導入と監視のギャップが拡大していることを浮き彫りにしています。.
デロイトのデータは、23%の企業が既にAIエージェントを少なくとも中程度に活用しており、今後2年以内に74%に急増すると予測されています。同時に、エージェントを全く活用していない組織の割合は、25%からわずか5%に減少すると予想されています。このような急速な普及にもかかわらず、エージェント関連のリスクを管理するための強固な安全管理体制と監督体制を自社で整備していると回答した回答者はわずか21%でした。デロイトは、エージェント型AIの規模が拡大するにつれて、ガバナンスの弱さが価値創造を阻害する可能性があると警告しています。さらに、運用、セキュリティ、コンプライアンスの不備のリスクも高まっています。.
OpenAI、Microsoft、Google、Amazon、Salesforceといった従来のチャットボットとは異なり、エージェントは生産性向上の促進要因として推奨されています。しかし、Deloitteは、適切な制御のない自律性は潜在的なリスクを増幅させ、新たなリスクをもたらす可能性があると指摘しています。特に、エージェントが明確な境界を持たずに動作する場合、予期せぬ行動からプロンプトインジェクション攻撃に至るまで、様々なリスクが顕在化します。大手テクノロジープロバイダーはエージェントを生産性向上の促進要因として推奨していますが、Deloitteは、適切な制御のない自律性は悪影響を増幅させる可能性があると指摘しています。.
他の研究もこの懸念を裏付けています。最近の調査では、IT専門家の84%が組織内でAIエージェントを使用していると報告している一方で、その半数以下しかAIエージェントを使用していないことがわかりました。これらのシステムを管理するポリシーは存在しません。調査によると、多くの従業員が正式な安全研修を受けずにAIツールを使用していることが示されています。また、従業員は雇用主がAIをどのように大規模に導入しているかを把握できていません。.
ビジネスリーダーにとって重要なポイント:
- AIエージェントの導入は安全性とガバナンスのフレームワークよりも急速に進んでいる
- 強力な監督体制が整っている組織はごく少数である
- 自律エージェントは従来のチャットボットと比較してリスクの露出を増加させる
- エージェントの規模が大きくなるにつれて、明確な境界、監視、監査証跡が不可欠となる。
デロイトは、初期段階の導入では完璧なガードレールが整備されることは稀だが、監督は優先事項となるべきだと結論付けている。同社は、エージェントの自律性に明確な制限を設け、リアルタイムでエージェント AI が企業運営の中核を成すにつれ、説明責任を確保するために、監視、監査証跡の維持が重要になります。.
ソース：
