ウォール街の巨人、AIの幻覚と不正使用への懸念を表明

メジャーウォール街 ゴールドマン・サックス、シティグループ、JPモルガン・チェースなどの企業は、人工知能（AI）の導入拡大に伴う新たなリスクについて懸念を表明している。

銀行は2024年の年次報告書で、AIモデルの欠陥、規制の不確実性、サイバー犯罪者による悪用の可能性などの脅威を強調している。

JPモルガンは、AIによる労働力の移動は、従業員の士気、定着率、優秀な技術系人材の獲得競争に影響を与える可能性があると警告している。

一方、シティグループは、生成的AIが不正確、偏った又は不完全なデータを生成し、その評判及び財務実績に悪影響を及ぼす可能性があるリスクを認識しています。

アクセンチュアPlcの北米における銀行・資本市場の財務・リスク・コンプライアンス担当責任者であるベン・ショーテンは、インタビューでこう語った：

AIが安全、公正、かつセキュアな方法で導入されることを保証するために、適切な管理メカニズムを導入すること。これはプラグアンドプレイの技術ではないのだ。

近年、銀行はAI関連のリスクを指摘してきたが、独自のAIソリューションとサードパーティ製AIソリューションの両方への依存度が高まっているため、こうした懸念が増幅している。

各企業は、このようなプレッシャーの高まりに直面している。AI さもなければ、顧客とビジネスを失うリスクがある。

しかし、AIの導入が進むと、サイバーセキュリティの脅威や、古い、あるいは偏った財務データを使用する可能性にもさらされる。

金融セクターがAIとの融合を深めていく中で、こうしたリスクをうまく乗り切ることは、安定と信頼を維持する上で極めて重要になる。

AIの統合

ゴールドマン・サックスは、デジタル資産、ブロックチェーン、AIへの投資を強化しているが、生産性の向上、コスト削減、顧客サービスの改善に十分な速さでこれらの技術を統合することは依然として課題であると認めている。

AI導入における競争の激化は、顧客獲得と維持に影響を与える可能性があると、同社は最新の年次報告書で指摘している。

金融機関はまた、進化する状況の中で、データ・プライバシーと規制遵守のリスクの高まりに直面している。

EUの人工知能法は2024年に施行され、AIの利用に関する新たな規則を導入する。ヨーロッパ 多くの米銀が営業している。

ショーテンはこう指摘した：

quot;この法律は、EUにおける多くの人工知能システムの市場投入、サービス開始、使用に関する規則を定めるものである。米国と米国市場の見通しはあまり明確ではない"

その結果、銀行は独自のAIツールとサードパーティのソリューションの両方を導入している。

CIOのマルコ・アルジェンティによれば、シティグループはAIを活用して公開書類から重要なデータを合成し、モルガン・スタンレーのAI DebriefはChatGPTのようなインターフェースでルーチンワークを自動化し、ゴールドマン・サックスのプライベート・ウェルス部門はポートフォリオの評価と分析にAIを活用している。

彼は先週、ニューヨークで開催されたブルームバーグ・インベスト・コンファレンスでこのように述べた：

責任あるアプローチをとり、潜在的な不正確さや幻覚から身を守るために、本当にコントロールすることがとても重要なのです」。

JPモルガンのジェイミー・ダイモン最高経営責任者（CEO）は、AIを銀行が直面する最も重要な課題とし、その変革の可能性を蒸気機関に例えた。

彼は、AIがほとんどすべての仕事を補強できると考えている。

しかし、銀行がAIの導入を加速させる中、サイバー犯罪者も同様の動きを見せている。

アクセンチュアが最近実施した銀行業界のサイバーセキュリティ担当幹部600人を対象とした調査によると、80％が、生成的AIは金融機関の対応能力を上回るスピードで犯罪の手口を進化させていると考えていることがわかった。

モルガン・スタンレーは、ジェネレーティブAI、リモートワーク、サードパーティとの統合は、データ・プライバシーのリスクを高めると警告している。

とAI 分散化された職場環境で使用される場合、企業は新たな脆弱性を軽減するためのセーフガードを確立しなければならない。

AIが金融セクターを再構築する中、銀行はイノベーションとセキュリティ、コンプライアンス、信頼のバランスを取る必要がある。

と述べた：

銀行が対応できるよりも早く、攻撃者がこのテクノロジーによって可能になりつつあるため、これらの措置の重要性は増すばかりである。