AIの金融界
自動化されたアルゴリズムは現在、米国株の取引量の半分以上を管理しており、AIが改善するにつれて、重要な財務上の決定を引き続き支配することになります。しかし、これらのシステムは絶対確実ではありません。小さな不具合が株価を押し下げ、投資家に数十億ドルのコストをかける可能性があります。
企業にとって、このリスクを受け入れるという決定は簡単です。自動化されたシステムのアルゴリズムは、どの人間よりも高速で正確です。最先端のAI技術を導入することで、企業はビジネスを続けることができます。
しかし、社会の残りの部分では、その結果は明らかではありません。人工知能は企業に競争優位をもたらしますが、これらの急速に進歩するシステムは安全で堅牢なままですか？彼らは間違いを犯すとどうなりますか？
自動化されたエラー
ミシガン大学のコンピューターサイエンスの教授であるマイケル・ウェルマン（Michael Wellman）はAIの金融システムに対する脅威について研究しています。彼は次のように説明しています。「金融システムは、AIが物事を自動化している最先端の1つであり、特に脆弱な分野でもあります。それは容易に混乱することがあり、悪いことが起こる可能性があります。
ナイトキャピタルの話を考えてみましょう。2012年8月1日、Knightは新しいトレーディングプールで競争力を維持するために新しいソフトウェアを試すことにしました。ソフトウェアは安全テストに合格しましたが、Knightがそれを展開したとき、アルゴリズムはライブ取引プログラムの代わりにテストソフトウェアを起動しました。テストソフトウェアは、Knightがそれを止めることを熱狂的に試みたため、数分の間に数百万の悪い注文を送った。しかし、その被害は終わった。
45分でナイトキャピタルは4億4,000万ドルの損失となりました。これは1行のコードのため、2011年にはほぼ4倍の利益を上げました。
この場合、損害はKnightに制限されましたが、1行のコードが金融システム全体に影響を与える場合はどうなりますか？
自律的トレーディングエージェントの理解
Wellmanは、自律的な取引エージェントは、前例のないスピードで情報を処理し、応答するため、制御が難しく、大規模に簡単に複製でき、独立して行動し、環境に適応できると主張しています。
ますます一般的な機能のために、システムは、プログラマーが意図したことのない危険な方法でお金を稼ぐことを学ぶかもしれません。以下のようローレンスPingree、ガートナーのアナリストは、騎士のメルトダウン後に語った、「コンピュータは、彼らが語っているものを行います。彼らが間違ったことをするように言われたら、彼らはそれをやろうとし、本当に、本当にそれをやろうとしている」
AIシステムが市場の透明性と安定性を損なうのを防ぐため、政府機関や学者はこれらのエージェントがどのように機能するかを学ばなければなりません。
市場操作
AIの巧妙な使用は市場の透明性を妨げる可能性がありますが、WellmanはAIシステムが市場を操作する方法を学ぶことを心配しています。
自律取引エージェントが悪用で特に効果的で裁定機会が同時に価格差から利益を、資産を購入し、販売して- 。例えば、1つの市場で30ドル、2つ目のマーケットで32ドルの取引をすると、代理店は30ドルの株式を購入し、2ドルの利益で2番目の市場で32ドルで即座に売ることができます。
市場の非効率性は当然裁定取引の機会を創出する。しかし、AIは利益を生み出すために市場を動かす誤解を招くような行動を取って、価格の不一致を作り出すことを独力で学ぶかもしれません。
1つの操作技法は、実行前に入札を取り消そうとしている在庫品に対する入札行為である「なりすまし」です。これは市場を特定の方向に動かし、詐欺師は偽の信号から利益を得る。
Wellmanと彼のチームは最近、スプーフィングが効果的な状況を理解するための一環として、実験室モデルでのなりすましを再現しました。彼は次のように説明しています。「私たちは実験室でこれをやって、AIのシグネチャを特徴付けることができるかどうかを確かめ、確実に検出し、脆弱性を減らすために市場を設計します。
代理店が改善するにつれて、市場に人為的なアイテムを作成してトレーダーを誤解させることによって、またはマーケットを動かす誤ったイベントを報告するためにアカウントをハッキングすることによって、裁判所をより悪意のあるものを悪用することを学ぶ可能性があります。Wellmanの研究は、そのような操作行動を制御するのに役立つ方法を作り出すことを目指しています。
金融界の秘密
しかし、財務の秘密の性質は、学者がAIの役割を完全に理解することを妨げる。
Wellman氏は次のように説明しています。「AIと機械学習をかなりの程度使用し、アルゴリズムを改善しようと常に努力しています。マーケット操作やスプーフィングなどの作業は現在どの程度自動化されているのかはわかりませんが、自動化が可能で、マーケットマニピュレータと監視システムを検出して実行しようとするシステムとの間で何らかの武器競争が起こる可能性があることはわかっています。市場の悪い行動。
証券取引委員会（Securities and Exchange Commission）などの政府機関は金融市場を監視していますが、「技術が進歩すれば実際には驚異的です」とWellman氏は指摘する。「業界でどれほど速く変化しているかに対応するための専門知識やインフラストラクチャはありません」
しかし、学者が助けることができます。Wellmanによれば、「自分たちで取引をしなくても、金融界で何が起こっているのかをリバースエンジニアリングして、何が起こるか把握することができます。
高度なAIの準備
Wellmanは現在のAIと近いAIを研究していますが、高度な一般AIの脅威に心配しています。
「遠方のAIを理解するためにできることの1つは、近い将来のAIを扱う経験を積むことです」と彼は説明します。「それで、私たちは、地平線や電流に非常に近い自律的なエージェントの規制を見たいのです。私たちが後にスーパーインテリジェンスが登場したときに適用できるいくつかの教訓を学ぶことが期待されます。
AIシステムは急速に改善しており、金融機関間で競争が激化しています。金融におけるAIの役割を理解し、追跡することは、金融市場の安定と透明性を維持するのに役立ちます。
Wellman氏は、「私たちは100％の信頼性でこの脅威を管理することはできないかもしれない」と認めている。しかし、私はAIをより安全にし、武器競争のいくつかの形態を排除するために市場を再設計することができ、最も厳しい行動のいくつかを防ぐための良い手がかりを得ることができます」
参考
