20月XNUMX日、OpenAIは人気の生成AIツールChatGPTを数時間にわたって閉鎖した。それは後で 認められた 機能停止の原因は、オープンソースのインメモリ データ ストア ライブラリに起因するソフトウェア サプライ チェーンの脆弱性であったということです。Redisの'。
この脆弱性の結果、ユーザーが他のユーザーのチャット履歴タイトルに誤ってアクセスし、名前、電子メール アドレス、支払い住所などの支払い関連情報が漏洩する可能性がある時間帯 (1 月 10 日の午前 20 時から XNUMX 時 (PST) の間) が発生しました。 、クレジット カードの種類と支払いカード番号の下 XNUMX 桁。
これは比較的小さなバグでしたが、すぐに発見され、パッチが適用されました。 ChatGPT やその他の生成 LLM の人気の高まりを考慮すると、よりターゲットを絞った攻撃による影響は何でしょうか。 ソフトウェアサプライチェーン攻撃?
この記事では、20月XNUMX日に何が起こったのか、そしてユーザー情報はどのように流出したのかを見ていきます。また、より深刻な潜在的な攻撃への短い想像上の旅行を行い、どのような情報が漏洩する可能性があるか、またそのようなケースを防ぐために何ができるかを見ていきます。いくつかの一般的な説明で終わります ソフトウェアサプライチェーンのセキュリティ あなたの会社がどのようなソフトウェアに取り組んでいるかに関係なく、関連する可能性のある提案。
何が起こったのか
他のほとんどのソフトウェア会社と同様に、OpenAI のコードは少なからずオープンソースのライブラリとコードに依存しています。この場合、バグは Redis クライアントのオープンソース ライブラリで発見されました。 redis-py。同社独自のバグ説明は次のとおりです。 再集計:
- OpenAI は、リクエストごとにデータベースをチェックする必要がないように、Redis を使用してユーザー情報をサーバーにキャッシュします。
- Redis クラスターは、この負荷を複数の Redis インスタンスに分散するために使用されます。
- redis-py ライブラリは、会社の Python サーバーから Redis と通信するために使用されます。 アシンシオ.
- ライブラリは、サーバーとクラスター間の接続の共有プールを維持し、完了後に別のリクエストに使用される接続をリサイクルします。
- Asyncio を使用する場合、redis-py によるリクエストとレスポンスは 2 つのキューとして動作します。呼び出し元はリクエストをキューにプッシュします。 受信キュー、からの応答をポップします。 発信キュー、 その後、接続をプールに返します。
- リクエストが受信キューにプッシュされた後、応答が送信キューからポップされる前にキャンセルされたとします。その場合、私たちの バグ: 接続が破損し、無関係なリクエストに対して取得された次の応答が接続内に残されたデータを受信する可能性があります。
- ほとんどの場合、これにより回復不能なサーバー エラーが発生し、ユーザーはリクエストを再試行する必要があります。
- ただし、場合によっては、破損したデータがリクエスターが予期していたデータ型と偶然一致するため、キャッシュから返されたデータは、たとえ別のユーザーのものであっても有効であるように見えます。
- 太平洋時間の 1 月 20 日月曜日午前 XNUMX 時、OpenAI は誤ってサーバーに変更を加え、それにより Redis リクエストのキャンセルが急増しました。これにより、各接続で不正なデータが返される可能性が通常よりも高くなりました。
この特定のバグは、Redis Cluster の Asyncio redis-py クライアントでのみ発生し、その後、OpenAI エンジニアと Redis ライブラリ メンテナの共同作業によって修正されました。
このバグにより、別のアクティブ ユーザーの検索タイトルとそのユーザーの支払い情報の一部が誤って公開される可能性があることに注意してください。一部のユーザーは、ChatGPT に自分の個人情報を完全または部分的に制御できるようになりました。 財源、この情報が暴露されると、壊滅的な結果が生じる可能性があります。
何が起こるか
この場合、オープンソース ライブラリ Redis から OpenAi に継承されたソフトウェア サプライ チェーンのバグは比較的単純なもので、簡単にパッチできました。より深刻なシナリオ、つまり、今回の訪問と同様の、標的型ソフトウェア サプライ チェーン攻撃が発生するシナリオを想像していただければ幸いです。 SolarWinds が発生し、長期間、たとえば数か月にわたって発見されないまま放置されます。
ユーザーは現在、LLM へのより直接的なアクセスのために OpenAI に料金を支払っているため、このような攻撃により支払いデータを含むクライアント情報が漏洩する可能性があります。しかし、それは私たちの仮説上のハッカー グループが実際に興味を持っている情報ではありません。ChatGPT は現在持っています。 1.16億ユーザー。 1 年 2023 月にはユーザー数が 55 億人を超えました。これらの数字は、2023 年 2023 月から XNUMX 年 XNUMX 月までにほぼ XNUMX% 増加したことを示しています。現在、多くの人々が芸術から歴史の宿題、財務に至るまであらゆるものに生成 AI を使用しているため、OpenAI のデータベースへの無制限のアクセスにより、潜在的な可能性が明らかになる可能性があります。数えられていないユーザーに関する脅迫情報。の ブラックミラー エピソード「Shut Up and Dance」（シーズン 3、エピソード 3、2016）は、このような露骨な情報が悪徳者の手に渡った場合に、非常に優れた想像力豊かな結果をもたらします。より現実世界の類似点を探している場合は、 アシュリーマディソンのデータ侵害 2015 年からの影響はいくつかの深刻な結果をもたらしましたが、その一部は数年後でも依然として影響を及ぼしています。
想像力豊かなハッキングをもう少し進めて、この名前のないハッカー グループが OpenAI データベースにアクセスできるだけでなく、リクエストの結果にも影響を与える可能性があると考えてみましょう。何百万人もの人々がハッカーグループによってカスタマイズされた的を絞った金融アドバイスを受ける可能性を想像できますか?あるいは、やはり謎のハッカー グループのご厚意で、偽のセキュリティ スキャン情報やコード テスト情報を入手することもあります。 ChatGPT がインターネットにアクセスできるようになったことで、OpenAI のサーバーに出入りする情報を通常の無害なデータとして隠すことがさらに簡単になりました。
ここでやめておきますが、成功した LLM に対するソフトウェア サプライ チェーン攻撃が引き起こす可能性のある甚大な潜在的損害がおわかりいただけると思います。
自分自身とソフトウェア サプライ チェーンを守る方法
自分を守るために最初にできることの 1 つは、疑いの心を鋭くすることです。ツールが何をするのか、潜在的に何を実行できるのか、どのリソースにアクセスできるのかを完全に制御できることが保証できない限り、それがどれほど良性であるように見えても、ツールを暗黙のうちに信頼しないでください。 ChatGPT のオープンソース バージョンを実行するオプション 局部的に トレーニング情報とそのアクセス レベルの両方をより詳細に制御できるようになります。
ソフトウェア会社として、可能性をより警戒したい ソフトウェアサプライチェーンのリスク 使用するオープンソース パッケージを通じて継承されているため、チェックすることをお勧めします。 スクライブの解決策。 Scribe は、含めるすべてのパッケージと継承されたパッケージ、および途中で実行するテストに関して、完全な SDLC の透明性を高めるプラットフォームを開発しました。プラットフォームは SBOM ビルドごとに収集され、各ビルドについて収集されたすべてのセキュリティ情報が 3 か所に含まれます。また、ビルドがレベル XNUMX までの SLSA および NIST の SSDF に準拠しているかどうかもわかります。新しい Valintツール また、 独自のポリシーを作成する そして、それらをビルド パイプラインの任意の部分に適用します。すべてのセキュリティ情報を 1 か所に保存し、時間の経過とともにビルドごとに順序付けすると、アプリケーションが依存関係とセキュリティの両方の観点から成熟するにつれてどのように変化するかを観察できます。
AIの未来
私たちが何をしても、AI は存在し続けます。私たちの日常生活への関与のレベルは推測の域を出ませんが、過去 6 か月だけを見ると、LLM テクノロジーとその用途にとって潜在的な転機が到来していることは確かのようです。 AI により、コードや包括的なアプリの作成は「自然言語」で適切なプロンプトを見つけることが重要になるため、適切にテストされておらず、両方のユーザーを保護するための適切なセキュリティ保護手段も備えていないアプリケーションが前例のないほど氾濫する可能性があります。そしてそれらを作成した人々や企業。
今月後半、Scribe は次のイベントを主催します。 ソフトウェア サプライ チェーンの保護に AI を信頼できるかどうかという問題に特に対処します。ここで読んだ内容に基づいて質問がある場合は、ここが質問を提示するのに最適な場所と時間です。
から Scribe プラットフォームは無料です 月に最大 100 のビルドに使用できるため、個人の開発者でも企業でも、ぜひ試してみて、プラットフォームがセキュリティと規制のニーズをどれだけ満たしているかを確認することをお勧めします。真の知性が画面の向こうで私たちの声を聞く日が来るまで、私たちは自分自身のセキュリティに対処する他の方法を見つける必要があり、信頼の前兆として可視性を促進することが良いスタート地点であると私は信じています。
このコンテンツは、エンドツーエンドのソフトウェア サプライ チェーン セキュリティ ソリューションの大手プロバイダーである Scribe Security によって提供されており、ソフトウェア サプライ チェーン全体のコード成果物とコード開発および配信プロセスに最先端のセキュリティを提供しています。 詳しくはこちら。
関連記事
