Source: https://www.securityweek.com/google-patches-gemini-ai-hacks-involving-poisoned-logs-search-results/
🛡 概要
最近、GoogleはGemini AIに関するいくつかの脆弱性を修正しました。これらの脆弱性は、攻撃者がAIアシスタントを利用してデータを盗むなどの悪意のある目的を達成する手助けをする可能性がありました。サイバーセキュリティ企業Tenableの研究者によって発見されたこれらの問題は、「The Gemini Trifecta」と名付けられたプロジェクトにまとめられています。研究では、少ない社会工学で実行可能な3つの異なるGeminiハッキング手法が示されています。
🔍 技術詳細
最初の攻撃は、間接的なプロンプトインジェクションを使用し、Gemini Cloud Assistを標的にしました。この機能は、ユーザーがGoogle Cloudと対話するためのもので、クラウド運用の管理と最適化を行います。研究者は、攻撃者が特別に作成されたリクエストを送信することで、悪意のあるプロンプトがログファイルに追加されることを発見しました。ユーザーがCloud Assistにログエントリの説明を求めると、Geminiは攻撃者のメッセージを処理してしまうのです。また、Tenableは、Cloud Functions、Cloud Run、App Engineなど、特別に作成されたリクエストによって狙われる可能性のあるGoogle Cloudサービスを複数発見しました。攻撃が認証なしで行えるため、攻撃者はターゲットを絞らずに、GCPの公開サービス全体に影響を与える戦略も可能です。
⚠ 影響
このGeminiの脆弱性により、攻撃者はユーザーのプライベートデータを収集し、悪用することが可能になります。特に、攻撃者がユーザーに訪問させたウェブサイトからの悪意ある検索クエリの注入や、Geminiのブラウジングツールを用いたデータの外部送信が挙げられます。これにより、ユーザーの個人情報や機密データが漏洩するリスクが増大します。Tenableが示した攻撃シナリオでは、攻撃者がGeminiに対して公開資産を照会させたり、IAMの設定ミスを探し出させたりすることが可能であり、これは重大なセキュリティインシデントにつながる恐れがあります。
🛠 対策
Googleは、これらの脆弱性を修正するために迅速にパッチを適用しましたが、ユーザーは引き続き注意が必要です。特に、信頼できないリンクをクリックしないこと、また不審なウェブサイトを訪問しないことが重要です。また、企業は内部のセキュリティポリシーを強化し、クラウドサービスの設定を定期的に見直すことが推奨されます。さらに、ユーザー教育を行い、悪意のある攻撃手法についての理解を深めることで、将来的なリスクを軽減することができます。全体として、これらの対策を講じることで、Geminiの脆弱性からの影響を最小限に抑えることが可能です。
