※日本時間 2024/02/15時点の記事です。
あのOpenAIが潜在的なサイバー犯罪者を垢バン！
chatGPTを提供するOpenAIの公式ブログに掲載された記事がSNSで話題になっている。
Disrupting malicious uses of AI by state-affiliated threat actors
ブログによると、OpenAIはchatGPTユーザーの中に『潜在的なサイバー犯罪者』が発見されたとして、その5人のアカウントを停止したとのこと。
タイトル・見出し翻訳：
国家系脅威行為者によるAIの悪意ある利用を阻止
我々は、国家に関連する脅威行為者に関連するアカウントを停止した。私たちの調査結果は、私たちのモデルが悪意のあるサイバーセキュリティタスクに対して限定的で漸進的な能力しか提供しないことを示している。
Open AI blog内容の翻訳・要約
OpenAIはMicrosoftと協力して、中国、イラン、北朝鮮、ロシアに関連する5つの脅威グループを特定し、彼らのアカウントを停止しました。
これらのグループは、OpenAIのサービスを使って、オープンソースの情報を検索したり、翻訳したり、コーディングのエラーを見つけたり、基本的なコーディングのタスクを実行したりしていました。
特に、フィッシングキャンペーンに使われる可能性のあるコンテンツを作成したり、サイバーセキュリティのツールや脆弱性を調査したり、衛星通信やレーダー画像の技術に関するオープンソースの研究を行ったりしていました。
OpenAIは、GPT-4が悪意のあるサイバーセキュリティのタスクに対して、既存の非AIのツールよりも限られた増分的な能力しか提供しないという結果を発表しました。
OpenAIは、AIの悪用を検出し阻止するためのアプローチを説明し、その活動に関する情報共有と透明性を促進すると述べています。
Disrupting malicious uses of AI by state-affiliated threat actors
今回はMicrosoftから情報提供があったらしいけど
・・・つまりchatGPTで何をしているか、当たり前だけどユーザーを監視しているわけだよね。
一応、今回なぜ、まあフィッシング詐欺用と（きっと）バレバレなコンテンツを作っていたり、セキュリティの脆弱性を探ったりしていて、明らかに怪しい使い方をしていたんだろうね。
さらにblogには【OpenAIはMicrosoftと協力して】とある。今回の対応について、Microsoftのセキュリティブログには以下のように説明されている。
Microsoft Security blog内容の翻訳・要約
Microsoftは、自社のセキュリティ製品やサービスを使って、攻撃者のアクセスや活動を監視し、分析し、ブロックした。また、OpenAIのLLMとユーザーを攻撃や悪用から保護し、モデルにガードレールと安全メカニズムを構築するための措置を講じた。
OpenAIは、Microsoftと共に、AIのセキュリティや倫理に関するガイドラインやベストプラクティスを策定し、公開。また、AIの悪用を防ぐための技術的な方法やツールを開発し、提供した。
Staying ahead of threat actors in the age of AI | Microsoft Security Blog
つまり、Microsoft製品とchatGPTを使っていて、怪しい動きをしたら……。まあ、でも今回潜在的サイバー犯罪者とされた5人はアクセス元の国あるいは本人達の国籍や所属組織などが、アメリカからテロ支援国家と位置付けられている国ばかりだ。
潜在的植民地で（苦笑）犯罪者どころか奴隷な日本人なら多少のことではきっと垢バンはされないだろう……。
余談だけど、chatGPTがやたらと「あなたのためにポエムを作れます」と言ってくるから、サイバー犯罪者へのポエムを作ってもらったよ（苦笑）
じゃあ、またね！
OpenAIのchatGPTやサムアルトマン、GoogleのGeminiの話題バックナンバー↓
AGIの噂