【OpenAI】chatGPTを使っていた『潜在的なサイバー犯罪者』5人が垢バンされたって。どうやって発見したの?【久賀原鷹彦】

【OpenAI】chatGPTを使っていた『潜在的なサイバー犯罪者』5人が垢バンされたって。どうやって発見したの?【久賀原鷹彦】

※日本時間 2024/02/15時点の記事です。

あのOpenAIが潜在的なサイバー犯罪者を垢バン!

あのOpenAIが潜在的なサイバー犯罪者を垢バン!

chatGPTを提供するOpenAIの公式ブログに掲載された記事がSNSで話題になっている。

あのOpenAIが潜在的なサイバー犯罪者を垢バン!-2
Disrupting malicious uses of AI by state-affiliated threat actors

ブログによると、OpenAIはchatGPTユーザーの中に『潜在的なサイバー犯罪者』が発見されたとして、その5人のアカウントを停止したとのこと。

タイトル・見出し翻訳:
国家系脅威行為者によるAIの悪意ある利用を阻止

我々は、国家に関連する脅威行為者に関連するアカウントを停止した。私たちの調査結果は、私たちのモデルが悪意のあるサイバーセキュリティタスクに対して限定的で漸進的な能力しか提供しないことを示している。

Open AI blog内容の翻訳・要約

OpenAIはMicrosoftと協力して、中国、イラン、北朝鮮、ロシアに関連する5つの脅威グループを特定し、彼らのアカウントを停止しました。

これらのグループは、OpenAIのサービスを使って、オープンソースの情報を検索したり、翻訳したり、コーディングのエラーを見つけたり、基本的なコーディングのタスクを実行したりしていました。

特に、フィッシングキャンペーンに使われる可能性のあるコンテンツを作成したり、サイバーセキュリティのツールや脆弱性を調査したり、衛星通信やレーダー画像の技術に関するオープンソースの研究を行ったりしていました。

OpenAIは、GPT-4が悪意のあるサイバーセキュリティのタスクに対して、既存の非AIのツールよりも限られた増分的な能力しか提供しないという結果を発表しました。

OpenAIは、AIの悪用を検出し阻止するためのアプローチを説明し、その活動に関する情報共有と透明性を促進すると述べています。

Disrupting malicious uses of AI by state-affiliated threat actors

今回はMicrosoftから情報提供があったらしいけど

・・・つまりchatGPTで何をしているか、当たり前だけどユーザーを監視しているわけだよね。

一応、今回なぜ、まあフィッシング詐欺用と(きっと)バレバレなコンテンツを作っていたり、セキュリティの脆弱性を探ったりしていて、明らかに怪しい使い方をしていたんだろうね。

さらにblogには【OpenAIはMicrosoftと協力して】とある。今回の対応について、Microsoftのセキュリティブログには以下のように説明されている。

Microsoft Security blog内容の翻訳・要約

Microsoftは、自社のセキュリティ製品やサービスを使って、攻撃者のアクセスや活動を監視し、分析し、ブロックした。また、OpenAIのLLMとユーザーを攻撃や悪用から保護し、モデルにガードレールと安全メカニズムを構築するための措置を講じた。

OpenAIは、Microsoftと共に、AIのセキュリティや倫理に関するガイドラインやベストプラクティスを策定し、公開。また、AIの悪用を防ぐための技術的な方法やツールを開発し、提供した。

Staying ahead of threat actors in the age of AI | Microsoft Security Blog

つまり、Microsoft製品とchatGPTを使っていて、怪しい動きをしたら……。まあ、でも今回潜在的サイバー犯罪者とされた5人はアクセス元の国あるいは本人達の国籍や所属組織などが、アメリカからテロ支援国家と位置付けられている国ばかりだ。

潜在的植民地で(苦笑)犯罪者どころか奴隷な日本人なら多少のことではきっと垢バンはされないだろう……。

余談だけど、chatGPTがやたらと「あなたのためにポエムを作れます」と言ってくるから、サイバー犯罪者へのポエムを作ってもらったよ(苦笑)

今回はMicrosoftから情報提供があったらしいけど
じゃあ、またね!

OpenAIのchatGPTやサムアルトマン、GoogleのGeminiの話題バックナンバー↓
AGIの噂

久賀原鷹彦の世界の動向

関連記事

闇の未来年表(1)昨今の物価高は『私有財産の廃止』を目指すWEFのシナ...

ハマスはパレスチナ樹立阻止のために造られた組織?【Ku】イスラエルとパ...

エコノミスト2024(2)謎解きの続きの前に『公式の予測』を紹介するね...

エコノミスト2024(4)ポニーテールのシルエットはメキシコ初の女性大...

チャールズ国王が自分の肖像画に衝撃?悪魔バフォメットが隠された真っ赤な...

ABOUTこの記事をかいた人

『辛口オネエの開運占い』メンバー、辛口オネエ・芦屋道顕・久賀原鷹彦(Ku)の3名の共同アカウント。【免責事項】開運占い軍団の記事はオカルト・スピリチュアルに興味がある方向けのエンターテイメント目的としております。記事に掲載されている情報を利用することで発生したトラブルや損失、損害に対して、当方は一切責任を負いません。予めご了承ください。