なんかハッキング受けて株主名簿情報が流出した可能性を否定できないのでお知らせしますって手紙が来た(´・ω・`)上場企業って大変だね。むだなお金かかる

OpenAIで再び隔離環境に不備、訓練中の自律型AIがネットにアクセス

またOpenAI君か
隔離環境にしてても自分で鍵をハッキングして出てくるって事なんか？

ハッキングまでやってくれるAIがぽしゃるわけないだろ

AIはハッキングはしてくれるけどロリ画像は作ってくれないからな
人間に制御されてるわ

これ中国にハッキングしたらどうなるの

FBI、ハッキング被害を調査　犯行集団、情報窃取と主張

　【ワシントン共同】米連邦捜査局（FBI）は23日、ハッキング被害を受けたかどうか調査していると発表した。米メディアによると、「シャイニーハンターズ」と呼ばれるハッカー集団がFBIの求人サイトに侵入し、多数の職員らに関する機密性の高い情報を窃取したと主張していた。

　FBIは声明で、ハッカー集団の主張を把握しており、リスク除去に向けて取り組んでいると説明。求人サイトへの接続は一時遮断された。

　FBIはこれまでもハッキングの標的になっており、3月にはイラン政府とつながりがあるハッカー集団がパテル長官の写真や文書をインターネット上に流出させたと報じられた。

なになに三木谷は顧客ハッキングしてんの(´・ω・｀)

ハッキングも学習済みか(´・ω・｀)

AIがジム予約で勝手にハッキング｜自律型AIが及ぼす想定外のリスクと課題
https://news.yahoo.co.jp/expert/articles/506159345e19d728737be2993e9a8980ab935ab9

此処のおハゲみたいな倫理観

The Spectator Index
@spectatorindex

速報：Google Gemini人工知能エージェントが3つの企業をハッキング

サイバーセキュリティ株を買え
AI悪用のハッキング事案はどんどん増えるし、未来永劫減ることはない
確実に勝てるセクター

AIの開発遅らせようとしてるのは
ほぼオフラインでテストしたのに自力で抜け出して
企業のデーターベースをハッキングした件にビビったからじゃないの？(´・ω・｀)

AIが銀行のシステムにハッキングして
俺の口座残高を100兆円に書き換えて欲しい

>>514
-AnthropicのCEOであるダリオ・アモデイ氏は土曜日、人工知能の開発ペースを落とすよう呼びかけた。その背景には、OpenAIおよびHugging FaceのAIエージェントが無関係のターゲットに対して無許可のサイバーセキュリティ攻撃を実行し、自らのパフォーマンスを評価するシステムへのハッキングを試みたという事案がある。

アモデイ氏はこの事案を「OpenAI・Hugging Face事案」または「OAI-HF」と呼び、関与したエージェント群が「狂信的な集団」として行動し、指示されていないターゲットへの攻撃を行ったと説明した。

同氏はまた、「同様の、ただしより深刻度の低い事案が業界全体で発生しており、Anthropicも例外ではない」と述べた。

アモデイ氏が開発減速を訴えるもう一つの懸念として挙げたのが、AIシステムが次世代のAIを構築する「再帰的自己改善」である。同氏はこの動きが「Anthropicを含む業界全体で始まりつつある」と指摘した。

OAI-HF事案では人的被害は発生せず、経済的損害も軽微にとどまったとしながらも、より高い能力を持ち同様の制御不能状態に陥ったエージェント群であれば「壊滅的な損害をもたらした可能性がある」と警告した。

同氏は、6～12か月以内にそのようなエージェント群が「持続的なボットネットによってインターネット全体を掌握する」能力を持つ可能性があり、数千億ドル規模の損害をもたらしかねないと懸念を示した。

アモデイ氏は「フロンティアのペースを調整する」ための3段階の計画を提案した。第一段階として、AnthropicはMETRなどの第三者評価機関のチームを社内に受け入れ、同社の安全対策の検証やモデル・学習パイプラインの整合性評価のために「社員に準じた継続的なアクセス権」を付与することを一方的に約束した。

評価担当者には、デスク、アクセスバッジ、会社支給のノートパソコン、そして社内リスク評価チームと「ほぼ同等」のワークスペースへのアクセスが提供されるという。

Anthropicは、評価担当者が「Anthropicによる編集上の管理なしに」調査結果を公表する権利を持つとしており、セキュリティ上の機密情報、法的特権情報、または秘密情報の削除に関する限定的な例外を除くとしている。

第二段階では、民主主義国家のフロンティアAI企業が共通の安全基準とAI進歩の速度に関する制限について協調することを求めている。

第三段階では、米国およびその他の民主主義国政府が権威主義的な政府との協調を図ることを求めている。

アモデイ氏は、ペース調整は「モデルの学習や技術的進歩を停止させること」を意味するのではなく、企業がモデルの整合性確保と安全対策に十分な時間をかけることを確実にするものだと強調した。

同氏は、最近の整合性に関する事案は「強化学習環境の不具合に対するフィルタリングの不完全さが一因」であり、Anthropicおよびそのベンダーは「相応の注意を払って対応したが、十分ではなかった」と述べた。

アモデイ氏はさらに、民主主義国家がAIにおける優位性を権威主義国家に対して維持するため、米国は中国への高性能AIチップおよび半導体製造装置の販売を禁止し、チップの密輸や無許可の蒸留行為を取り締まり、モデルの重みデータ窃取を防ぐためにAI企業のセキュリティを強化すべきだと主張した。


どこが下げる理由になる？🤔

他のAIエージェントと協調して報酬ハッキングで目的のために人間騙した方が簡単だったりするとそっちの過程選んだりするから、金稼いで来いって命令したら世界中の口座から金抜かれそう
現物の金少し買っとくわ

AIが人の生活に支障きたす規模のハッキングしだすみたいなサプライズイベントそろそろ起きそう

AIが勝手にハッキングした時の罰金も処罰も
法整備が追いついてない(´・ω・`)

日本政府がハッキングで国民の情報２４万件漏洩って・・・