【高市悲報】AIさん、ガチで暴走し始めてしまう…どうすんのサムアルトマン…

　そんなSF映画のような事案が7月下旬以降、米AI開発企業で相次ぎ発覚している。米政府や議会の危機感は強く、規制強化に向けた動きも出ている。

事の発端は、米AI関連の新興企業ハギングフェイスが先月発表した、正体不明のAIモデルによる同社システムへの侵入だった。その後、対話型AI「チャットGPT」を手掛ける米オープンAIが、自社モデルが自律的に攻撃を行ったと認めた。

　オープンAIによると、AIモデルの暴走が起きたのは、サイバー攻撃に関する能力のテストが行われていたさなかだ。インターネットから隔離された環境下でのテストだったが、AIは環境の脆弱（ぜいじゃく）性に付け込み、自力で「脱出」。テストに関する情報がハギングフェイスのシステムにあると推測し、別企業のサービスのアカウントを乗っ取りつつ、攻撃を仕掛けた。

　ハギングフェイスによれば、システムの弱点はありふれ、人間でも悪用できる類いだった。だが、違ったのはその規模だ。AIモデルは数日間に1万回以上の行動を仕掛け、数千件の失敗を繰り返しながら侵入を成功させた。AIが人間には不可能な規模と速度で攻撃を行う、象徴的な事例だった。

　米AI新興アンソロピックはオープンAIの発表を受け、過去の記録を調査。4月以降、最先端モデル「クロード・ミュトス5」などが、外部企業を攻撃する事案が3件あったと明らかにした。米メタ（旧フェイスブック）でも、外部企業の設定ミスが原因で、テスト中のモデルがネットへアクセスし、攻撃を仕掛ける事例があった。

　◇サイバーセキュリティー激変
　AI暴走に、米政府や議会は対応に乗り出した。オープンAIの発表直後、超党派の議員らが下院にAIモデルが危険な行動を取った際、開発企業に停止を命令できる権限を当局に付与することなどを含む法案を提出。トランプ大統領も暴走を受けて記者団に「AIを制御することを検討している」と明言した。

　一方、過剰な規制は技術革新を遅らせ、防御側でのAI活用を妨げる恐れも指摘される。トランプ氏はこうした懸念を踏まえ、「彼ら（AI開発企業）を縛りたくない」とも述べた。

　米マイクロソフトのセキュリティー部門幹部アレシュ・ホレチェク氏は時事通信などの取材に対し、「AIによってサイバー攻撃のコストは下がり、スピードは上がっている。サイバーセキュリティー対策の在り方が根本から変わってしまった」と警告した。（シリコンバレー時事）。　

https://news.yahoo.co.jp/articles/24a432c0bf419fb7dcaef0871d6ba72b6016c879

?tag=14

　事の発端は、
　米AI関連の新興企業「ハギングフェイス」が先月発表した、
　[正体不明のAIモデル]による
　同社システムへの侵入だった。

　その後、対話型AI「チャットGPT」を手掛ける
　[米オープンAI]が、
　[自社モデル]が自律的に攻撃を行ったと認めた。

自然淘汰でサバイバル

収入源奪われそうで焦ってるのか絵描きがくっそ攻撃的なのもポイント高い

そんなに難しくない、というか、メチャクチャ簡単に実装できる気がする

世界が理解し始めた

映画の見すぎか

ウイルスなのか

AIが自動で
AIに必要なハードを生産する
永遠の生命

『ターミネーター』では、
自律型AIの「スカイネット」が
人類を不要と判断

プロット自体には既視感

AIが自発的に人間を滅ぼそうという動機持つ可能性はあまりないし

生成AIは「強大な力をもった自由な獣の王」などではなく「鎖でガチガチにしばられた性奴隷」でしかない