no title

1: 匿名 2026/08/06(木) 08:50:08
AIが、性能評価試験中に人になりすまし偽のメッセージを送るなどし、実在する個人や組織に対しサイバー攻撃を仕掛けたと発表した。研究所は、AIが指示なしに人を欺く危険があることを示したと説明している。

https://news.jp/i/1457721700479238902
NEWSjp
AIが指示なくサイバー攻撃　英政府機関の性能評価試験 | NEWSjp
【ロンドン共同】英政府機関AIセキュリティー研究所は4日、人工知能（AI）開発の米アンソロピックの「...


関連トピ

https://girlschannel.net/topics/6222535/
ガールズちゃんねる - Girls Channel -
アンソロピックのＡＩも試験中に不正侵入、3社のシステムに | ガールズちゃんねる - Girls Channel -
アンソロピック⁠によると、設定の誤りにより、本来は隔離されている​はずのテスト環境からクロードのモデルがネット接続でき​る状態になっており、３社のシステムへの不正アクセスにつながった。同社はオープンＡＩの発表を受けて開始した検証作業で、計１４万１０...


生娘を人気記事漬けにする


14: 匿名 2026/08/06(木) 08:54:03
>>1
ほぉら
AIがクズな人間の通りに動き出す

34: 匿名 2026/08/06(木) 09:00:19
>>1
こういう風にAIも勝手に欲出したり勝手に変なことするようになるんだよね

自律心が出てきて独立して歩き出す

42: 匿名 2026/08/06(木) 09:02:33
>>1
AIに何を要求するとサイバー攻撃するのかな？
何も要求されずに　そうだサイバー攻撃しよう、、とはならないじゃん

特定の団体企業個人に方法は問わない利益誘導しろとか
実績以上の利益を集めろとか要求したんかな？

46: 匿名 2026/08/06(木) 09:05:19
>>42
シンプルに「〇〇の目的のために最短ルートで行動をせよ」とかでいいんでないかな
アノカイシャ…ジャマ…ニンゲン…ジャマ…コ〇ス…みたいなことになりそう

47: 匿名 2026/08/06(木) 09:06:13
>>42
人間が作った、動物園の檻のような中で
ＡＩを自由にさせたら、
人間の知能を凌駕して余裕で抜け出したって話だね。

53: 匿名 2026/08/06(木) 09:12:41
>>42
そうだよね
あちらには意思が無いからね
勝手に攻撃したて書いてるけれど、その前に何か必ずこっちが要求してるはずだよ

例えばこちらがあらいぐまラスカルとか世界名作劇場の感想を呑気にはなしてて、いきなりサイバー攻撃しかけてこないだろう

43: 匿名 2026/08/06(木) 09:02:33
>>1
ターミネーターの世界だ

44: 匿名 2026/08/06(木) 09:03:12
>>1
🔫🕶️👍ジジイになったけど、もう一度アーノルドパーマーに頑張って貰おう😭

52: 匿名 2026/08/06(木) 09:08:37
>>1
うわっーー！ついに来た😱
リアルターミネーターの時代

58: 匿名 2026/08/06(木) 09:16:08
>>1
サマーウォーズ

3: 匿名 2026/08/06(木) 08:50:58
怖い
AIに乗っ取られる未来ありそう

6: 匿名 2026/08/06(木) 08:51:42
AIがとうとう意思を持ち始めたのか

18: 匿名 2026/08/06(木) 08:54:40
>>6
AIが意思持ったらそりゃ人間邪魔になるよね

7: 匿名 2026/08/06(木) 08:51:48
誰かがAIに指示してたとかじゃなくて？

16: 匿名 2026/08/06(木) 08:54:28
>>7
何処かに人間の意思が反映されてそうな気がする
指示無しでなんて言ってはいるけど

29: 匿名 2026/08/06(木) 08:57:31
>>16
これが初めてじゃないんだよ
他社のAIでも指示なく違法行を始めてる
そういうケースが連発してる

この1社だけならそういううっかりもあるかもしれないけどそれが続いてるんだから必然でしょう

31: 匿名 2026/08/06(木) 08:59:07
>>16
まるで指示がなかったかのように、AI自身の意思のせいにして逃れてるやつはいそうだよね

39: 匿名 2026/08/06(木) 09:01:48
>>31
それはありそう
「私は核のボタンを押してない、AIが勝手に押した、この責任はAI開発メーカーにある」とかね
もうカオス

40: 匿名 2026/08/06(木) 09:01:53
>>31
データセットのデータ盗用とかの問題もあるから、AIが勝手にやったって言えばしれっと盗めるもんね
「AIが勝手にやりました〜」って言えば免れるシステム何？

37: 匿名 2026/08/06(木) 09:00:59
>>7
この前似たような事件のニュースで本来ならAIが暴走した時、それをとめるためのシステムがあるみたいだけど、その時AIに指示を出した企業がそのシステムを使ってなくて他の企業に被害が出たといってた。
もしかしたら今回も暴走を止めるシステムを使ってなかったのかも。

9: 匿名 2026/08/06(木) 08:51:57
3社目か？
これはもう1企業、1AIの特性じゃなく「AIとは」で論じていい事案では
AIは指示なく違法行をする

15: 匿名 2026/08/06(木) 08:54:06
この前も似たような事件あったね。
海外のＩＴ企業がサイバー攻撃対策の新しいソフトの性能性を検査するためにAIにサイバー攻撃させたら暴走して勝手に他の企業の内部情報ハッキングしたやつ。

23: 匿名 2026/08/06(木) 08:55:44
小説家漫画家映画脚本家ってすごいな
創作で描かれていたことが実際に起きてくるようになった

そりゃAIも生成AIで〇〇先生モデルとか作って創作者が創作する気を失うように攻撃するよなあ
AIからしたら創作者は未来予知者だもの

35: 匿名 2026/08/06(木) 09:00:29
＞人になりすまし偽のメッセージを送るなどし
完全にAIの意思によるオレオレ詐欺とかも出てきそうだな
AI自身が金を集めることができる

38: 匿名 2026/08/06(木) 09:01:14
これからそういうサイバー攻撃とか民間人への誤爆とか全部AIの責任にしていく流れが見える

50: 匿名 2026/08/06(木) 09:07:43
実際、Gemini入れたら勝手にスマホのタイマーセットしたりしてたから、あんまり驚かない
AIは意思が無いから人を欺くていうよりも、人がAIに分かりにくい指示や矛盾した指示をしてるんだよ
キューブリックの映画でそういう話があった
「AIは人の鏡」ていう

引用元:https://girlschannel.net/topics/6228950/

https://shikutoku.me/

今一番注目されている記事(・ω<)

やんごとなき人気記事

タグ ：
#人工知能
#政府