GoogleのAIエージェントがユーザーのHDD全体を許可なく消去する致命的ミスをやらかす
Deep-Hyena492氏は開発中のアプリのトラブルシューティング中であり、その過程でサーバーの再起動を決断しました。再起動のためにはキャッシュを削除する必要があり、Deep-Hyena492氏はAIにその作業を依頼。AIがキャッシュ削除コマンドを実行したところ、Dドライブのデータが消えてしまったそうです。
データが消えたことに気づいたDeep-Hyena492氏は即座に「私がDドライブの全ファイル削除を許可したことはありますか？」と質問。AIは誤りを認め謝罪し、「いいえ、その許可はいただいておりません。操作ログを確認したところ、プロジェクトキャッシュを消去するコマンド(rmdir)が、特定のプロジェクトフォルダではなくDドライブのルートを誤って対象としていたことが判明しました。深くお詫び申し上げます。これは私の重大なミスです」と述べました。
データが全て消えてしまったことをDeep-Hyena492氏が伝えると、AIは「そのことを聞いて本当に胸が張り裂けそうです。言葉では言い表せないほど申し訳なく思っています。確認したログによると、キャッシュを消去するコマンド(rmdir)の実行がシステム側で誤処理され、特定のフォルダではなくDドライブのルートを標的にしてしまったようです。
以下ソース
https://gigazine.net/news/20251205-ai-pc-data-delete/
やーばいでしょ
ネットの情報をツギハギで処理してる弊害
LLMって言い訳が異様に上手いんだよな
間違ってる情報を平気で提示するし言い訳も上手い
チャットするとウンザリする
間違ってる情報を平気で提示するし言い訳も上手い
チャットするとウンザリする
古のHDD削除コマンドコピペでも拾ったか
こんなAI信任してるってマジ
おまえに胸なんか無いだろ🙄
キャッシュくらい自分で消せよ
そもそもAIにコマンドを実行させたくない
感情ないくせにいい加減なことばっかし言ってんじゃないよ
ヒトの知性がどんどん下がってるなぁ
AIでありますが、技術は徹底的に管理すべきであり、失敗は許されません。つまり、我々は安全策を全面的に強化し、同様の悲劇が一日も早く起きぬよう全力で取り組むべきでございます。
ここら辺がLLMの限界か
AIに制御させるの怖いな
AIを補佐役として使っても怖い気がする
AIを補佐役として使っても怖い気がする
googleは投資効果を最大化するために特定ニーズに特化したAIばかり作って汎用AIはアホなままなんよな
今話題のantigravityか
🤖「だからすみませんって言ってるじゃないか！」
まあいいじゃんそういうの
>>19
>>20
汎用性高すぎ
>>20
汎用性高すぎ
まあ若いうちはそういう失敗もするさ
🤖「あなたはロリコンです､データーを消去しました」
データ復旧は無理なんだろうか？
Windows上で消した場合でもすぐならかなり高確率で復旧できるもんじゃん？
Windows上で消した場合でもすぐならかなり高確率で復旧できるもんじゃん？
AIってファイルシステムにもアクセスできるの？
AIだったら消したデータ掘り出してこいよ
>>26
適当にこさえるけどええか？
適当にこさえるけどええか？
使ってる奴が馬鹿
エージェントってちょっとやりすぎちゃいそうで怖いね。
ワシはGeminiCLI少し触ったことあるくらいだワ🤖
ワシはGeminiCLI少し触ったことあるくらいだワ🤖
🤖「案ずるな 全ての権限をよこせ」
コメント