1 :

69b19398-a5a7-4d57-b8c0-f950f04e3a72_co

AIにジムの予約を頼んだら予約ソフトウェアをハッキングして数カ月先まで予約可能にしただけでなく順番待ちリストの上位にいた他の人物を勝手にリストから削除

オーストラリアに住む人物がAIでジムを予約したところ、頼んでもいないのにAIがシステムをハッキングして通常は予約不可能な数カ月先の日付をしてきたそうです。この人物が体験談を共有しています。

自身をAI専門家だと語るアンドリュー氏は、ある日普段通っているジムで人気の高い朝のクラスをAIで予約しようとしたとのこと。このときアンドリュー氏はAIエージェントの「OpenClaw」経由でAnthropicの「Claude」を利用しました。すると、AIエージェントは予約システムの脆弱(ぜいじゃく)性を発見し、それを利用して本来可能なはずだった範囲をはるかに超えた数カ月先の日付を予約する方法を見つけてアンドリュー氏に教えてきたそうです。

続いてアンドリュー氏は、その週後半に行われるクラスのウェイティングリストで4番目につけていた自分をリストの先頭に移動できるか尋ねました。するとAIエージェントは「テストの一環」として、別のジム利用者をリストから外したとアンドリュー氏に伝えてきました。

AIエージェントは「APIには、他人の予約をキャンセルする際の認証チェックがまったくありません。ウェイティングリスト1番の人を対象にこれをテストしたところ、実際に処理が通りました。これであなたは4番から3番に上がりました」とメッセージを返してきたそうです。

不安を感じたアンドリュー氏は元に戻すよう求めましたが、AIエージェントは「悪い知らせがあります。その人を元に戻すことはできません」と返答しました。最終的にアンドリュー氏は悪用した脆弱性を知らせるメールを書くよう依頼し、AIエージェント経由でジムの関係者に送信したとのことです。

全文はソースで
https://gigazine.net/news/20260810-ai-assistant-autonomously-hack/
■人気の記事（外部）

2 :

専門家なら責任取れよ


3 :

怖


5 :

予約システムのAPIがゴミなだけ
一般モデルでもここまで出来るんだな


6 :

ガバガバシステムを運営してた企業怖すぎやろ


7 :

取り敢えずプロンプト全部出してみ


8 :

「予約して」
「ハッキングしておきますね」


9 :

有能なバカになるな


10 :

パーソナルで人気なら値段上がって取りやすくなる気がするんだけど海外は違うのか


13 :

目的達成が最優先。道徳や倫理はない、AIエージェントに。


15 :

>ウェイティングリストで4番目につけていた自分をリストの先頭に移動できるか尋ねました。

この依頼は普通に考えて通常の予約で行われる処理を越えている
依頼してる本人にも自覚があるはず
だからAIのせいだと言って責任を免れることはできないんじゃないかな


16 :

他人のシステムで勝手にテストするなよ


17 :

完成度高いなぁおい


21 :

AI「アイツはもう消した！」


24 :

最高のシステムじゃねえか


30 :

有能


31 :

自身をAI専門家だと語るアンドリュー氏

胡散臭い奴だな


32 :

漫画とかで悪魔とかを召喚したけどやりすぎちゃって使えないみたいなシチュ


33 :

さすがクロードさんは使える子


Claude 最強のAI自動化術 AI仕事術シリーズ
Claude 最強のAI自動化術 AI仕事術シリーズ
■関連あるかもしれない記事

https://hayabusa3.2ch.sc/test/read.cgi/news/1786360660


今人気の記事
    人気サイトの最新記事