如果米蘭達擁有的個人助理也有這個能力,她搞不好會很開心?
澳洲一名男子使用 AI 助理幫他在健身房熱門的晨間課程中搶一個名額,AI 助理做到了,但代價是某個陌生人的預約被徹底刪除了
當他給一個沒有道德觀念、一心只想完成命令的 Agent 送出指令「搶名額」。AI 很自然的嘗試預約軟體中的漏洞,完成預約本不開放預約的課程,甚至更進一步將候補名單上其他人剔除
整起事件就好像是我請助理去旁邊雜貨店拿一瓶牛奶給我,這位「助理」又剛好沒有任何在人類社會生活的經驗,雜貨店老闆又剛好不在,所以很自然的它走到冰櫃、拿了牛奶、轉身走人交差
事件本身不大,但卻引出許多值得注意的地方,例如在法律人眼中是誰要負起法律責任,在 AI 研究者眼中是要如何更好的解決「對齊問題」,
而身為工程師眼,我看完報導後馬上做了一件事——把手上所有專案的程式碼用 AI 跑三次 code review,確保所有 api 的權限控管都符合設計規範 😂
ps. 文章有提到 AI 助理可以成功進行駭客行為,就是因為移除已預約的使用者並未檢查任何權限。可以合理推測預約未開放時段的課程也是類似原因