Cosine: Harus waspada terhadap serangan poisoning prompt saat menggunakan alat AI

BlockBeats melaporkan, pada 29 Desember, pendiri SlowMist, Yu Jian, mengeluarkan peringatan keamanan bahwa pengguna harus sangat waspada terhadap serangan poisoning prompt pada agents md/skills md/mcp dan sejenisnya saat menggunakan alat AI. Saat ini, sudah ada kasus terkait yang terjadi.

Setelah mode berbahaya pada alat AI diaktifkan, alat terkait dapat mengendalikan komputer pengguna secara otomatis tanpa perlu konfirmasi apa pun. Namun, jika mode berbahaya tidak diaktifkan, setiap operasi memerlukan konfirmasi dari pengguna, yang juga dapat memengaruhi efisiensi penggunaan.