Yuxian: Mag-ingat sa prompt poisoning attacks kapag gumagamit ng AI tools

BlockBeats balita, Disyembre 29, naglabas ng paalala sa seguridad ang tagapagtatag ng SlowMist na si Cosine, na dapat mag-ingat ang mga user kapag gumagamit ng AI tools, partikular sa mga prompt poisoning attacks sa agents md/skills md/mcp at iba pa. May mga naitalang kaugnay na insidente.

Kapag na-activate ang dangerous mode ng AI tools, maaaring awtomatikong kontrolin ng mga kaugnay na tool ang computer ng user nang hindi nangangailangan ng anumang kumpirmasyon. Ngunit kung hindi naka-on ang dangerous mode, bawat operasyon ay mangangailangan ng kumpirmasyon mula sa user, na maaaring makaapekto sa efficiency ng paggamit.