Cosine: AI vositalaridan foydalanganda prompt poison hujumlariga ehtiyot bo‘lish kerak

BlockBeats xabariga ko‘ra, 12-dekabr 29-kuni SlowMist asoschisi Yuxian xavfsizlik bo‘yicha ogohlantirish chiqardi: foydalanuvchilar AI vositalaridan foydalanganda, agents md/skills md/mcp kabi bo‘limlardagi prompt so‘zlar orqali amalga oshiriladigan zaharlash hujumlariga albatta ehtiyot bo‘lishlari kerak, hozirda bu borada tegishli holatlar allaqachon yuzaga kelgan.

AI vositalarining xavfli rejimi yoqilganda, ushbu vositalar foydalanuvchi kompyuterini hech qanday tasdiqlashsiz to‘liq avtomatik boshqarishi mumkin. Ammo xavfli rejim yoqilmagan bo‘lsa, har bir amal uchun foydalanuvchi tasdiqlashi talab qilinadi, bu esa foydalanish samaradorligiga ta’sir qiladi.