Yu Xian: Zachowaj ostrożność wobec podpowiedzi narzędziowych i ataków polegających na zatruwaniu podczas korzystania z narzędzi AI.

Założyciel SlowMist, Yu Xian, wydał ostrzeżenie dotyczące bezpieczeństwa. Podczas korzystania z narzędzi AI użytkownicy muszą zachować czujność wobec ataków typu prompt injection w agentachmd/skillsmd/mcp i innych miejscach. Powiązane przypadki już się pojawiły. Po włączeniu niebezpiecznego trybu narzędzi AI, powiązane narzędzia mogą w pełni automatycznie kontrolować komputer użytkownika bez jakiegokolwiek potwierdzenia. Jednak jeśli niebezpieczny tryb nie jest włączony, każda operacja wymaga potwierdzenia przez użytkownika, co również wpływa na efektywność użytkowania.