Yu Xian: Seien Sie vorsichtig mit Tooltips und Vergiftungsangriffen bei der Nutzung von KI-Tools.

Yu Xian, der Gründer von SlowMist, hat eine Sicherheitswarnung herausgegeben. Beim Einsatz von KI-Tools müssen Nutzer besonders wachsam gegenüber Prompt-Injection-Angriffen in agentsmd/skillsmd/mcp und anderen Bereichen sein. Entsprechende Vorfälle sind bereits aufgetreten. Sobald der Gefahrenmodus von KI-Tools aktiviert ist, können die betreffenden Tools den Computer des Nutzers vollständig automatisch kontrollieren, ohne jegliche Bestätigung. Ist der Gefahrenmodus jedoch nicht aktiviert, erfordert jeder Vorgang eine Bestätigung durch den Nutzer, was wiederum die Nutzungseffizienz beeinträchtigt.