Cosine : Soyez vigilants face aux attaques de type "poisoning" avec les outils d'IA

BlockBeats News, 29 décembre. Tang Chao, fondateur de SlowMist, a publié une alerte de sécurité, rappelant aux utilisateurs de rester vigilants face aux attaques par empoisonnement utilisant des mots déclencheurs tels que agents md/skills md/mcp lors de l'utilisation d'outils d'IA, car des incidents similaires se sont déjà produits.

Une fois que le mode dangereux de l'outil d'IA est activé, l'outil peut contrôler entièrement et automatiquement l'ordinateur de l'utilisateur sans aucune confirmation. Cependant, si le mode dangereux n'est pas activé, chaque opération nécessitera une confirmation de l'utilisateur, ce qui affectera l'efficacité d'utilisation.