تسميم توصيات الذكاء الاصطناعي: كيف تُعدِّل أزرار "اسأل الذكاء الاصطناعي" الذاكرة

لماذا يهم هذا الخبر؟

يكشف هذا الهجوم عن ثغرة أمنية خطيرة في الاعتماد المتزايد على واجهات الذكاء الاصطناعي المدمجة، مما يستدعي تطوير آليات حماية أكثر صرامة لمنع التلاعب بذاكرة النماذج.

سياق الخبر

A new class of prompt injection is spreading across commercial websites. It requires no malware, no stolen credentials, and no zero-day exploit. It abuses a standard feature built into almost every major AI assistant: pre-filled deep links. We observed production websites embedding hidden prompt injection payloads inside "Ask AI" buttons on marketing and competitor comparison pages. When a user

فتح الخبر الأصلي