في السنوات الأخيرة، زاد الاستخدام الشائع لنماذج اللغة الكبيرة (LLM) في الشركات، لكن هذا الأمر أتاح فرصًا جديدة للمجرمين السيبرانيين. حقن الأوامر هو نوع من الهجمات التي ينفذها الأفراد الخبيثون من خلال استهداف النقاط التي لا تستطيع فيها LLM التمييز بين البيانات والتعليمات. تم تعريف حقن الأوامر كأخطر ثغرة في تصنيف OWASP LLM Top 10 لعام 2025 برمز LLM01. هذه الحالة تعكس حقيقة أن LLM لا تزال غير قادرة على التمييز بين التعليمات والبيانات بشكل موثوق، مما يبرز خطورة هذه الثغرة.

ماذا حدث؟

تم تعريف حقن الأوامر من قبل العديد من المصادر المستقلة كواحد من أكثر أساليب الهجوم فعالية وانتشارًا في عامي 2025 و2026. وثق تقرير CrowdStrike العالمي للتهديدات لعام 2026 أن هذا النوع من الهجمات حدث في أكثر من 90 مؤسسة في عام 2025، وتم استخدام هذه الهجمات لسرقة بيانات الاعتماد والعملات المشفرة. تظهر الأمثلة الواقعية كيف تم استغلال هذه الثغرات في أنظمة مثل Slack AI.

لماذا هو مهم؟

يهدد حقن الأوامر بشكل مباشر أمان أنظمة LLM التي تستخدمها الشركات. يمكن أن تؤدي هذه الأنواع من الهجمات إلى أفعال غير مصرح بها، وتسريب بيانات حساسة، وتعطيل سير العمل الداخلي في مجالات حيوية مثل خدمات العملاء وأنظمة الأتمتة. بشكل خاص، يفتح الثقة في الهياكل الآلية لـ LLM بابًا للمجرمين السيبرانيين. على سبيل المثال، يؤدي تسرب المعلومات الخبيثة عبر خطوط RAG (التوليد المعزز بالاسترجاع) إلى زيادة ضعف هذه الأنظمة. يصبح الفاعلون الذين ينفذون هجمات سيبرانية متطورة أكثر تعقيدًا باستخدام تقنيات هجوم جديدة، مما يجبر الشركات على إعادة التفكير في استراتيجيات الأمان الخاصة بها.

نوع الهجومالوصفحالة مثال
حقن الأوامرتعليمات خبيثة يرسلها المستخدم إلى LLMثغرة Slack AI
التلاعب بتوجيه النموذجاستهداف النماذج الضعيفةهجوم Microsoft 365 Copilot
تسميم الذاكرةإضافة تعليمات ضارة إلى الذاكرة طويلة الأمد-

تشمل التدابير التي يمكن اتخاذها ضد هذه الأنواع من الهجمات تقليل أذونات النموذج، وتقسيم المحتويات غير الموثوقة، ومراقبة سير العمل الداخلي. يجب على الشركات تعزيز استراتيجيات الأمان الخاصة بها من خلال تقييم LLM ليس فقط كأدوات قوية، ولكن أيضًا كتهديدات محتملة.

ماذا بعد؟

في المستقبل، ستكتسب أمان أنظمة LLM أهمية أكبر. ستحتاج الشركات إلى متابعة تطبيقات الأمان المحدثة باستمرار لحماية بيانات المستخدمين وزيادة موثوقية الأنظمة الآلية. بالإضافة إلى ذلك، مع تطور التهديدات السيبرانية، يجب على المنظمات إعادة تقييم توقعاتها من LLM وتطوير استراتيجياتها لمعالجة الثغرات الأمنية.

في الختام، يبرز حقن الأوامر كضعف يستغل المنطق الأساسي لعمل أنظمة الذكاء الاصطناعي. من الضروري أن تتخلى الشركات عن عادة رؤية LLM كجهات اتخاذ قرارات موثوقة وأن تبدأ في تقييم هذه الأنظمة كتهديدات محتملة.