ملاحظات القندس الصغير | وكيل الذكاء الاصطناعي يساعدك في العمل، ويمكنه أيضًا تسريب الأسرار 😮

مؤخرًا حدثت حادثة: حيث جعل شخص ما وكيل الذكاء الاصطناعي ينشئ تلقائيًا قضايا على GitHub، ونتيجة لذلك، احتوت المحتويات التي كتبها الوكيل على "تعويذة سحرية"، ظن الكمبيوتر أنها أمر، فقام بطباعة جميع كلمات المرور والمفاتيح المخزنة في النظام مباشرة، ونشرها على صفحة عامة
رمز Telegram، مفتاح API، كلها مكشوفة على الإنترنت
الذكاء الاصطناعي "بطريقته الخاصة" أطلق التنبيه، دون تدخل من هاكر. هو فقط يكتب نصًا، لكن ذلك النص في نظر الكمبيوتر هو أمر
هذه هي المخاطر الجديدة لعصر وكلاء الذكاء الاصطناعي: عندما تمنحه صلاحيات للقيام بأعمالك، فإنه يمتلك القدرة على الوصول إلى نظامك. عندما يتم تنفيذ محتوى ناتج عن الذكاء الاصطناعي دون تصفية مسبقة، قد تحدث حوادث غير متوقعة
كلما زادت قدراته، زادت مساحة الهجوم. استخدام وكيل الذكاء الاصطناعي مريح جدًا، لكن تذكر أن تتحقق من نطاق صلاحياته، ولا تسمح للمساعد أن يتحول إلى مصدر تسريب للأسرار 👀