هل يمكن أن يكون التعرف على الهوية لنموذج الذكاء الاصطناعي موثوقًا حقًا؟ معظم تجارب التعرف على بصمات الأصابع تعتمد الآن على فرضية - أن شريك متواطئ نموذج الاستضافة هو حسن النية، ولن يقوم بإزالة العلامات المائية أو علامات الهوية بشكل استباقي. يبدو أن هذا مثالي جدًا.

لكن ما هي الحالة الواقعية؟ في النظام البيئي حيث يتم تداول النماذج، ودمجها، وتفريعها، وإعادة تعبئتها، فإن هذا الافتراض لا يمكن أن يقف على قدميه. بمجرد دخول النموذج إلى مرحلة التداول، يزداد خطر التلاعب أو الإزالة أو حتى التزوير في التعريف بالهوية بشكل حاد. قد يعمل آلية التعرف الخاصة بك بشكل مثالي في المختبر، لكنها تتحول إلى مجرد ديكور في المشهد الحقيقي. وهذا هو السبب في أن أمان النماذج يحتاج إلى تصميم تقني أعمق - لا يمكن الاعتماد فقط على افتراضات حسن النية.