العودة إلى المدونة
06الأمان
الأمان
مخاطر البرمجة بالإحساس: لماذا يفشل كود الذكاء الاصطناعي غير المراجَع في التدقيق
بناء تطبيق بالأوامر النصية سريع وممتع، لكن إطلاقه دون مراجعة هو الطريق لتسريب الأسرار وكسر الصلاحيات والفشل في التدقيق.
بقلم فوزي جمعة7 دقائق قراءة
06الأمان01
سرعة بلا نظرة ثانية
يصف مصطلح 'البرمجة بالإحساس' بناء البرمجيات بوصف ما تريده وقبول ما ينتجه الذكاء الاصطناعي طالما يبدو أنه يعمل. للنماذج الأولية هي قوة خارقة، أما للأنظمة التي تحمل بيانات العملاء فـ'يبدو أنه يعمل' ليس معياراً.
02
ما الذي يكتشفه التدقيق عادةً
يميل الكود المولّد إلى تحسين النتيجة الظاهرة، لا القواعد غير المرئية.
- مفاتيح API وأسرار موضوعة في كود الواجهة.
- التحقق من الصلاحيات في المتصفح بدلاً من الخادم.
- غياب التحقق من المدخلات وحدود عدد الطلبات.
- اعتماديات قديمة أو غير ضرورية.
authorization.ts
// Risky: the browser decides who is admin
if (localStorage.getItem("role") === "admin") showAdminPanel();
// Safer: the server verifies every request
const user = await requireAuth(request);
if (!(await hasRole(user.id, "admin"))) return forbidden();03
حافظ على السرعة وأضف المراجعة
الحل ليس التوقف عن استخدام الذكاء الاصطناعي، بل التعامل مع مخرجاته كطلب دمج من مطور مبتدئ سريع: اقرأه، واختبره، وشغّل فحصاً أمنياً، وتأكد أن إنساناً يفهم كل جزء يتعامل مع البيانات أو الأموال.
“الذكاء الاصطناعي يكتب الكود، لكن لا بد أن يتحمل أحدٌ مسؤوليته.”
AISecurityCode review
