مصفوفة مخاطر AI والتوحد
المصفوفة تساعدك على تجنّب التعميم وتحويل النقاش من حكم عام إلى تقييم محدد. بدل أن تقول “هذه الأداة خطيرة”، حدّد أين الخطر، ولمن، وما الإجراء المطلوب.
مستويات الأثر
منخفض: الأداة تساعد في صياغة أو تنظيم شخصي اختياري، ولا تؤثر في خدمة أو حق.
متوسط: الأداة تؤثر في تجربة تعليمية أو خدمة أو تواصل، لكن توجد بدائل ومراجعة بشرية.
عال: الأداة تؤثر في عمل، تعليم، دعم، رعاية، خدمة عامة، أمن، هجرة، أو قرار لا يستطيع الشخص تجاوزه بسهولة.
حرج: الأداة تستخدم مراقبة أو تصنيفًا سلوكيًا أو بيانات حساسة في قرار عالي الأثر، مع قدرة ضعيفة على الاعتراض.
مصادر الخطر
| مصدر الخطر | سؤال المراجعة | إجراء حماية |
|---|---|---|
| سوء تفسير التواصل | هل تقيس الأداة الوجه أو الصوت أو العين أو الحركة؟ | منع هذه الإشارات في القرارات عالية الأثر |
| بيانات حساسة | هل تجمع سجلات تواصل أو صحة أو احتياج دعم؟ | تقليل البيانات وحق حذف وبديل غير آلي |
| تحيز بيانات | هل اختُبرت مع أشخاص توحديين متنوعين؟ | اختبار مستقل ومشاركة موثقة |
| ضغط التطبيع | هل تكافئ الاقتراب من معيار غير توحدي؟ | تغيير معايير النجاح |
| غياب الاعتراض | هل يستطيع الشخص فهم القرار وتحديه؟ | مراجعة بشرية حقيقية |
| مشاركة رمزية | هل غيّر المشاركون شيئًا فعليًا؟ | نقل سلطة وميزانية للمشاركة |
قراءة النتيجة
إذا كان الأثر عاليًا أو حرجًا، لا يكفي تحسين الواجهة. تحتاج الأداة إلى شروط حوكمة: توثيق، اختبار، مشاركة، اعتراض، تقليل بيانات، وربما إيقاف استخدام في سياقات معينة.
إذا كان الأثر متوسطًا، ركز على البدائل وقابلية الوصول. إذا كان منخفضًا، ركز على الخصوصية والتثقيف وحدود الاعتماد.
أمثلة قرار
- مقابلة عمل آلية تقيس الوجه والصوت: خطر حرج، يجب رفضها أو إيقاف إشارات السلوك.
- أداة تلخيص محاضرات اختيارية: خطر متوسط أو منخفض حسب البيانات والبدائل.
- chatbot دعم عام يجمع محادثات حساسة: خطر متوسط إلى عال، يحتاج سياسة بيانات وبديل بشري.
- أداة AAC تجمع سجلات تواصل للتدريب: خطر عال، تحتاج موافقة قوية وتقليل بيانات.
مخرج عملي
اكتب لكل خطر: “نقبل فقط إذا…” أو “نرفض لأن…”. لا تترك النتيجة في منطقة رمادية.