هذه السيناريوهات ليست أحكامًا نهائية على أدوات بعينها. هي تمارين عملية لتطبيق شجرة القرار ومصفوفة المخاطر في سياقات متكررة.
1. التوظيف: مقابلة فيديو آلية
الحالة: شركة تستخدم منصة مقابلات فيديو تقول إنها تحلل الصوت والوجه وسرعة الرد لتقدير ملاءمة المرشح.
الخطر: قد تسيء الأداة تفسير النبرة، فترات الصمت، تجنب النظر، الحركة، أو طريقة التعبير. في التوظيف، الخطأ قد يحرم الشخص من فرصة عمل. الخطر يصبح حرجًا إذا لم توجد مراجعة بشرية حقيقية أو بديل غير آلي.
الأسئلة:
- هل تُستخدم إشارات الوجه أو الصوت أو العين أو الحركة في التقييم؟
- هل يستطيع المرشح اختيار مقابلة بشرية أو نصية؟
- هل يعرف المرشح أن AI مستخدم؟
- هل يستطيع الاعتراض ومعرفة سبب الرفض؟
- هل اختُبرت الأداة مع أشخاص توحديين متنوعين؟
القرار: رفض استخدام التحليل السلوكي في الفرز أو التقييم. يمكن تعديل العملية فقط إذا أُزيلت هذه الإشارات من القرار، ووفرت الشركة طرق تقييم متعددة، ومراجعة بشرية بسلطة فعلية، وشفافية واضحة.
2. التعليم: نظام يراقب الامتحان بالكاميرا
الحالة: جامعة تستخدم نظام مراقبة امتحانات يضع علامات خطر عند الحركة، النظر بعيدًا، أو مغادرة إطار الكاميرا.
الخطر: قد يحوّل النظام الاختلافات الحسية والحركية والحاجة إلى تنظيم الذات إلى اشتباه. وقد يفرض كاميرا وبيئة حسية مرهقة، خصوصًا للطلاب الذين يحتاجون إلى حركة أو فترات معالجة.
الأسئلة:
- هل الاستخدام إلزامي؟
- هل توجد ترتيبات وصول بديلة دون عقوبة؟
- هل تُخزن فيديوهات الطلاب؟ وكم المدة؟
- من يراجع العلامات؟ وهل يستطيع إلغاءها؟
- هل يستطيع الطالب الاعتراض قبل اتخاذ إجراء تأديبي؟
القرار: تعديل أو رفض بحسب البدائل. إذا كان النظام إلزاميًا ويؤثر في نتيجة أو إجراء تأديبي بلا اعتراض فعلي، فالقرار هو الرفض أو التصعيد المؤسسي. إذا وُجد بديل قابل للوصول ومراجعة بشرية وحق اعتراض، يمكن استخدامه بشروط محدودة جدًا.
3. AAC: تطبيق تواصل يستخدم AI للتنبؤ بالكلمات
الحالة: تطبيق AAC يقترح كلمات وجمل، ويطلب رفع سجلات تواصل لتحسين النموذج.
الخطر: سجلات التواصل شديدة الخصوصية. قد تكشف العلاقات، الاحتياجات، المشاعر، الصحة، المدرسة، العمل، أو الدعم اليومي. كما قد تؤدي النماذج غير المتوافقة بين الشركات إلى عزل المستخدمين أو سوء تفسير لغوي وثقافي.
الأسئلة:
- هل يمكن استخدام التطبيق دون رفع سجلات التواصل؟
- هل تُستخدم البيانات لتدريب النموذج؟
- هل يستطيع المستخدم حذف السجلات وتصديرها؟
- هل تعمل الاقتراحات بلغات ولهجات وسياقات ثقافية مختلفة؟
- هل شارك مستخدمو AAC توحديون في التصميم والاختبار؟
القرار: استخدام مشروط أو تعديل قبل الاستخدام. الشرط الأساسي: تحكم المستخدم في البيانات، عدم تدريب النموذج على سجلاته دون موافقة واضحة، خيار استخدام محلي أو بيانات قليلة، قابلية حذف وتصدير، واختبار وصول مع مستخدمين فعليين.
4. رعاية أو دعم: مساعد AI يقترح خطوات دعم يومية
الحالة: جهة دعم تستخدم مساعدًا آليًا لتلخيص ملاحظات اليوم واقتراح خطوات للداعمين.
الخطر: قد يزيد الاعتماد على الأداة ويقلل دور الشخص نفسه أو شبكة الدعم البشرية. قد تتحول الملاحظات اليومية إلى ملف مراقبة. وقد تُستخدم البيانات لاحقًا لتقليل دعم أو تبرير قرار إداري.
الأسئلة:
- هل يعرف الشخص ما الذي يُكتب عنه؟ وهل وافق؟
- هل يستطيع تصحيح الملاحظات أو رفض إدخالها؟
- هل تستخدم الأداة بيانات حساسة أو صحية؟
- هل التوصيات مساعدة فقط أم تتحول إلى قرار؟
- من يراجع التوصية؟ ومن يستطيع إيقافها؟
القرار: تعديل قبل الاستخدام. لا تُستخدم الأداة لاتخاذ قرارات دعم دون مراجعة بشرية ومشاركة الشخص قدر الإمكان. يجب تقليل البيانات، توضيح الغرض، منع الاستخدام الإداري الثانوي بلا موافقة، وتوثيق أن المخرجات اقتراحات لا أوامر.
5. مناصرة: فريق يستخدم AI لتلخيص قانون أو سياسة
الحالة: مجموعة ناشطين تستخدم أداة توليدية لتلخيص وثيقة عن AI وإعداد أسئلة لحملة.
الخطر: قد يخلط النموذج بين نصوص قانونية، أو يضيف ادعاءات غير موجودة، أو يصيغ موقفًا يبدو نهائيًا دون تحقق. الخطر يزيد إذا نُشرت معلومات قانونية بلا مصدر رسمي.
الأسئلة:
- هل زُودت الأداة بالمصدر الذي نريد تلخيصه؟
- هل طُلب منها عدم إضافة معلومات من خارج المصدر؟
- هل وُسمت النقاط التي تحتاج تحققًا؟
- هل راجع شخص من الفريق الناتج؟
- هل راجع أشخاص متأثرون الرسالة السياسية قبل النشر؟
القرار: استخدام مساعد فقط. يمكن استخدام AI للتلخيص وصياغة أسئلة أولية، لكنه لا يُعد مصدرًا مستقلًا ولا بديلًا عن مراجعة بشرية. أي كلام عن EU AI Act أو European Accessibility Act أو التزامات قانونية يجب ربطه بالمصدر الرسمي عند استخدامه كادعاء قانوني أو سياسة ملزمة.
6. مؤسسة عامة: أداة فرز طلبات خدمة
الحالة: جهة عامة تستخدم نظامًا لتصنيف طلبات دعم أو خدمات اجتماعية بحسب “الأولوية” أو “الخطر”.
الخطر: قد تؤثر الأداة في حق أو خدمة أساسية. إذا تعلمت من سجلات تاريخية متحيزة، فقد تعيد إنتاج تمييز سابق ضد الأشخاص التوحديين أو ذوي احتياجات الدعم غير النمطية. قد تكون البيانات واسعة وحساسة.
الأسئلة:
- ما البيانات المستخدمة في التصنيف؟
- هل يعرف مقدم الطلب أن AI مستخدم؟
- هل يستطيع تقديم معلومات بطريقة تناسبه: نص، دعم، AAC، وقت إضافي؟
- هل توجد مراجعة بشرية قادرة على تغيير القرار؟
- هل فُحص أثر النظام على الأشخاص التوحديين وذوي الإعاقة؟
- هل يوجد بديل أو مسار اعتراض واضح؟
القرار: تصعيد ومراجعة أثر قبل الاستخدام أو التوسع. في الخدمات العامة، لا يكفي الادعاء بالكفاءة. يجب وجود شفافية، تقييم أثر، اختبار وصول، مشاركة موثقة للأشخاص المتأثرين، تقليل بيانات، ومراجعة بشرية. أي ادعاء قانوني أوروبي يجب ربطه بالمصدر الرسمي عند استخدامه كادعاء قانوني أو سياسة ملزمة.
جدول سريع
| السيناريو | مستوى الخطر المرجح | القرار الافتراضي |
|---|---|---|
| مقابلة فيديو تحلل السلوك | حرج | رفض أو إزالة التحليل السلوكي |
| مراقبة امتحان بالكاميرا | عال إلى حرج | تعديل صارم أو رفض |
| AAC يجمع سجلات تواصل | عال | استخدام مشروط بخصوصية قوية |
| مساعد دعم يومي | متوسط إلى عال | تعديل وحوكمة ومراجعة بشرية |
| AI في المناصرة | منخفض إلى متوسط | استخدام مساعد مع تحقق بشري |
| فرز خدمة عامة | عال إلى حرج | تصعيد وتقييم أثر |
تمرين تطبيقي
اختر سيناريو واحدًا واكتب ثلاث جمل:
- الضرر المحتمل يقع لأن…
- لا نقبل الاستخدام إلا إذا…
- إذا لم تتوفر الشروط، فالقرار هو…