بطاقة تقييم أداة AI
استخدم هذه البطاقة عندما تكون أمام أداة محددة: منصة توظيف، أداة تعليم، تطبيق دعم، نظام مراقبة، أداة AAC، chatbot، أو نظام يستخدمه مزود خدمة.
1. تعريف الأداة
- اسم الأداة:
- الجهة المالكة أو المشغلة:
- أين ستُستخدم؟
- من سيتأثر بها؟
- هل الاستخدام اختياري أم إلزامي؟
- هل توجد طريقة غير آلية للحصول على نفس الخدمة؟
2. وظيفة AI
اختر الوصف الأقرب:
- توليد نص أو صورة أو صوت.
- تصنيف شخص أو طلب أو سلوك.
- توقع نتيجة أو خطر أو حاجة.
- مراقبة وجه أو صوت أو حركة أو استخدام.
- دعم قرار بشري.
- أتمتة قرار كامل.
إذا لم تستطع الجهة تحديد الوظيفة، فهذه علامة خطر. كلمة AI وحدها لا تكفي.
3. البيانات
- ما البيانات التي تجمعها الأداة؟
- هل تشمل صوتًا، صورة، وجهًا، حركة، نصوصًا شخصية، سجلات تواصل، موقعًا، أو معلومات صحية؟
- أين تُخزن البيانات؟
- من يستطيع الوصول إليها؟
- هل تُستخدم للتدريب أو التحسين؟
- هل يمكن حذفها؟
- هل يمكن استخدام الخدمة دون مشاركة بيانات حساسة؟
4. أثر خاص بالتوحد
اسأل تحديدًا:
- هل يمكن أن تسيء الأداة تفسير تجنب النظر؟
- هل يمكن أن تسيء تفسير الصمت أو الرد البطيء؟
- هل يمكن أن تضر مستخدمي AAC؟
- هل يمكن أن تعاقب الحركة أو النبرة أو التعبير غير النمطي؟
- هل تضغط على الشخص كي يخفي اختلافه؟
- هل تزيد العبء الحسي أو الإداري؟
5. المشاركة
- هل شارك أشخاص توحديون في تعريف المشكلة؟
- هل شاركوا في اختبار الواجهة؟
- هل كان لهم تأثير موثق على القرار؟
- هل حصلوا على أجر أو دعم أو وقت كاف؟
- هل شملت المشاركة تنوعًا في اللغة، الجندر، الثقافة، العمر، واحتياجات الدعم؟
6. الشفافية والاعتراض
- هل يعرف الشخص أن AI مستخدم؟
- هل توجد لغة مفهومة تشرح الغرض والحدود؟
- هل يستطيع الشخص طلب تفسير؟
- هل يستطيع الاعتراض؟
- هل توجد مراجعة بشرية لها سلطة تغيير القرار؟
- هل توجد جهة مسؤولة معروفة؟
7. قرار أولي
اختر واحدًا:
- مقبول بشروط واضحة.
- يحتاج تعديلًا قبل الاستخدام.
- يحتاج اختبار مشاركة ووصول.
- يحتاج تحققًا قانونيًا أو أخلاقيًا.
- غير مناسب لهذا السياق.
مخرج البطاقة
اكتب خلاصة من خمس جمل:
- الأداة تستخدم AI من أجل…
- الأشخاص المتأثرون هم…
- أعلى مخاطرها في سياق التوحد هي…
- شروط استخدامها المسؤول هي…
- القرار المقترح هو…