أهم مساهمة في دليل AIRA ليست تعداد المخاطر فقط، بل ربطها بالسلطة. قد يكون الخطأ التقني مزعجًا في تطبيق عادي، لكنه قد يصبح ضررًا حقيقيًا إذا استُخدم في التوظيف، التعليم، الهجرة، الرعاية، أو الخدمات العامة.
سوء تفسير التواصل والحركة
أنظمة AI التي تقرأ الوجه، الصوت، التواصل البصري، الحركة، أو النبرة قد تسيء فهم الأشخاص التوحديين. الخطر أن تتحول اختلافات التواصل إلى مؤشرات زائفة عن الصدق، الكفاءة، الملاءمة، أو “السلوك الطبيعي”.
هذه المخاطر تزيد عندما يُستخدم النظام في مقابلات عمل، مراقبة امتحانات، تقييم خدمة، أمن، هجرة، أو رعاية. في هذه السياقات لا يكون الخطأ مجرد إزعاج، بل قد يغير فرصة أو حقًا أو سلامة.
التحيز المؤسسي
AI لا يبدأ من فراغ. إذا بُني على بيانات ومؤسسات تحمل تحيزًا ضد الأشخاص المختلفين عصبيًا، فقد يعيد إنتاج هذا التحيز بشكل أسرع وأقل وضوحًا. لذلك لا يكفي فحص النموذج تقنيًا؛ يجب فحص السياق الذي سيُستخدم فيه.
مثال: إذا كانت مؤسسة التوظيف تفضّل تاريخيًا مرشحين يتواصلون بأسلوب محدد، فإن نموذجًا يتعلم من قراراتها السابقة قد يجعل هذا التفضيل يبدو موضوعيًا.
التطبيع القسري
الخطر الأكبر أن تُستخدم الأدوات لتشجيع الأشخاص التوحديين على إخفاء سماتهم أو تقليد نمط تواصل ضيق. الأداة التي تجعل “الاندماج” يعني محو الاختلاف ليست أداة شمولية، حتى لو بدت مفيدة ظاهريًا.
التمييز هنا مهم: أداة تساعد الشخص على اختيار طريقة تواصل يريدها قد تكون مفيدة. أداة تقيس نجاحه بمدى اقترابه من معيار غير توحدي تخلق ضغطًا مؤذيًا.
البيانات الحساسة
قد تجمع أدوات التواصل أو الدعم اليومي بيانات شديدة الحساسية: سجلات تواصل، عادات، احتياجات دعم، أو معلومات صحية وسلوكية. يجب أن يكون هناك حد أدنى من جمع البيانات، موافقة واضحة، وحق في الحذف أو عدم الاستخدام.
الخطر لا ينتهي عند “إخفاء الاسم”. أنماط الكتابة أو الصوت أو الاستخدام أو الموقع قد تكشف الشخص أو احتياجاته. لذلك يجب سؤال الجهة عن إعادة التعرف، مشاركة البيانات، وتدريب النماذج.
الاعتماد الزائد
عندما تُستخدم أدوات AI في الرعاية أو الدعم، قد يميل بعض المستخدمين أو المؤسسات إلى تقليل دور الشخص نفسه أو الداعمين أو المهنيين. أي قرار عالي الأثر يحتاج مراجعة بشرية حقيقية وحق اعتراض.
إشارات حمراء
- الأداة تدعي فهم النية أو الصدق من الوجه أو الصوت.
- لا يوجد بديل غير آلي.
- لا يعرف الشخص أن AI مستخدم.
- لا توجد طريقة اعتراض.
- تجمع الأداة بيانات أكثر مما تشرح.
- تقول المؤسسة إن “المراجعة البشرية” موجودة دون شرح سلطتها.
- لم يشارك أشخاص توحديون في التصميم أو الاختبار.
أولوية التصعيد
ابدأ بالتصعيد عندما يجتمع ثلاثة عناصر: قرار عالي الأثر، بيانات حساسة، وغياب الاعتراض. هذه ليست حالة تحسين واجهة، بل حالة حوكمة وحقوق.
أداة مساعدة
استخدم مصفوفة المخاطر لتحويل كل خطر إلى طلب واضح.