منهجية أريج لتحقيقات الذكاء الاصطناعي

المفهوم:

تتناول التحقيقات حول تقنيات الذكاء الاصطناعي أثر استخدامها في الإنسان والبيئة. وفي هذا النوع من التحقيقات يُشكل الذكاء الاصطناعي موضوع التحقيق لا أداته. لا تشمل هذه المنهجية التحقيقات التي تتناول موضوعات مغايرة، وتستخدم فيها أدوات الذكاء الاصطناعي لغايات البحث والحصول على بيانات أو تحليلها أو كتابة النصوص؛ فالذكاء الاصطناعي في تلك الحالة هو الأداة وليس الموضوع.

الفرضية:

تنسجم فرضية التحقيقات التي تتناول الذكاء الاصطناعي مع مفهوم وهيكل فرضية التحقيقات الاستقصائية عموماً التي تعتمدها شبكة أريج، بوجود الفعل (الضرر) والفاعل (المتسبب بالضرر) والمفعول به (المتضرر). لكن ما يميز هذه التحقيقات عن غيرها هو وجود عناصر أساسية تتصل بجوهر الفرضية، ومن الضروري فهمها وتحديدها.

عناصر أساسية تتصل بالفرضية:

تُحدَّد هذه العناصر عند تقديم المقترح؛ إذ تعكس مدى فهم الصحفي/ الصحفية موضوع التحقيق، كما أنها تغطي الركيزتين الأساسيتين اللتين تقوم عليهما أدوات الذكاء الاصطناعي، وهما: البيانات والحوسبة. وتشير الحوسبة إلى البنية التحتية اللازمة لاستخدام هذه التقنيات، مثل مراكز البيانات وما تحتويه من مكونات، من بينها –على سبيل المثال لا الحصر– المعالجات المُستهلِكة للطاقة، ووحدات التبريد التي يتطلب تشغيلها توفر المياه. وترتبط هذه البنية التحتية بطرف واحد أو أكثر من الفاعلين.

1. الفاعلون

من المهم تحديد الأطراف في هذا السياق، وفهم طبيعة العلاقة بينها منذ البداية، وذلك لغايات تحديد المسؤول ونوع الضرر والمتضرر. وينقسم الفاعلون إلى:

الجهات المطوِّرة

وهي التي تطور أو تنتج الأداة/ البرنامج/ المنتج المعتمد على إحدى تقنيات الذكاء الاصطناعي، ومن تلك الجهات؛ الشركات، وقد تمتلك القدرة على ابتكارها بمعزل عن الدعم المالي الحكومي. وقد يطور الأكاديميون أيضاً تلك التقنيات، ويمكن أن تقوم وكالات أو أجهزة حكومية متخصصة بتطويرها.

الجهة المستفيدة التي تُنتج التقنية لصالحها، وتستخدمها لأغراضها الخاصة

وقد تكون شركة/ جهازاً حكومياً/ مؤسسة أكاديمية.

طرف ثالث

يقدم الدعم لإحدى الجهات السابقة، ويكون غالباً من مقدمي الخدمات المختلفة؛ منها تقديم الخدمات السحابية مثل تخزين البيانات، وقد يقدم هذا الطرف البنية التحتية الضرورية كمراكز البيانات والمعالجات وغيرها. كما تشمل من يقدم خدمات الدعم التقني وخدمات الحماية السيبرانية أو خدمات التحليل.

2. الطرف المتضرر

وهم الأشخاص/ الهيئات الواقع عليهم الضرر سواء كانوا مستخدمين أم عاملين في هذا المجال.

3. الآلية

لا بد من فهم الآلية للتقنية التي تعتمدها الأداة، فقد تكون للضرر صلة مباشرة بها، يساعد ذلك على فهم طبيعة الأضرار التي قد تنتج عن الاستخدام.

كما تُعدّ معرفة ما إذا كان النظام قد خضع للاختبار قبل تطبيقه مسألة بالغة الأهمية، وكذلك التأكد من وجود تدخل بشري لمراجعة التقنية وتقييم نتائجها؛ إذ إن غياب هذه الإجراءات يكشف عن خلل أو ثغرة، خاصة إذا تسببت التقنية في أضرار.

4. البيانات

تنقسم البيانات إلى فئتين: الأولى تُستَخدم لتدريب نماذج التعلّم الآلي أو التعلم العميق، والثانية تُجمع من المستخدمين أثناء الاستخدام الفعلي للتقنية، وتُحفظ لأغراض التطوير أو لاستخدامات أخرى. وفي هذا الجزء، من المهم توضيح ما يلي:

طبيعة البيانات

تساعد على تحديد نوع الضرر الواقع على الإنسان، وتقييم درجة الخطورة، وأشكال الضرر الأخرى المحتملة. ومن تلك البيانات:

بيانات بيومترية (بصمة العين، بصمات الأصابع وغيرها): تقود إلى ضرر كبير عند إساءة استخدامها أو عدم حمايتها.
مواقع جغرافية (إحداثيات الموقع الفعلي للمستخدم).
بيانات شخصية (السن، نوع الجنس، سنة الولادة… إلخ).
تفضيلات في المنتجات.
محادثات.

مصدر البيانات

من الضروري تحديد مصدر البيانات المُستخدمة في عملية التعلّم؛ هل هي بيانات تملكها الشركة المطوِّرة نفسها، بما يعني أن جمعها مرتبط مباشرة باستخدام التطبيق أو البرنامج؟ أم أنها بيانات مقدَّمة من جهة حكومية؟ ويقود ذلك إلى جملة من التساؤلات، من بينها: هل المستخدم على دراية بطبيعة البيانات التي تشاركها الجهات الحكومية مع الشركة المطوِّرة؟ وفي حالات أخرى، هل تقوم الشركة بجمع بيانات المستخدمين بشكل مباشر؟ وهل يتم ذلك بناءً على موافقة صريحة؟ وهل تُشارك هذه البيانات مع أطراف أخرى، أم يتم الاحتفاظ بها لفترات زمنية طويلة؟

حجم البيانات و الفئات التي تشملها

يساعد تحديد حجم البيانات المستخدم في تطوير الأداة/ المنتج على تقدير مستوى الضرر واتساع نطاقه؛ إذ يوضح ما إذا كان الضرر يشمل كامل سكان دولة ما، عندما تكون التقنية بيد جهة حكومية، أم يقتصر على موظفين في قطاع محدد، أم يمتد إلى شريحة واسعة من المستخدمين، أو يظل محصوراً في فئة ضيقة منهم.

كما أنه من المهم معرفة الفئات المشمولة في البيانات، وهذا يبرز طبيعة التمثيل للشرائح التي ستتأثر بنتائج استخدام الأداة/ البرنامج/ المنتج. وغياب التمثيل المناسب للشرائح المُطبق عليها الاستخدام، يعكس خللاً في النتيجة أو يتسبب بإقصاء شريحة دون أخرى.

5. الضرر

قد يرتبط بالإنسان أو بالبيئة وله عدة أوجه منها:

حقوق مستخدمين

خرق الخصوصية: ويفيد هنا التحقق من سياسة الخصوصية المعلنة.
الأمن والسلامة (أين تذهب البيانات وبماذا تستخدم ومن يحصل عليها).
حقوق العاملين في هذا المجال (حقوق إنسان، قضايا عمالية)
الاستهداف بمحتوى مضلل أو زائف في مواقع التواصل الاجتماعي.
الانحياز والإقصاء.
عقود الإذعان.

ضرر بيئي

فرط استهلاك المياه، تلويث البيئة بالمعادن الثقيلة، الطاقة، الانبعاثات، استغلال أراضٍ ذات طبيعة زراعية.

أمثلة على مجالات التحقيق المحتملة في قضايا مرتبطة بالذكاء الاصطناعي:

التوظيف والعدالة الخوارزمية:

مثل فرز السير الذاتية، تقييم الفيديو، اختبارات الشخصية المؤتمتة.

الشرطة والعدالة الجنائية:

أنظمة الرقابة؛ مثل التعرف إلى الوجوه، التنبؤ بالجريمة، التقييم الآلي للمخاطر.

الاستخدام في التقنيات العسكرية والحروب:

(مثال استهداف مدنيين وتحديد أهداف القتل).

الرعاية الصحية:

مثل التشخيص، فرز المرضى، التنبؤ بوقوع الأوبئة.

القطاع العام والمنافع الاجتماعية:

ومنها استخدام الخوارزميات القائمة على الذكاء الاصطناعي للتسبب في حرمان أشخاص من حقوقهم أو من الاستفادة من خدمات أساسية، مثل المعونات أو الرواتب التقاعدية أو فرص التعليم أو التأمين الصحي.

التعليم:

منصات المراقبة، تصحيح تلقائي، تقييم مؤتمت.

الإعلان والتضليل:

مثل توصية المحتوى، الإعلان الموجّه، التلاعب بالمعلومات.

الأمن والمراقبة:

مثل كاميرات "ذكية"، تحليلات السلوك، تتبع الأجهزة.

المحتوى التوليدي:

مثل إنتاج مواد مزيفة (صور/فيديو)، انتحال الصوت، النشر الآلي.

حقوق الإنسان:

مثل حق الإنسان في الخصوصية (جمع المعلومات الخاصة، الحق في النسيان).

استخدام الذكاء الاصطناعي في أغراض غير معلنة:

(مدنية أو أمنية).