بناء السلام في عقول الرجال والنساء

إعداد توصية بشأن أخلاقيات الذكاء الاصطناعي

أنتم والذكاء الاصطناعي ...

ي يومنا هذا، يُسهم الذكاء الاصطناعي في حياة مليارات الأشخاص، وفي بعض الأحيان يكون دوره غير ملحوظ ولكنه ذو تأثير كبير، فهو يدخل تغييرات على مجتمعاتنا ويدفعنا إلى إعادة النظر في مفهومنا للإنسان.

ويمكن للذكاء الاصطناعي مساعدة ملايين الطلاب على إكمال دراستهم الثانوية، وملء 3.3 ملايين وظيفة إضافية، كما يمكنه المساعدة في التصدي لانتشار جائحة "كوفيد-19" ولعواقبها على وجه السرعة. ولكن هناك وجه آخر للميزات التي تحملها هذه التكنولجيات، يتمثل في المخاطر والصعوبات التي تنتج عن إساءة استخدام التكنولوجيا أو عن تعمّق الفجوات وأوجه عدم المساواة.

ذلك نحن بحاجة إلى صياغة سياسات ووضع أطر تنظيمية دولية ووطنية، بغية ضمان عودة هذه التكنولوجيات الناشئة بالنفع على البشرية بأسرها.   

ونحتاج أيضاً إلى ذكاء اصطناعي يتمحور حول الإنسان، إذ يجب أن يكون الذكاء الاصطناعي ذا فائدة كبرى للبشر وليس العكس.

ولذلك تقترح اليونسكو صياغة وثيقة تقنينية عالمية شاملة بغية تأسيس الذكاء الاصطناعي على قاعدة أخلاقية راسخة، لن تحمي حقوق الإنسان والكرامة الإنسانية وحسب، وإنما ستعززها أيضاً. وبمجرد اعتماد هذه الوثيقة، ستكون بمثابة بوصلة أخلاقية وأساس تقنيني عالمي راسخ يفسح المجال أمام إرساء أسسس متينة لاحترام سيادة القانون في العالم الرقمي.

 

خمس معلومات عن الذكاء الاصطناعي

  • أثبت الذكاء الاصطناعي أهميته في مواجهة جائحة كوفيد-19

فهو يُسهم في التخفيف من الأثر الاقتصادي للأزمة بفضل المنصات الرقمية، ويساعد الباحثين في معالجة كميات هائلة من البيانات التي تفيدهم في السباق للتوصل إلى لقاح أو علاج. وقد ساهم الذكاء الاصطناعي في احتواء انتشار الفيروس من خلال الاختبار وتكنولوجيات التعقب والتتبع. ولكن مع إعطاء الناس الإذن بالاطلاع على بياناتهم، أثار استخدام الذكاء الاصطناعي في أثناء هذه الأزمة مجدداً شواغل تتعلق بالخصوصية وحماية البيانات، واستخدامها في أمور بعيدة عن تتبع الفيروس.

  • من المرجح أن يكون النمو القائم على الذكاء الاصطناعي متفاوتاً إلى درجة كبيرة

من المتوقع أن تصل القيمة المضافة الناتجة عن الذكاء الاصطناعي في عام 2022 إلى ما يقارب 4 تريليونات دولار أمريكي. ومن المتوقع بحلول عام 2030، أن تكون الأرباح التي تحققها الصين وأمريكا الشمالية أكبر، حيث ستمثل 70% من الأثر الاقتصادي العالمي للذكاء الاصطناعي؛ فالذكاء الاصطناعي يعمل بمبدأ "الفائز يحصل على كل شيء"، ولذلك يجب وضع ضوابط له، فمن المرجح أن ينتج عن تركيز تكنولوجيا الذكاء الاصطناعي في أيدي عدد ضئيل من البلدان المرتفعة الدخل، تخلف البلدان النامية عن الركب، فهي لن تستفيد من هذه التكنولوجيات، أو قد تستفيد منها بمقدار ضئيل جداً، ولن تكون قادرة على امتلاكها.

  • يتسبب الذكاء الاصطناعي في توسيع الفجوة القائمة بين الجنسين

تمثل النساء نسبة 22% من مجمل المهنيين العاملين في مجال الذكاء الاصطناعي، وبما أنهنّ لا تحظين بالتمثيل الكافي في هذا القطاع، يظهر التحيز الجنساني والقوالب النمطية في تكنولوجيات الذكاء الاصطناعي، فليس من قبيل المصادفة أن يكون الخيار الافتراضي في الأجهزة الإلكترونية مبرمجاً على المساعدات الشحصيات الافتراضيات مثل سيري وأليكسا وكورتانا؛ وما الخنوع وأحياناً الخضوع الذي تعرب عنه هؤلاء المساعدات إلا مثال عن كيفية تعزيز الذكاء الاصطناعي التحيز الجنساني، أو استمراره في تعزيزه ونشره في مجتمعاتنا.

  • يمكن أن يكون الذكاء الاصطناعي أداة هامة في معالجة تغير المناخ والمشكلات البيئية

يزداد تأثير تغير المناخ سوءاً مع استمرار ارتفاع درجة حرارة كوكب الأرض، وقد تساعد النماذج القائمة على الذكاء الاصطناعي، من خلال جمع البيانات وتحليلها، في تحسين إدارة النظام الإيكولوجي وإصلاح الموائل، وهما أمران أساسيان في الحدّ من تراجع أعداد الأسماك والأحياء البرية. ولكن عملية استخراج البيانات تستهلك تقريباً 10% من الطاقة على صعيد العالم، ولذلك من الضروري التصدي لاستهلاك الذكاء الاصطناعي المرتفع للطاقة وما ينتج عنه من انبعاثات الكربون.

  • لا يمكن أن يكون الذكاء الاصطناعي منطقة خارجة عن نطاق القانون

إنّ الذكاء الاصطناعي حاضر في حياتنا ويوجه خياراتنا، وغالباً ما يقوم بذلك بطريقة مؤذية، وهناك بعض الفجوات التشريعية في هذا المجال التي يتوجب سدّها على وجه السرعة؛ حيث سيُتفق في المرحلة الأولى بدقة على القيم التي يتوجب إدراجها في القوانين، وعلى القواعد التي يتوجب إنفاذها، فهناك العديد من الأطر والمبادئ التوجيهية، ولكنها لا تطبق بالتساوي، ولا يتمتع أي منها بنطاق عالمي فعلي؛ وبما أنّ تكنولوجيا الذكاء الاصطناعي عالمية، نحتاج إلى تنظيمها بواسطة وثيقة تقنينية عالمية.

التوصية

استهلت اليونسكو عامين من التحضيرات لإعداد أول وثيقة تقنينية عالمية لأخلاقيات الذكاء الاصطناعي، وذلك بموجب قرار اعتمده المؤتمر العام لليونسكو في دورته الأربعين التي عُقدت في شهر تشرين الثاني/نوفمبر 2019.

وسينصبّ التركيز خلال عام 2020، على إعداد مشروع نص التوصية بمساعدة فريق خبراء خاص، وستتضمن هذه المرحلة مشاورات شاملة ومتعددة الاختصاصات مع مجموعة كبيرة من الأطراف المعنية، ولهذه المشاورات الموسعة أهمية بالغة في ضمان أن يكون مشروع نص التوصية شاملاً قدر الإمكان.

وسينصبّ التركيز في أواخر عام 2020 وخلال عام 2021، على عملية دولية حكومية ومفاوضات على صياغة مشروع نص التوصية بغية إصدار النسخة النهائية منه، حيث من الممكن أن يعتمده المؤتمر العام لليونسكو في دورته الحادية والأربعين التي ستُعقد في أواخر عام 2021.

ويستند عمل اليونسكو في إعداد التوصية إلى الدراسة الأولية لأخلاقيات الذكاء الاصطناعي التي اضطلعت بها اللجنة العالمية لأخلاقيات المعارف العلمية والتكنولوجية التابعة لليونسكو، وسلّطت هذه الدراسة الضوء على الغياب الحالي لوثيقة عالمية تشمل جميع المجالات التي تقود تطور الذكاء الاصطناعي وتطبيقاته في إطار نهج محوره الإنسان.

وتعرب اليونسكو عن تقديرها لشركائها الذين أسهموا في عملية صياغة توصية بشأن أخلاقيات الذكاء الاصطناعي وقدموا دعمهم لها.

تنقيح مشروع توصية بشأن أخلاقيات الذكاء الاصطناعي

عمل الفريق الدولي الذي يتألف من 24 خبيراً عينتهم اليونسكو من أجل صياغة مشروع نص توصية بشأن أخلاقيات الذكاء الاصطناعي، عن طريق الإنترنت خلال الفترة الممتدة من 31 آب/أغسطس إلى 4 أيلول/سبتمبر 2020، بغية تنقيح الصيغة الأولية لمشروع نص التوصية التي أصدرها الفريق في شهر أيار/مايو الفائت.

وبعد إجراء عملية تشاور موسعة ومتعددة الأطراف خلال الأشهر الثلاثة الماضية، جُمعت تعليقات وانطباعات وإسهامات مستفيضة وأُدرجت في الصيغة الأولية لمشروع نص التوصية، وقام فريق الخبراء الخاص، في ضوء هذه الإسهامات بإعداد صيغة أولية منقحة لمشروع نص توصية بشأن أخلاقيات الذكاء الاصطناعي، وإحالتها إلى الدول الأعضاء في أيلول/سبتمبر 2020، لإبداء الرأي فيها حتى تاريخ 31 كانون الأول/ديسمبر 2020.

عملية تشاور متعددة الأطراف المعنية 

Tحصل تطور كبير في الصيغة الأولية لمشروع نص توصية بشأن أخلاقيات الذكاء الاصطناعي، التي أعدها فريق الخبراء الخاص في أيار/مايو 2020، بعد إجراء عملية تشاور موسعة ومتعددة الأطراف المعنية عن طريق الإنترنت، خلال الفترة التي امتدت من نهاية حزيران/يونيو إلى بداية آب/أغسطس 2020؛ وساهمت هذه المشاورات بصورة رئيسية في إعداد مشروع نص شامل وجامع ومتعدد، سيستقطب مصالح واهتمام وآراء مختلف الأطراف المعنية المنخرطة في مجال الذكاء الاصطناعي.

وقد اجتمع الشركاء من جميع أنحاء العالم مع اليونسكو، بغية تنظيم عملية تشاور تستند إلى العناصر الثلاثة التالية:

وقد أخذ فريق الخبراء الخاص في الحسبان المجموعة المتنوعة من وجهات النظر التي جُمعت في أثناء المشاورات، عند مراجعته مشروع النص خلال الفترة التي امتدت من 31 آب/أغسطس حتى 4 أيلول/سبتمبر 2020. .

فريق الخبراء الخاص

وعُقدت حلقات نقاش افتراضية  بين 20 و24 نيسان/أبريل 2020، وحضرها أكثر من 40 مراقب من الدول الأعضاء والوكالات التابعة للأمم المتحدة وغيرها من الهيئات الدولية الحكومية، وقدموا إلى فريق الخبراء الخاص آراءهم الخطية. ونتج عن هذا العمل إصدار الصيغة الأولية لمشروع نص التوصية الذي أعده فريق الخبراء الخاص في أيار/مايو 2020، وخضعت لعملية تشاور موسعة ومتعددة الأطراف المعنية خلال الفترة التي امتدت من نهاية شهر حزيران/يونيو حتى أوائل شهر آب/أغسطس 2020.

وقد شرع فريق الخبراء الخاص من منتصف شهر آب/أغسطس، بمراجعة الآراء التي جُمعت من عملية التشاور الموسعة والمتعددة الأطراف المعنية، وعقد اجتماعاً عن طريق الإنترنت خلال الفترة التي امتدت من 31 آب/أغسطس حتى 4 أيلول/سبتمبر 2020، بغرض تنقيح الصيغة الأولية لمشروع نص التوصية. وقد سجل لمراقبة الاجتماع خلال هذا الأسبوع، أكثر من 100 مراقب من 43 دولة عضواً ومن الوكالات التابعة للأمم المتحدة وغيرها من الهيئات الدولية الحكومية ومن المنظمات غير الحكومية.

وتكلل عمل الفريق بوضع اللمسات الأخيرة على المشروع الأولي للتوصية في 7 أيلول/سبتمبر 2020.

وهي متاحة أيضاً باللغة الفرنسية.

 

العمل الافتراضي لفريق الخبراء الخاص (من آذار/مارس إلى أيار/مايو 2020)

أنجز فريق الخبراء الخاص المرحلة الأولى من عمله عبر الإنترنت خلال الفترة الممتدة من نهاية شهر آذار/مارس حتى بداية شهر أيلول/سبتمبر 2020، بسبب الظروف الاستثنائية العائدة إلى تفشي جائحة "كوفيد-19".

وقُدمت إليهم وثيقة عمل المعلومات الأساسية لتكون نقطة انطلاق لعمليات التفكير.

وعُقدت حلقات نقاش افتراضية بين 20 و24 نيسان/أبريل 2020، وحضرها أكثر من 40 مراقب من الدول الأعضاء والوكالات التابعة للأمم المتحدة وغيرها من الهيئات الدولية الحكومية، وقدموا إلى فريق الخبراء الخاص آراءهم الخطية. ونتج عن هذا العمل إصدار الصيغة الأولية لمشروع نص التوصية الذي أعده فريق الخبراء الخاص في أيار/مايو 2020، وخضعت لعملية تشاور موسعة ومتعددة الأطراف المعنية خلال الفترة التي امتدت من نهاية شهر حزيران/يونيو حتى أوائل شهر آب/أغسطس 2020.

وقد شرع فريق الخبراء الخاص من منتصف شهر آب/أغسطس، بمراجعة الآراء التي جُمعت من عملية التشاور الموسعة والمتعددة الأطراف المعنية، وعقد اجتماعاً عن طريق الإنترنت خلال الفترة التي امتدت من 31 آب/أغسطس حتى 4 أيلول/سبتمبر 2020، بغرض تنقيح الصيغة الأولية لمشروع نص التوصية. وقد سجل لمراقبة الاجتماع خلال هذا الأسبوع، أكثر من 100 مراقب من 43 دولة عضواً ومن الوكالات التابعة للأمم المتحدة وغيرها من الهيئات الدولية الحكومية ومن المنظمات غير الحكومية.

وتكلل عمل الفريق بوضع اللمسات الأخيرة على المشروع الأولي للتوصية في 7 أيلول/سبتمبر 2020.

 المتاح أيضاً باللغات التالية: 

 

مكتب فريق الخبراء الخاص

انتخب فريق الخبراء الخاص أعضاء مكتبه عن طريق الإنترنت، وفيما يلي تشكيلة المكتب:

رئيسة المكتب: السيدة إيما روتكامب-بلوم

المقرر: السيد سانغ ووك يي

نواب الرئيس: السيدة كونستانزا غوميز مونت 

  •  السيدة إيرينا نستيروفا
  • السيدة كلستان (سالي) رضوان 
  • السيد بيتر-بول فيربيك 
  •  

الخطوات المقبلة

ُحيل التقرير الأولي والصيغة الأولية لمشروع التوصية إلى الدول الأعضاء في أيلول/سبتمبر 2020، للحصول على تعليقاتهم الخطية حتى 31 كانون الأول/ديسمبر 2020. وستراعي المديرة العامة في تقريرها النهائي عن التوصية، هذه التعليقات الخطية. 

وسيتضمن التقرير النهائي مشروع نص أو أكثر للتوصية، وسيُرسَل إلى الدول الأعضاء ويُقدَّم إلى لجنة خاصة تتألف من خبراء حكوميين (الفئة 2)، ستجتمع في عام 2021 (من المقرر عقد دورتين للجنة في نيسان/أبريل وحزيران/يونيو 2021).

وستبتُّ اللجنة الخاصة في موضوع المشروع النهائي لنص التوصية، الذي سيقدَّم إلى المؤتمر العام لليونسكو في دورته التي ستُعقد في أواخر عام 2021.