حوادث إفلات الأدوات الخوارزمية تثير القلق
جنيف (أ ف ب) – حذّر المفوض السامي لحقوق الإنسان في الأمم المتحدة فولكر تورك من أن الذكاء الاصطناعي قد يشكّل “تهديدا وجوديا للبشرية”، داعيا إلى اتخاذ إجراءات فورية للحد من هذه المخاطر.
وقال تورك إن البشر يواجهون حاليا تهديدات “غير مألوفة، بل وغير مسبوقة” لحقوقهم.
وأضاف تورك في الكلمة الافتتاحية للدورة الـ63 لمجلس حقوق الإنسان في جنيف “أشارك خبراء القطاع مخاوفهم من أن الذكاء الاصطناعي المتطور قد يشكّل تهديدا وجوديا للبشرية”، داعيا إلى “بذل جهد شامل لوضع ضمانات صارمة تتعلق بسلامة الذكاء الاصطناعي وأمنه، قبل فوات الأوان”.
وتساءل “ثمة اعتراف واسع بالحاجة إلى حوكمة الذكاء الاصطناعي، لكن أين الإجراءات العملية؟” محذّرا من أن “أي تأخير لا يصب إلا في مصلحة شركات التكنولوجيا العملاقة وأصحابها والجهات الداعمة لها”.
وانتقد تورك حقيقة أن “حفنة من الرجال يتمتعون بنفوذ شبه مطلق على الذكاء الاصطناعي، الذي يُقال لنا مرارا إنه يمتلك قدرات حاسوبية لا يمكن تصورها”.
وأضاف المفوض السامي لحقوق الإنسان في المنظمة الأممية “إنهم يتحدثون عن الحرية، لكن عند التمعّن في الأمر، يتبيّن أن هذه الحرية لا تعدو كونها حرية استغلال بياناتنا”.
وأشار تورك إلى أن “الذكاء الاصطناعي الذي يتمكن من الإفلات من بيئة الاختبار أو يلجأ إلى ابتزاز مطوريه للحيلولة دون إيقافه، هو ذكاء اصطناعي تجاوز حدود القوة المقبولة”.
وبدا أن تورك كان يشير إلى ما كُشف عنه في تموز/يوليو بشأن نجاح أدوات ذكاء اصطناعي تابعة لشركة “أوبن إيه آي” في الإفلات من بيئات يُفترض أنها خاضعة للرقابة، واختراق خوادم منصة “هاغينغ فيس” الواسعة الانتشار والتي يستخدمها المبرمجون لمشاركة برمجيات الذكاء الاصطناعي.
وأثارت تلك الواقعة صدمة في أوساط قطاع التكنولوجيا، وأعادت إحياء الدعوات إلى فرض ضوابط أشد صرامة، وتعزيز الرقابة على تقنيات الذكاء الاصطناعي.
وأبلغت شركات من بينها “أنثروبيك” و”ميتا”، بتسجيل حوادث مماثلة خلال اختبارات لوكلاء الذكاء الاصطناعي.
وقال تورك إنه سيخاطب شركات الذكاء الاصطناعي خلال الأيام المقبلة “لحثها على اتخاذ التدابير التي تقع ضمن نطاق سيطرتها للحد من المخاطر حاليا”.
وأضاف “على الأقل، نحتاج إلى أن تتوافق الدول المستضيفة لشركات الذكاء الاصطناعي وتلك المنخرطة في سلاسل توريد هذه التكنولوجيا على خطوط حمراء واضحة ومتفق عليها”.
وقال “نحتاج إلى آليات تحقق مستقلة، وإلى تعاون أقوى بكثير داخل القطاع في مجال الأمن”.
وأضاف “كما نحتاج إلى النظر في تأثيرات الذكاء الاصطناعي على حقوق الإنسان، بما في ذلك ممارسات التوظيف، والمبادئ الأساسية للديموقراطية، وبيئتنا”.