عمالقة التكنولوجيا يتحدون لتطوير الذكاء الاصطناعي الآمن

انضمت مجموعة كاملة من شركات التكنولوجيا الكبرى إلى الجهود المبذولة في الولايات المتحدة لتعزيز الممارسات المسؤولة في مجال الذكاء الاصطناعي.

وأوضحت إدارة بايدن أن شركات التكنولوجيا الرائدة هي من بين أكثر من 200 كيان تنضم إلى الاتحاد الأمريكي الجديد لدعم التطوير الآمن ونشر الذكاء الاصطناعي التوليدي.

وأعلنت وزيرة التجارة الأمريكية، جينا ريموندو، إنشاء اتحاد معهد سلامة الذكاء الاصطناعي الأمريكي، الذي يوحد المنشئين والمستخدمين والأكاديميين والباحثين الحكوميين والصناعيين ومنظمات المجتمع المدني.

ويضم الاتحاد أوبن آي وجوجل ومايكروسوفت وميتا وآبل وأمازون وإنفيديا وإنتل وأنثروبيك وبالانتير وجي بي مورجان تشيس وبنك أوف أمريكا وبي بي وسيسكو وآي بي إم وهيوليت باكارد ونورثوب جرومان وماستركارد وكوالكوم وفيزا.

وقالت ريموندو في بيان: “لدى الحكومة الأمريكية دور مهم تؤديه في وضع المعايير وتطوير الأدوات التي نحتاجها للتخفيف من المخاطر وتسخير الإمكانات الكبيرة للذكاء الاصطناعي”.

وتكلف المجموعة بالعمل على الإجراءات ذات الأولوية الموضحة في الأمر التنفيذي الصادر عن الرئيس بايدن في شهر أكتوبر بخصوص الذكاء الاصطناعي.

وتشمل تلك الإجراءات وضع المبادئ التوجيهية لتشكيل الفريق الأحمر، وتقييمات القدرات، وإدارة المخاطر، والسلامة والأمن، ووضع العلامات المائية على المحتوى الاصطناعي.

وتعهدت شركات الذكاء الاصطناعي الكبرى في العام الماضي بوضع علامة مائية على المحتوى المولد بالذكاء الاصطناعي لجعل التكنولوجيا آمنة.

ويضع أعضاء الاتحاد إرشادات وإجراءات لضمان قدرة المستخدمين على تعرف المواد المولدة بالذكاء الاصطناعي.

وتأمل الإدارة الأمريكية أن يؤدي هذا إلى تقليل التزييف العميق والمعلومات الخطأ. ولم تعتمد العلامات المائية الرقمية بعد على نطاق واسع، مع أن الاتحاد يساعد في توحيد المواصفات التقنية الأساسية لهذه الممارسة.

واستخدم الفريق الأحمر لسنوات في مجال الأمن السيبراني من أجل تحديد المخاطر الجديدة، إذ يشير المصطلح إلى عمليات محاكاة الحرب الباردة الأمريكية مع إطلاق اسم الفريق الأحمر على العدو.

وفي هذا الوضع، فإن العدو هي التقنية الناشئة العازمة على إساءة التصرف. ويحاول المشاركون في هذه الممارسة خداع التقنية الناشئة من أجل تنفيذ أشياء سيئة، مثل الكشف عن أرقام بطاقات الائتمان.

وبمجرد أن تعرف المجموعة كيفية اختراق النظام، يصبح بإمكانها بناء وسائل حماية فضلى.

ووجه أمر بايدن الوكالات إلى وضع معايير لهذا الاختبار ومعالجة المخاطر الكيميائية والبيولوجية والإشعاعية والنووية ومخاطر الأمن السيبراني ذات الصلة.

وقالت وزارة التجارة في شهر ديسمبر إنها تتخذ الخطوة الأولى نحو كتابة المعايير والإرشادات الأساسية للاختبار الآمن للتقنية الناشئة.

وأوضحت الوزارة أن الاتحاد الجديد يعد المجموعة الكبرى من فرق الاختبار والتقييم ويركز على إنشاء أسس لعلم قياس جديد في سلامة الذكاء الاصطناعي.

وتسعى إدارة بايدن إلى تطبيق الضمانات، مع أن الجهود في الكونجرس لتمرير تشريع يتناول هذه التقنية الناشئة قد تعثرت.

نسخ الرابط

تم نسخ الرابط