في عهد ترامب ، يُطلب من علماء الذكاء الاصطناعي أن يزيلوا “التحيز” من النماذج القوية

أصدر المعهد الوطني للمعايير والتكنولوجيا (NIST) تعليمات جديدة للعلماء تشارك في معهد سلامة الذكاء الاصطناعي الأمريكي (AISI) التي تقضي على ذكر “السلامة” ، “إنها” مسيرة وترتيبها – التحيز ، لتمكين الازدهار البشري والقدرة التنافسية الاقتصادية.

تأتي المعلومات كجزء من اتفاقية البحث والتطوير التعاونية المحدثة لأعضاء معهد سلامة الذكاء الاصطناعي ، المرسلة في أوائل مارس. في السابق ، شجع هذا الاتفاق الباحثين على المساهمة في العمل الفني الذي يمكن أن يساعد في تحديد سلوك النموذج التمييزي وإصلاحه المتعلق بالجنس أو العرق أو العمر أو عدم المساواة في الثروة. مثل هذه التحيزات مهمة للغاية لأنها يمكن أن تؤثر بشكل مباشر على المستخدمين النهائيين وإلحاق الضرر بشكل غير متناسب الأقليات والمجموعات المحرومة اقتصاديًا.

يزيل الاتفاقية الجديدة ذكر الأدوات تطوير – لمصادقة المحتوى وتتبع مصدرها ، بالإضافة إلى “المحتوى الاصطناعي” ، مما يشير إلى اهتمام أقل بتتبع المعلومات الخاطئة والمزيفة العميقة. ويضيف أيضًا التركيز على وضع أمريكا أولاً ، ويطلب من مجموعة عمل واحدة لتطوير أدوات الاختبار – لتوسيع منصب AMERICA GLOBAL.

يقول أحد الباحثين في منظمة تعمل مع معهد سلامة الذكاء الاصطناعى ، الذي طلب عدم تسميته للخوف من الانتقام.

يعتقد الباحث أن تجاهل هذه المشكلات قد يضر المستخدمين العاديين من خلال السماح للخوارزميات التي تميز على أساس الدخل أو التركيبة السكانية الأخرى للابتعاد. “لم تكن مليارديرًا تقنيًا ، فهذا سيؤدي إلى مستقبل أسوأ بالنسبة لك وللأشخاص الذين تهتم بهم. توقع أن تكون الذكاء الاصطناعي غير عادل ، تمييزي ، غير آمن ، ونشرها بطريقة غير مسؤولة ، كما يدعي الباحث.

يقول باحث آخر عمل مع معهد سلامة الذكاء الاصطناعى في الماضي: “إنه” برية “، يقول باحث آخر عمل مع معهد السلامة من الذكاء الاصطناعي في الماضي. – ماذا يعني حتى أن يزدهر البشر؟

انتقد Elon Musk ، الذي يقود حاليًا جهدًا مثيرًا للجدل لخفض الإنفاق الحكومي والبيروقراطية نيابة عن الرئيس ترامب ، نماذج الذكاء الاصطناعى التي صممها Openai و Google. في فبراير الماضي ، نشر ميميًا على X حيث تم تصنيف Gemini و Openai على “عنصري” و “استيقظ”. غالبًا ما يستشهد بحادث ناقش فيه أحد طرز Google ما إذا كان من الخطأ أن يخطئ شخص ما حتى لو كان سيمنع سيناريو غير مرغوب فيه نوويًا. إلى جانب Tesla و SpaceX ، تدير Musk Xai ، وهي شركة منظمة العفو الدولية تتنافس مباشرة مع Openai و Google. طور باحث ينصح XAI مؤخرًا تقنية جديدة لتغيير الميول السياسية لنماذج اللغة الكبيرة ، كما ذكرت Wired.

تظهر مجموعة متزايدة من الأبحاث أن التحيز السياسي في نماذج الذكاء الاصطناعي يمكن أن يؤثر على الليبراليين والمحافظين. على سبيل المثال ، أظهرت دراسة لخوارزمية توصية Twitter التي نشرت في عام 2021 أن المستخدمين كانوا أكثر عرضة لإظهار وجهات النظر اليمينية على المنصة.

منذ شهر يناير ، كان ما يسمى وزارة الكفاءة الحكومية (DOGE) تجتاح حكومة الولايات المتحدة ، حيث قاموا بإطلاق النار بشكل فعال على موظفي الخدمة المدنية ، ويتوقفون عن الإنفاق ، وخلق بيئة يعتقد أنها معادية لأولئك الذين قد يعارضون أهداف إدارة ترامب. بعض الإدارات الحكومية مثل وزارة التعليم قد أرشدت وحذف الوثائق التي تذكر DEI. استهدفت دوج أيضًا NIST ، المنظمة الأم لـ AISI ، في الأسابيع الأخيرة. تم إطلاق العشرات من الموظفين.