لماذا يفشل الذكاء الاصطناعي | سلكي

ومع ذلك، فإن النماذج تتحسن بشكل أسرع بكثير من الجهود المبذولة لفهمها. ويعترف فريق الأنثروبيك أنه مع انتشار عملاء الذكاء الاصطناعي، فإن الإجرام النظري للمختبر يقترب من الواقع أكثر من أي وقت مضى. إذا لم نكسر الصندوق الأسود، فقد يكسرنا.

“معظم بلدي لقد تركزت الحياة على محاولة القيام بالأشياء التي أعتقد أنها مهمة. عندما كان عمري 18 عامًا، تركت الجامعة لدعم صديق متهم بالإرهاب، لأنني أعتقد أنه من المهم جدًا دعم الأشخاص عندما لا يفعل الآخرون ذلك. وعندما ثبتت براءته، لاحظت أن التعلم العميق سيؤثر على المجتمع، وكرست نفسي لمعرفة كيف يمكن للبشر فهم الشبكات العصبية. لقد أمضيت العقد الماضي في العمل على ذلك لأنني أعتقد أنه يمكن أن يكون أحد المفاتيح لجعل الذكاء الاصطناعي آمنًا.

هكذا يبدأ كريس أولاه “date me doc”، الذي نشره على تويتر في عام 2022. ولم يعد أعزبًا، لكن المستند يظل موجودًا على موقع Github الخاص به “لأنه كان مستندًا مهمًا بالنسبة لي”، كما يكتب.

يتجاهل وصف أولاه بعض الأشياء، بما في ذلك أنه على الرغم من عدم حصوله على شهادة جامعية، فهو أحد مؤسسي الأنثروبولوجيا. الإغفال الأقل أهمية هو أنه حصل على زمالة ثيل، التي تمنح 100000 دولار للمتسربين الموهوبين. قال لي في مقابلة عام 2024: “لقد أعطاني الكثير من المرونة للتركيز على كل ما أعتقد أنه مهم”. مدفوعًا بقراءة المقالات في مجلة WIRED، من بين أمور أخرى، حاول بناء طابعات ثلاثية الأبعاد. واعترف قائلاً: “في سن التاسعة عشرة، لا يتمتع المرء بالضرورة بأفضل الأذواق”. ثم، في عام 2013، حضر سلسلة من الندوات حول التعلم العميق وأثار حماسته. لقد غادر الجلسات بسؤال يبدو أن أحداً لم يطرحه: ماذا يحدث في تلك الأنظمة؟

واجهت أولاه صعوبة في إثارة اهتمام الآخرين بالسؤال. عندما انضم إلى Google Brain كمتدرب في عام 2014، عمل على منتج غريب يسمى Deep Dream، وهي تجربة مبكرة في توليد صور الذكاء الاصطناعي. أنتجت الشبكة العصبية أنماطًا غريبة ومخدرة، كما لو كان البرنامج يتعاطى المخدرات. يقول أولاه: “لم نفهم النتائج”. “لكن الشيء الوحيد الذي أظهروه هو أن هناك الكثير من البنية داخل الشبكات العصبية.” وخلص إلى أنه يمكن فهم بعض العناصر على الأقل.

شرعت أولاه في العثور على مثل هذه العناصر. شارك في تأسيس مجلة علمية تسمى Distill لإضفاء “المزيد من الشفافية” على التعلم الآلي. في عام 2018، نشر هو وعدد قليل من زملائه في Google ورقة بحثية في Distill بعنوان “اللبنات الأساسية لقابلية التفسير”. لقد حددوا، على سبيل المثال، أن الخلايا العصبية المحددة تشفر مفهوم الأذنين المرنة. ومن هناك، تمكن أولاه وزملاؤه من معرفة كيف عرف النظام الفرق بين كلب لابرادور ريتريفر والقطة النمر، على سبيل المثال. واعترفوا في ورقتهم البحثية بأن هذه كانت مجرد بداية لفك رموز الشبكات العصبية: “نحن بحاجة إلى جعلها ذات نطاق بشري، بدلاً من كونها مجرد مستودعات هائلة من المعلومات”.

كانت الورقة بمثابة أغنية بجعة علا في جوجل. يقول: “كان هناك في الواقع شعور في Google Brain بأنك لست جادًا جدًا إذا كنت تتحدث عن سلامة الذكاء الاصطناعي”. في عام 2018، عرضت عليه شركة OpenAI الفرصة لتشكيل فريق دائم معني بقابلية الترجمة الفورية. قفز. وبعد ثلاث سنوات، انضم إلى مجموعة من زملائه في OpenAI للمشاركة في تأسيس Anthropic.