منوعات

هندسة التعلم الخفية: الشبكات العصبية تبدو متشابهة

اكتشف مهندسو جامعة بنسلفانيا نمطًا غير متوقع في كيفية تعلم الشبكات العصبية – الأنظمة التي تقود ثورة الذكاء الاصطناعي اليوم – مما يقترح إجابة لواحد من أهم الأسئلة التي لم تتم الإجابة عليها في الذكاء الاصطناعي: الذكاء الاصطناعي: لماذا تعمل هذه الأساليب بشكل جيد.

الشبكات العصبية مستوحاة من الخلايا العصبية البيولوجية، وهي عبارة عن برامج كمبيوتر تقوم بجمع البيانات وتدريب نفسها عن طريق إجراء تغييرات صغيرة ومتكررة على الأوزان أو المعلمات التي تحكم مخرجاتها، مثلما تقوم الخلايا العصبية بضبط اتصالاتها مع بعضها البعض. والنتيجة النهائية هي نموذج يسمح للشبكة بالتنبؤ من البيانات التي لم ترها من قبل. تُستخدم الشبكات العصبية اليوم في جميع المجالات العلمية والتقنية تقريبًا، بدءًا من الطب وحتى علم الكونيات، لتحديد الخلايا التي يحتمل أن تكون مريضة واكتشاف مجرات جديدة.

وفي مقال جديد نشر في وقائع الأكاديمية الوطنية للعلوم (PNAS)، براتيك تشودري، أستاذ مساعد في الهندسة الكهربائية وهندسة النظم (ESE) وأستاذ أول في مختبر الروبوتات العامة والأتمتة والاستشعار والإدراك (GRASP)، والمؤلف المشارك جيمس سيثنا، وأستاذ جيمس جيلبرت وايت للعلوم الفيزيائية في تظهر جامعة كورنيل أن الشبكات العصبية، بغض النظر عن تصميمها أو حجمها أو وصفة تدريبها، تتبع نفس المسار من الجهل إلى الحقيقة عندما يتم تقديمها مع الصور لتصنيفها.

جيالين ماو، طالب دكتوراه في الرياضيات التطبيقية وعلوم الكمبيوتر في كلية الآداب والعلوم بجامعة بنسلفانيا، هو المؤلف الرئيسي لهذه الورقة.

يقول تشودري: “لنفترض أن المهمة هي تحديد صور القطط والكلاب”. “قد تستخدم الشوارب لتصنيفها، بينما قد يستخدم شخص آخر شكل الأذنين. قد تفترض أن الشبكات المختلفة ستستخدم وحدات البكسل الموجودة في الصور بطرق مختلفة، ومن المؤكد أن بعض الشبكات ستحصل على نتائج أفضل من غيرها، ولكن هناك قواسم مشتركة قوية جدًا في الطريقة التي يتعلمون بها جميعًا، وهو ما يجعل النتيجة مفاجئة للغاية.

ولا تسلط النتيجة الضوء على الأعمال الداخلية للشبكات العصبية فحسب، بل تمهد الطريق أيضًا لإمكانية تطوير خوارزميات فائقة الكفاءة يمكنها تصنيف الصور في جزء صغير من الوقت، وبجزء صغير من التكلفة. في الواقع، إحدى أعلى التكاليف المرتبطة بالذكاء الاصطناعي هي القوة الحاسوبية الهائلة اللازمة لتطوير الشبكات العصبية. يقول تشودري: “تشير هذه النتائج إلى احتمال وجود طرق جديدة لتدريبهم”.

ولتوضيح إمكانات هذه الطريقة الجديدة، يقترح تشودري تصور الشبكات وكأنها تحاول رسم مسار على الخريطة. وقال: “دعونا نتخيل نقطتين”. “الجهل، حيث لا تعرف الشبكة شيئًا عن التسميات الصحيحة، والحقيقة، حيث يمكنها تصنيف جميع الصور بشكل صحيح. تدريب الشبكة يعني تتبع المسار بين الجهل والحقيقة في الفضاء الاحتمالي – – بمليارات الأبعاد. ولكن اتضح أن تأخذ الشبكات المختلفة نفس المسار، وهذا المسار يشبه ثلاثة أو أربعة أو خمسة أبعاد.

بعبارة أخرى، على الرغم من التعقيد المذهل للشبكات العصبية، فإن تصنيف الصور ــ إحدى المهام الأساسية لأنظمة الذكاء الاصطناعي ــ لا يتطلب سوى جزء صغير من هذا التعقيد. يقول تشودري: “هذا في الواقع دليل على أن تفاصيل تصميم الشبكة، أو حجمها، أو وصفات التدريب لها أهمية أقل مما نعتقد”.

للوصول إلى هذه الأفكار، استعار تشودري وسيثنا أدوات من هندسة المعلومات، وهو المجال الذي يجمع بين الهندسة والإحصاء. من خلال التعامل مع كل شبكة كتوزيع احتمالي، تمكن الباحثون من إجراء مقارنة حقيقية بين الشبكات، وكشفوا عن أوجه التشابه الأساسية غير المتوقعة. يوضح تشودري: “بسبب خصوصيات المساحات عالية الأبعاد، تكون جميع النقاط بعيدة عن بعضها البعض”. “لقد قمنا بتطوير أدوات أكثر تطوراً تمنحنا رؤية أوضح للاختلافات بين الشبكات.”

وباستخدام مجموعة واسعة من التقنيات، قام الفريق بتدريب مئات الآلاف من الشبكات، من العديد من الأنواع المختلفة، بما في ذلك الإدراك الحسي متعدد الطبقات، والشبكات التلافيفية والمتبقية، بالإضافة إلى المحولات التي تشكل قلب أنظمة مثل ChatGPT. يقول تشودري: “ثم ظهرت هذه الصورة الجميلة”. “لقد تم تجميع احتمالات إخراج هذه الشبكات بشكل مثالي على هذه المتشعبات الرفيعة في مساحات هائلة.” بمعنى آخر، فإن المسارات التي تمثل تعلم الشبكات اصطفت مع بعضها البعض، مما يدل على أنها تعلمت تصنيف الصور بنفس الطريقة.

يقدم تشودري تفسيرين محتملين لهذه الظاهرة المدهشة: الأول، أن الشبكات العصبية لا يتم تدريبها أبدًا على مجموعات عشوائية من وحدات البكسل. يقول تشودري: “تخيل صوت الملح والفلفل”. “من الواضح أنها صورة، ولكنها ليست مثيرة للاهتمام: فصور الأشياء الحقيقية مثل الأشخاص والحيوانات ليست سوى مجموعة فرعية صغيرة جدًا من مساحة جميع الصور الممكنة.” بمعنى آخر، فإن مطالبة الشبكة العصبية بتصنيف الصور المهمة للبشر هو أمر أسهل مما يبدو، لأن هناك العديد من الصور المحتملة التي لا يتعين على الشبكة أخذها في الاعتبار أبدًا.

ثانيًا، تعتبر التسميات التي تستخدمها الشبكات العصبية مميزة إلى حد ما. يقوم البشر بتجميع الأشياء في فئات واسعة، مثل الكلاب والقطط، وليس لديهم كلمات منفصلة لكل عضو معين في كل سلالة من الحيوانات. يقول تشودري: «إذا كانت الشبكات ستستخدم جميع وحدات البكسل لإجراء التنبؤات، لكانت قد وجدت العديد والعديد من الطرق المختلفة». لكن السمات التي تميز القطط والكلاب، على سبيل المثال، هي في حد ذاتها ذات أبعاد منخفضة. ويضيف تشودري: “نعتقد أن هذه الشبكات تجد نفس الميزات ذات الصلة”، ربما من خلال تحديد القواسم المشتركة مثل الأذنين والعينين والعلامات وما إلى ذلك.

إن اكتشاف خوارزمية يمكنها العثور بشكل منهجي على المسار اللازم لتدريب شبكة عصبية على تصنيف الصور باستخدام عدد قليل من المدخلات يمثل تحديًا لم يتم حله. يقول تشودري: “هذا هو السؤال الذي تبلغ قيمته مليار دولار”. “هل يمكننا تدريب الشبكات العصبية بتكلفة زهيدة؟ تثبت هذه الورقة أننا نستطيع القيام بذلك. ولكننا لا نعرف كيف.”

أجريت هذه الدراسة في كلية الهندسة والعلوم التطبيقية بجامعة بنسلفانيا وجامعة كورنيل. وقد تم دعمه بمنح من مؤسسة العلوم الوطنية، والمعاهد الوطنية للصحة، ومكتب الأبحاث البحرية، وزمالة إريك وويندي شميدت للذكاء الاصطناعي في العلوم لما بعد الدكتوراه، وائتمانات الحوسبة السحابية من Amazon Web Services.

ومن بين المؤلفين المشاركين الآخرين راهول راميش من جامعة بنسلفانيا للهندسة؛ وروبينج يانج في كلية الآداب والعلوم بجامعة بنسلفانيا؛ إيتاي جرينياستي وهان خينج تيوه من جامعة كورنيل؛ ومارك ك. ترانستروم من جامعة بريجهام يونج.

..

Source link

orcalimaa

المصدر الرئيسي للأخبار والمعلومات الصحية والطبية الموثوقة وفي الوقت المناسب . توفير معلومات صحية ذات مصداقية ومجتمع داعم وخدمات تعليمية من خلال مزج الخبرة الحائزة على جوائز في المحتوى والخدمات المجتمعية وتعليقات الخبراء والمراجعة الطبية .

مقالات ذات صلة

اترك تعليقاً

زر الذهاب إلى الأعلى