هي الخوارزميات التطورية و الشبكات العصبية المستخدمة في نفس المجالات ؟

Question

أنا أحاول التعود على الفرق بين مختلف الطبقات من خوارزميات التعلم آلة.

أنا أفهم أن تطبيقات الخوارزميات التطورية هي مختلفة تماما عن تطبيقات الشبكات العصبية.

بيد أنهم على حد سواء يبدو أن تهدف إلى تحديد العلاقة بين المدخلات والمخرجات من المحتمل أن تكون صاخبة من التدريب/البيانات التاريخية.

من منظور كمي ، هل هناك مشكلة المجالات التي هي أفضل أهداف الشبكات العصبية بدلا من الخوارزميات التطورية?

لقد قرأت بعض المقالات التي تشير إلى استخدامها بطريقة تكاملية.هل هناك مثال من استخدام القضية من أجل ذلك ؟

Answer 1

وهنا هي الصفقة: في مشاكل التعلم الآلي، لديك عادة عنصرين هما:

وأ) نموذج (الدرجة وظيفة، الخ)

وب) طرق تركيب نموذج (الخوارزميات optimizaiton)

والشبكات العصبية هي نموذج: نظرا لتخطيط وإعداد الأوزان، وتنتج الشبكة العصبية بعض الانتاج. وتوجد بعض الطرق الكنسي شبكات العصبية المناسب، مثل العكسي، الاختلاف متباينا، وما إلى ذلك، ونقطة كبيرة من الشبكات العصبية هي أنه إذا قدم شخص ما الأوزان "صحيحة"، كنت تفعل جيدا على هذه المشكلة.

وتتناول

والخوارزميات التطورية الجزء الثاني - تركيب نموذج. مرة أخرى، هناك بعض النماذج الكنسي التي تذهب مع الخوارزميات التطورية: على سبيل المثال، والبرمجة التطورية يحاول عادة لتحسين على كل البرامج من نوع معين. ومع ذلك، قمة شرق آسيا هي في الأساس وسيلة لايجاد قيم المعلمات الصحيحة لنموذج معين. عادة، تكتب المعلمات النموذج الخاص بك في مثل هذه الطريقة أن عملية انتقال هو الشيء المعقول القيام به وتحويل كرنك EA للحصول على وضع معقول من المعلمات خارج.

والآن، هل يمكن، على سبيل المثال، استخدام الخوارزميات التطورية لتدريب الشبكة العصبية وأنا متأكد من التي يتم بها ذلك. ومع ذلك، فإن الشيء المهم أن EA تتطلب للعمل هو أن عملية انتقال يجب أن يكون الشيء المعقول القيام به - عن طريق أخذ جزء من المعلمات من وضع معقول واحد والباقي من وضع معقول آخر، فسوف كثيرا ما ينتهي الأمر مع إعداد المعلمة أفضل. في معظم الأحيان يستخدم EA، ليست هذه هي القضية وتبين في النهاية أنها شيء من هذا القبيل محاكاة الصلب، فقط أكثر مربكة وغير فعال.

Answer 2

والمشاكل التي تتطلب "الحدس" هي أكثر ملاءمة لالشبكات العصبية الصناعية، للكتابة اعتراف سبيل المثال اليد. يمكنك تدريب الشبكة العصبية مع كمية كبيرة من المدخلات ومعدل لها حتى الانتهاء من ذلك (وهذا يستغرق وقتا طويلا)، ولكن بعد ذلك لديك الاسود خوارزمية / النظام التي يمكن أن " تخمين " اليد الكتابة، لذلك عليك أن تبقي عقلك قليلا، واستخدامه بمثابة وحدة لسنوات عديدة أو شيء من هذا. لأن تدريب الجودة ANN لمشكلة معقدة يمكن أن يستغرق شهورا أنا أسوأ حال، والحظ.

ومعظم الخوارزميات التطورية الأخرى " حساب " حل مخصصا على الفور، في نوع من نمط تسلق التل.

وأيضا كما ورد في إجابة أخرى، أثناء وقت التشغيل لANN يمكن " تخمين " أسرع من معظم الخوارزميات التطورية الأخرى يمكن أن " حساب ". ولكن يجب على المرء أن يكون حذرا، لأن ANN هو مجرد " التخمين " لأنه قد يكون خطأ.

Answer 3

وانظروا العصبية تطور. (NE)

وأفضل الأساليب الحالية غير NEAT و <لأ href = "HTTP : //eplex.cs.ucf.edu/hyperNEATpage/HyperNEAT.html "يختلط =" نوفولو "> HyperNEAT كينيث ستانلي

والخوارزميات الجينية تجد فقط الجينوم من نوع ما. انه لشيء رائع لإنشاء جينوم الشبكة العصبية، لتحصل على طبيعة رد الفعل من الشبكة العصبية، وليس مجرد حفنة من الجينات ثابتة.

وليس هناك العديد من حدود لما يمكن أن تعلم. ولكن الأمر يتطلب بعض الوقت بطبيعة الحال. وإلى أن تطورت طوبولوجيا العصبي من خلال طفرة المعتادة وكروس، فضلا عن تجديد الأوزان. يمكن أن يكون هناك انتشار الخلفي.

وأيضا يمكنك تدريب مع وظيفة اللياقة البدنية، وهو بذلك يتفوق على دعم انتشار عندما كنت لا تعرف ما يجب أن يكون الإخراج. مثالية لتعلم السلوك المعقد للأنظمة التي كنت لا تعرف أي استراتيجيات الأمثل ل. المشكلة الوحيدة هي أنه سوف تعلم السلوك الذي لم توقع. في كثير من الأحيان يمكن أن يكون هذا السلوك غريبة جدا، على الرغم من أنه يفعل بالضبط ما يكافأ على ذلك في وظيفة اللياقة البدنية. وهكذا سوف تستخدم الكثير من الوقت المستمدة ظائف اللياقة البدنية كما كنت قد خلق مجموعات الانتاج لالعكسي: P

Answer 4

التطورية أو أكثر بشكل عام الخوارزميات الجينية, والشبكات العصبية يمكن استخدامها من أجل تحقيق أهداف مماثلة ، و إجابات أخرى لوصف الفرق.

ومع ذلك ، هناك قضية واحدة محددة حيث الخوارزميات التطورية هي أكثر مبين من الشبكات العصبية: عندما حل الفضاء غير مستمر/منفصلة.

والواقع أن الشبكات العصبية استخدام التدرج النسب لمعرفة من backpropagation (أو مماثلة الخوارزمية).حساب التدرج تعتمد على المشتقات ، والذي يحتاج إلى الفضاء المستمر ، وبعبارة أخرى أنه يمكنك التحول التدريجي من حل واحد إلى التالي.

إذا كان الحل الخاص بك مساحة منفصلة (أي إما يمكنك اختيار الحل أ ، أو ب ، أو ج ، ولكن لا شيء في الوسط مثل 0.5% A + 0.5% ب) ، ثم تحاول تناسب غير مستمرة وظيفة ، ومن ثم الشبكات العصبية لا تعمل.

في هذه الحالة, الخوارزميات التطورية هي الكمال ، يمكن للمرء أن يقول حتى يرسل الله, لأنه يمكن أن "تقفز" من حل واحد إلى التالي دون أي مشكلة.

ومن الجدير بالذكر أن الخوارزميات التطورية لا تخضع لعنة أبعاد مثل أي آلة أخرى خوارزمية التعلم ، بما في ذلك الشبكات العصبية.

وهذا يجعل الخوارزميات التطورية متعددة جدا و عامة أداة النهج بسذاجة أي مشكلة, واحدة من عدد قليل جدا من الأدوات للتعامل مع أي من غير مستمرة وظائف أو مع فلكية عالية الأبعاد البيانات.

Answer 5

حيث المشكلة المجالات ، أقارن الشبكات العصبية الاصطناعية تدريبهم من قبل backpropagation إلى خوارزمية تطورية.

خوارزمية تطورية تنشر العشوائية beamsearch أنه التطورية شركات تطوير المرشحين إلى اختبار و مقارنة لياقتهم البدنية.تلك الشركات عادة ما تكون غير القطعية و يمكنك تصميم لها حتى أنها يمكن أن تجد كل المرشحين بالقرب من المرشحين التي هي أبعد في المعلمة الفضاء للتغلب على مشكلة الحصول على عالقا في المحلية أوبتيما.

ومع ذلك نجاح EA النهج إلى حد كبير يعتمد على النموذج الذي وضع الذي هو المقايضة بين ارتفاع التعبير المحتملة (قد overfit) و عمومية (نموذج قد لا تكون قادرة على التعبير عن الهدف وظيفة).

لأن الشبكات العصبية وعادة ما تكون متعددة الطبقات المعلمة الفضاء ليست محدبة يحتوي المحلية اوبتيما أصل التدرج خوارزميات قد تتعثر في.أصل التدرج هو القطعية الخوارزمية ، أن يبحث عن طريق مقربة.هذا هو السبب في الشبكات العصبية عادة ما تكون بشكل عشوائي initialised و لماذا يجب أن تدريب العديد من أكثر من نموذج واحد.

وعلاوة على ذلك يمكنك معرفة كل خفية عقدة في الشبكة العصبية يعرف hyperplane يمكنك تصميم الشبكة العصبية لذلك يناسب مشكلتك جيدا.هناك بعض التقنيات لمنع الشبكات العصبية من التناسب.

جميع في كل شيء ، الشبكات العصبية قد تكون المدربين بسرعة والحصول على نتائج معقولة مع بعض efford (مجرد محاولة بعض المعلمات).في نظرية الشبكة العصبية التي هي كبيرة بما يكفي قادرة على التقريبية كل وظيفة الهدف الذي على الجانب الآخر يجعلها عرضة التناسب.الخوارزميات التطورية تتطلب منك لجعل الكثير من خيارات التصميم للحصول على نتائج جيدة ، الأصعب ربما يجري النموذج الذي لتحسين.ولكن EA قادرة على البحث من خلال المشكلة معقدة للغاية المساحات (بطريقة تعريف) والحصول على نتائج جيدة بسرعة.AEs حتى يمكن أن تبقى ناجحة عندما تكون المشكلة (الهدف) وظيفة يتغير مع مرور الوقت.

توم ميتشل آلة التعلم الكتاب:http://www.cs.cmu.edu/~tom/mlbook.html

Answer 6

والخوارزميات التطورية (EAS) بطيئة لأنها تعتمد على التعلم دون إشراف: يقال قمة شرق آسيا أن بعض الحلول هي أفضل من غيرها، ولكن ليس <م> كيف لتحسينها. الشبكات العصبية عادة ما تكون أسرع، ويجري مثيل التعلم تحت إشراف: أنهم يعرفون كيفية جعل حل أفضل باستخدام أصل التدرج ضمن مساحة وظيفة على معايير معينة. وهذا يسمح لهم للوصول إلى حل صحيح بشكل أسرع. وغالبا ما تستخدم الشبكات العصبية عندما لم يكن هناك ما يكفي من المعرفة حول المشكلة لأساليب أخرى للعمل.

Answer 7

والخوارزميات التطورية (EA) تمثل طريقة تدريب نموذج، حيث وشبكات الخلايا العصبية (NN) هي نموذج. الأكثر شيوعا في جميع أنحاء الأدب، وسوف تجد أن يتم تدريب كالة أنباء البحرية باستخدام خوارزمية العكسي. هذا الأسلوب هو جذابة للغاية للعلماء الرياضيات ولكن ذلك يتطلب أن تتمكن من التعبير عن نسبة الخطأ للنموذج باستخدام صيغة رياضية. هذا هو الحال في الحالات التي تعرف الكثير من المدخلات والمخرجات قيم الدالة التي تحاول تقريب. هذه المشكلة يمكن أن تكون على غرار رياضيا، والتقليل من وظيفة الخسارة، وهو ما يمكن تحقيقه بفضل حساب التفاضل والتكامل (وهذا هو السبب في الرياضيات الحب عليه).

ولكن شبكات الخلايا العصبية هي أيضا مفيدة لأنظمة التي تحاول تكبير أو تصغير بعض نتائج النمذجة، الصيغة التي من الصعب جدا لنموذج رياضيا. على سبيل المثال، يمكن لشبكة الخلايا العصبية السيطرة على عضلات سايبورغ لتحقيق التشغيل. في كل زمنية مختلفة، فإن نموذج يجب أن إنشاء مقدار التوتر يجب أن تكون موجودة في كل عضلة من الجسم سايبورغ، على أساس المدخلات من مختلف أجهزة الاستشعار. فمن المستحيل لتوفير بيانات التدريب هذه. السماح قمة شرق آسيا التدريب من خلال توفير سوى طريقة تقييم النموذج. على سبيل المثال لدينا، فإننا معاقبة السقوط ومكافأة المسافة المقطوعة عبر سطح (في إطار زمني ثابت). سوف EA مجرد اختيار النماذج التي تبذل قصارى جهدها في هذا المعنى. الأجيال الأولى تمتص لكن، من المستغرب، بعد بضع مئات من الأجيال، هؤلاء الأفراد تحقيق غاية حركات "الطبيعية" وإدارة لتشغيل دون السقوط. قد تكون مثل هذه النماذج أيضا قادرة على التعامل مع العقبات والقوى الفيزيائية الخارجية.