لموازنة في الأمازون EC2?

Question

كنا نقاتل مع HAProxy لبضعة أيام الآن في الأمازون EC2;تجربة حتى الآن ، ولكن نحن عالقون على الضغط على المزيد من الأداء من برنامج موازن التحميل.نحن لسنا لينكس الشبكات ازات (نحن .صافي متجر عادة) ، ولكن لدينا حتى الآن منطقتنا ، محاولة تعيين السليم ulimits والتفتيش نواة رسائل tcpdumps عن أي مخالفات.حتى الآن على الرغم من أننا قد وصلت إلى هضبة من حوالي 1700 الطلبات/ثانية ، وعند هذه النقطة العميل مهلة تكثر (لقد تم استخدام والتغيير والتبديل httperf لهذا الغرض).زميل في العمل و كنت الاستماع إلى أحدث تجاوز سعة مكدس بودكاست, الذي رديت مؤسسي ملاحظة أن الموقع بأكمله يمتد من أحد HAProxy عقدة ، و أنه حتى الآن لم عنق الزجاجة.Ack!إما هناك بطريقة أو بأخرى لا نرى أن العديد من الطلبات المتزامنة ، نفعل شيء خاطئ ، أو المشتركة طبيعة EC2 هو الحد من شبكة كومة من Ec2 سبيل المثال (نحن نستخدم كبير سبيل المثال نوع).بالنظر إلى حقيقة أن كل من جويل و رديت مؤسسي توافق على أن شبكة من المرجح أن تكون عاملا يحد من الممكن أن الحد نحن رؤية ؟

أي الأفكار هي موضع تقدير كبير!

تحرير يبدو أن المشكلة الفعلية ليست ، في الواقع ، مع موازن التحميل عقدة!الجاني كان في الواقع عقد تشغيل httperf في هذه الحالة.كما httperf يبني والدموع أسفل مقبس كل طلب ، وهي تنفق قدرا كبيرا من الوقت وحدة المعالجة المركزية في النواة.كما ضربنا على طلب معدل أعلى TCP FIN TTL (يجري 60s افتراضيا) كان حفظ مآخذ حول وقتا طويلا ، ip_local_port_range الافتراضي منخفضة جدا لهذا الاستخدام السيناريو.في الأساس, بعد بضع دقائق من العميل (httperf) عقدة باستمرار خلق وتدمير جديدة مآخذ, عدد المنافذ غير المستخدمة نفد ، اللاحقة 'طلبات' errored بها في هذه المرحلة ، مما أسفر عن انخفاض الطلب/ثانية أرقام كمية كبيرة من الأخطاء.

ونحن أيضا قد بدا في nginx, ولكن نحن نعمل مع RighScale لديهم انخفاض في النصوص HAProxy.أوه, و لدينا أيضا ضيق الموعد النهائي [بالطبع] للتبديل من مكونات ما لم يثبت الضرورة القصوى.الحمد لله, يجري على AWS يسمح لنا اختبار آخر الإعداد باستخدام nginx بالتوازي (إذا اقتضى الأمر) ، وجعل التبديل بين عشية وضحاها في وقت لاحق.

هذه الصفحة يصف كل من sysctl المتغيرات بشكل جيد إلى حد ما (ip_local_port_range و tcp_fin_timeout تم ضبطها في هذه الحالة).

Answer 1

ليست إجابة على سؤالك, ولكن nginx و الجنيه على حد سواء لديها سمعة جيدة مثل الحمل-موازنات.وورد فقط تحولت إلى nginx مع نتائج جيدة.

ولكن أكثر تحديدا ، إلى تصحيح المشكلة.إذا كنت لا ترى استخدام cpu بنسبة 100% (بما في ذلك I/O الانتظار) ، ثم تقوم الشبكة ملزمة ، نعم.EC2 داخليا يستخدم شبكة جيجابت ، حاول استخدام XL سبيل المثال ، بحيث يكون لديك الأجهزة الأساسية إلى نفسك, و لا يجب أن حصة شبكة جيجابت ميناء.

Answer 2

لا يجيب على السؤال مباشرة ، ولكن EC2 الآن يدعم موازنة التحميل من خلال وتحميل موازنة مرنة بدلا من الجري الخاصة بك موازن التحميل في المثال EC2.

تحرير: أمازون الطريق 53 خدمة DNS الآن يوفر وسيلة إلى نقطة أعلى مستوى المجال في ELB مع "الاسم المستعار" سجل.منذ الأمازون يعرف عنوان IP الحالي ELB ، فإنه يمكن إرجاع سجل هذا IP الحالي بدلا من الاضطرار إلى استخدام سجل CNAME ، في حين لا تزال تتردد في تغيير IP من وقت لآخر.

Answer 3

نعم ، يمكنك استخدام موقع موازن التحميل..و على المعدن LVS هو خيار رائع لكن الكمون سوف تكون فظيعة!الشائعات تقول أن الأمازون هو ذاهب لإصلاح CNAME المسألة.إلا أنها من غير المرجح أن تضيف https ، بتعمق أو العرف الصحة الشيكات المرتدة وكلاء url مطابقة كوكي الإدراج (وبعض الناس مع حسن العمارة القول صحيح أيضا.) ومع ذلك ولهذا السبب Scalr, RightScale وغيرها تستخدم HAProxy عادة اثنين منهم وراء جولة روبن إدخال DNS.هنا في Loadbalancer.org نحن على وشك إطلاق منطقتنا EC2 موازنة appaliance:http://blog.loadbalancer.org/ec2-load-balancer-appliance-rocks-and-its-free-for-now-anyway/ ونحن نخطط على استخدام SSH البرامج النصية intergrate مع autoscaling في نفس الطريق rightscale لا موضع تقدير أي تعليقات على بلوق.شكرا

Answer 4

أود أن ننظر في التحول إلى خارج الموقع موازن التحميل ، ليس في سحابة وتشغيل شيء مثل IPVS على أعلى من ذلك.[السبب في أنه سيكون من سحابة الأمازون بسبب نواة الأشياء] إذا الأمازون لا حد IP المصدر من الحزم الخروج من أنك يمكن أن تذهب مع أحادي الاتجاه موازنة آلية.نفعل شيئا من هذا القبيل ، فإنه يحصل لنا حوالي 800 ، 000 الطلبات المتزامنة [على الرغم من أننا لا نتعامل مع الكمون].أنا أيضا أن أقول استخدام "ab2" (أباتشي مقاعد البدلاء) ، كما هو القليل من المستخدم أكثر ودية و أسهل للاستخدام في رأيي المتواضع.

Answer 5

على الرغم من مشكلتك حلها.كيمب التكنولوجيات الآن الوصول بشكل كامل في مهب موازن التحميل أوس.قد توفر لك بعض المتاعب.