مشین لرننگ الگورتھم کو فروغ دینے کے لئے ایک جامع گائیڈ

صحت کی دیکھ بھال ، مارکیٹنگ ، کاروبار اور اسی طرح کے شعبے میں بہت ساری ترقیوں کے ساتھ ، یہ مزید جدید اور پیچیدہ ترقی کرنے کی ضرورت بن گئی ہے . بوسٹنگ مشین لرننگ ایک ایسی ہی تکنیک ہے جو پیچیدہ ، ڈیٹا سے چلنے والی ، حقیقی دنیا کے مسائل کو حل کرنے کے لئے استعمال کی جاسکتی ہے۔ یہ بلاگ پوری طرح اس بات پر مرکوز ہے کہ مشین لرننگ بوسٹنگ کس طرح کام کرتی ہے اور مشین لرننگ ماڈلز کی استعداد کار بڑھانے کے ل how اس کو کس طرح نافذ کیا جاسکتا ہے۔

مصنوعی ذہانت اور مشین لرننگ کی گہرائی سے معلومات حاصل کرنے کے ل you ، آپ براہ راست داخلہ لے سکتے ہیں بذریعہ ایڈوریکا 24/7 معاونت اور زندگی بھر رسائی۔

یہاں ان عنوانات کی فہرست ہے جن کا احاطہ کیا جائے گا اس بلاگ میں:

1. بوسٹنگ کیوں استعمال کی جاتی ہے؟
2. کیا فروغ دے رہا ہے؟
3. الگورتھم کیسے کام کرتا ہے؟
4. بڑھاوا دینے کی اقسام
5. ڈیمو

بوسٹنگ کیوں استعمال کی جاتی ہے؟

مجرم مسائل کو حل کرنے کے لئے ہمیں مزید جدید تکنیک کی ضرورت ہے۔ فرض کریں کہ بلیوں اور کتوں کی تصاویر والی تصاویر کا ایک ڈیٹا سیٹ دینے پر آپ سے ایک ایسا ماڈل تیار کرنے کے لئے کہا گیا تھا جو ان تصاویر کو دو الگ الگ کلاسوں میں درجہ بندی کرسکے۔ ہر دوسرے فرد کی طرح ، آپ بھی کچھ اصولوں کا استعمال کرکے تصاویر کی نشاندہی کرنا شروع کریں گے ، جیسے ذیل میں:

1. تصویر کے کان نمایاں ہیں: بلی

2. تصویر میں بلی کی شکل والی آنکھیں ہیں: بلی

3. تصویر کے بڑے اعضاء ہیں: ڈاگ

   
   
   

4. تصویر نے پنجوں کو تیز کردیا ہے: بلی

5. تصویر میں منہ کا ایک وسیع ڈھانچہ ہے: ڈاگ

یہ تمام اصول ہماری شناخت کرنے میں مدد کرتے ہیں کہ آیا تصویر ڈاگ یا بلی ہے ، تاہم ، اگر ہم کسی فرد (واحد) اصول کی بنیاد پر کسی تصویر کو درجہ بندی کرنا چاہتے ہیں تو پیشین گوئ غلطی ہوجائے گی۔ ان اصولوں میں سے ہر ایک کو ، انفرادی طور پر ، کمزور سیکھنے والے کہا جاتا ہے کیونکہ یہ اصول اتنے مضبوط نہیں ہیں کہ کسی تصویر کو بلی یا کتے کی درجہ بندی کرسکیں۔

لہذا ، اس بات کو یقینی بنانے کے لئے کہ ہماری پیش گوئ زیادہ درست ہے ، ہم ان میں سے ہر کمزور سیکھنے والوں سے اکثریت کے قاعدے یا اوسط اوسط کو استعمال کرکے پیش گوئی کو جوڑ سکتے ہیں۔ یہ ایک مضبوط لرنر ماڈل بناتا ہے۔

مذکورہ بالا مثال میں ، ہم نے 5 ضعیف سیکھنے والوں کی تعریف کی ہے اور ان اصولوں کی اکثریت (یعنی 5 میں سے 3 سیکھنے والے نے تصویر کو بلی کے طور پر پیش گوئی کی ہے) ہمیں پیش گوئی کرتا ہے کہ تصویر ایک بلی ہے۔ لہذا ، ہماری آخری پیداوار ایک بلی ہے۔

تو یہ ہمارے پاس سوال لاتا ہے ،

کیا فروغ دے رہا ہے؟

بوسٹنگ ایک جوڑنے والی سیکھنے کی تکنیک ہے جو ماڈل کی درستگی کو بڑھانے کے ل weak کمزور سیکھنے والے کو مضبوط سیکھنے والوں میں تبدیل کرنے کے لئے مشین لرننگ الگورتھم کا ایک سیٹ استعمال کرتی ہے۔

بوسٹنگ کیا ہے - مشین لرننگ کو فروغ دینا - ایڈیورکا

جیسا کہ میں نے ذکر کیا ہے کہ بوسٹنگ سیکھنے کا ایک جوڑا ہے لیکن یہ جوڑنا سیکھنے میں کیا ہے؟

مشین لرننگ میں جوڑ کیا ہے؟

اینسمبل لرننگ ایک ایسا طریقہ ہے جو کئی لرنرز کو ملا کر مشین لرننگ ماڈل کی کارکردگی کو بڑھانے کے لئے استعمال کیا جاتا ہے۔ جب کسی ایک ماڈل سے موازنہ کیا جائے تو ، اس قسم کی تعلیم بہتر کارکردگی اور درستگی کے ساتھ ماڈل تشکیل دیتی ہے۔ یہی وجہ ہے کہ مارکیٹ کے معروف مقابلوں جیسے نیٹ فلکس تجویز کردہ مقابلہ ، کاگل کے مقابلوں اور اسی طرح کے جیتنے کے لئے جوڑنے والے طریقے استعمال کیے جاتے ہیں۔

جوڑنا سیکھنا کیا ہے - مشین لرننگ کو فروغ دینا - ایڈورکا

ذیل میں میں نے بوسٹنگ اور بیگنگ کے درمیان فرق پر بھی تبادلہ خیال کیا ہے۔

بمقابلہ بیگنگ کو فروغ دینا

جوڑا سیکھنے کو دو طریقوں سے انجام دیا جاسکتا ہے۔

1. ترتیب کا جوڑا ، کے طور پر مشہور فروغ دینے ، یہاں تربیت کے مرحلے کے دوران کمزور سیکھنے والے ترتیب وار تیار ہوتے ہیں۔ پچھلے ، غلط درجہ بند درجہ بند نمونے میں زیادہ وزن تفویض کرکے ماڈل کی کارکردگی کو بہتر بنایا گیا ہے۔ فروغ دینے کی ایک مثال اڈا بوسٹ الگورتھم ہے۔

2. متوازی سیٹ ، کے طور پر مشہور بیگنگ ، یہاں تربیت کے مرحلے کے دوران کمزور سیکھنے والے متوازی طور پر پیدا ہوتے ہیں۔ متعدد کمزور سیکھنے والوں کو بوٹسٹریپڈ ڈیٹا سیٹوں کی متوازی تربیت دے کر ماڈل کی کارکردگی میں اضافہ کیا جاسکتا ہے۔ بیگنگ کی ایک مثال رینڈم فاریسٹ ہے الگورتھم

اس بلاگ میں ، میں فروغ دینے کے طریقہ کار پر توجہ مرکوز کروں گا ، لہذا نیچے والے حصے میں ہم سمجھیں گے کہ فروغ دینے والے الگورتھم کس طرح کام کرتا ہے۔

الگورتھم کیسے کام کرتا ہے؟

فروغ دینے والے الگورتھم کے کام کرنے کے پیچھے بنیادی اصول یہ ہے کہ متعدد کمزور سیکھنے پیدا کریں اور ان کی پیش گوئوں کو جوڑ کر ایک مضبوط حکمرانی کی تشکیل کی جا form۔ یہ کمزور قواعد ڈیٹا سیٹ کی مختلف تقسیم پر بیس مشین لرننگ الگورتھم کا اطلاق کرکے تیار کیے گئے ہیں۔ یہ الگورتھم ہر تکرار کے ضعیف اصول پیدا کرتے ہیں۔ متعدد تکرار کے بعد ، کمزور سیکھنے والوں کو ایک مضبوط سیکھنے کی تشکیل میں ملایا گیا ہے جو ایک زیادہ درست نتائج کی پیش گوئی کرے گا۔

یگوریتھم کو کس طرح بڑھاوا دیتا ہے - مشین لرننگ کو بڑھانا - ایڈیورکا

یہاں ہے کہ الگورتھم کیسے کام کرتا ہے:

مرحلہ نمبر 1: بیس الگورتھم ڈیٹا کو پڑھتا ہے اور ہر نمونے کے مشاہدے کے لئے مساوی وزن تفویض کرتا ہے۔

مرحلہ 2: بیس لرنر کے ذریعہ کی جانے والی غلط پیش گوئوں کی نشاندہی کی جاتی ہے۔ اگلی تکرار میں ، یہ غلط پیش گوئیاں ان غلط پیش گوئوں پر زیادہ وزن کے ساتھ اگلے بیس سیکھنے والے کو تفویض کی جاتی ہیں۔

مرحلہ 3: مرحلہ 2 کو دہرائیں جب تک کہ الگورتھم آؤٹ پٹ کو صحیح طریقے سے درجہ بندی نہ کرسکے۔

ازگر میں ایک کنسٹرکٹر کیا ہے؟

لہذا ، بوسٹنگ کا بنیادی مقصد ہے مس درجہ بند پیشن گوئی پر زیادہ توجہ مرکوز کرنے کے لئے.

اب جب ہم جانتے ہیں کہ فروغ دینے والے الگورتھم کس طرح کام کرتا ہے تو آئیے ، فروغ دینے کی مختلف تکنیکوں کو سمجھتے ہیں۔

بڑھاوا دینے کی اقسام

تین اہم راستے ہیں جن کے ذریعہ فروغ دیا جاسکتا ہے۔

1. انکولی بوسٹنگ یا اڈا بوسٹ

2. تدریجی فروغ

3. XGBoost

میں ان میں سے ہر ایک کے پیچھے بنیادی باتوں پر گفتگو کروں گا۔

انکولی بوسٹنگ

• اڈا بوسٹ کو بہت سے کمزور سیکھنے والوں کو ایک ہی مضبوط سیکھنے میں شامل کرکے لاگو کیا جاتا ہے۔

• اڈا بوسٹ میں کمزور سیکھنے والے ایک ہی ان پٹ خصوصیت کو مدنظر رکھتے ہیں اور فیصلہ تقسیم کا ایک واحد درخت نکالتے ہیں جسے فیصلے کا اسٹمپ کہتے ہیں۔ پہلا فیصلہ اسٹمپ نکالتے وقت ہر مشاہدے کا مساوی وزن کیا جاتا ہے۔

• پہلے فیصلے کے اسٹمپ کے نتائج کا تجزیہ کیا جاتا ہے اور اگر کسی مشاہدے کو غلط طریقے سے درجہ بند کیا گیا ہے تو ، ان کو زیادہ وزن تفویض کیا جاتا ہے۔

• اس کے بعد ، اعلی وزن والے مشاہدات کو زیادہ اہم سمجھنے پر ایک نیا فیصلہ اسٹمپ تیار کیا گیا۔

• ایک بار پھر اگر کسی مشاہدے کی غلط اشاعت کی جاتی ہے تو ، ان کو زیادہ وزن دیا جاتا ہے اور یہ عمل اس وقت تک جاری رہتا ہے جب تک کہ تمام مشاہدات صحیح طبقے میں نہ آئیں۔

• ایڈوبسٹ کو درجہ بندی اور رجعت پر مبنی دونوں دشواریوں کے لئے استعمال کیا جاسکتا ہے ، تاہم ، یہ زیادہ عام طور پر درجہ بندی کے مقصد کے لئے استعمال ہوتا ہے۔

تدریجی فروغ

گریڈیئنٹ بوسٹنگ بھی ترتیب کے مطابق جوڑ سیکھنے پر مبنی ہے۔ یہاں بیس سیکھنے والوں کو ترتیب سے اس طرح تیار کیا جاتا ہے کہ موجودہ بیس لرنر گذشتہ کے مقابلے میں ہمیشہ زیادہ موثر ہوتا ہے ، یعنی مجموعی ماڈل ہر تکرار کے ساتھ ترتیب سے بہتر ہوتا ہے۔

اس قسم کے فروغ میں فرق یہ ہے کہ غلط طبقاتی نتائج کے لights وزن میں اضافہ نہیں کیا جاتا ہے ، بجائے اس کے کہ ، تدریجی بوسٹنگ ایک نیا ماڈل شامل کرکے پچھلے سیکھنے والے کے نقصان کو بہتر بنانے کی کوشش کرتی ہے جو ضائع ہونے کی تقریب کو کم کرنے کے ل weak کمزور سیکھنے والوں کو شامل کرتی ہے۔

یہاں بنیادی خیال یہ ہے کہ پچھلے سیکھنے والوں کی پیش گوئیاں غلطیوں پر قابو پایا جا.۔ اس طرح کے فروغ کے تین اہم اجزا ہیں:

1. نقصان کی تقریب اسے خوش کرنے کی ضرورت ہے۔

2. کمزور سیکھنے والا پیشن گوئی کی گنتی کرنے اور مضبوط سیکھنے کے قیام کے ل.۔

3. ایک شامل ماڈل جو نقصان کی تقریب کو باقاعدہ بنائے گا۔

اڈا بوسٹ کی طرح ، گریڈیئنٹ بوسٹنگ بھی درجہ بندی اور رجعت کے دشواری دونوں کے ل used استعمال کیا جاسکتا ہے۔

XGBoost

XGBoost تدریجی اضافے کے طریقہ کار کا ایک جدید ورژن ہے ، اس کے لفظی معنی ایکسٹریم گریڈینٹ بوسٹنگ ہے۔ تیانکی چن نے تیار کیا ہوا ایکس جی بوسٹ ، ڈسٹری بیوٹڈ مشین لرننگ کمیونٹی (ڈی ایم ایل سی) کے زمرے میں آتا ہے۔

اس الگورتھم کا بنیادی مقصد حساب کی رفتار اور کارکردگی کو بڑھانا ہے۔ گراڈینٹ نزول بوسٹنگ الگورتھم آؤٹ پٹ کو ایک آہستہ شرح پر حساب دیتا ہے کیونکہ وہ ترتیب سے اعداد و شمار کے سیٹ کا تجزیہ کرتے ہیں ، لہذا ایکس جیبوسٹ کو ماڈل کی کارکردگی کو فروغ دینے یا انتہائی فروغ دینے کے لئے استعمال کیا جاتا ہے۔

XGBoost - مشین لرننگ کو فروغ دینا - ایڈورکا

XGBoost کمپیوٹیشنل رفتار اور ماڈل کی کارکردگی پر توجہ مرکوز کرنے کے لئے ڈیزائن کیا گیا ہے۔ XGBoost کے ذریعہ فراہم کردہ اہم خصوصیات یہ ہیں:

• متوازی فیصلے کے درخت پیدا کرتا ہے۔

• بڑے اور پیچیدہ ماڈلز کی جانچ کے لئے تقسیم شدہ کمپیوٹنگ کے طریقوں پر عمل درآمد۔

• بھاری ڈیٹاسیٹس کا تجزیہ کرنے کے لئے آؤٹ آف آف کور کمپیوٹنگ کا استعمال۔

• وسائل کا بہترین استعمال کرنے کے لئے کیش اصلاح کو نافذ کرنا۔

تو یہ تھےبوسٹنگ مشین لرننگ الگورتھم کی مختلف اقسام۔ چیزوں کو دلچسپ بنانے کے ل the ، نیچے دیئے گئے حصے میں ہم ایک ڈیمو چلائیں گے تاکہ یہ معلوم کریں کہ ایتھن میں الگورتھم کو فروغ دینے کا طریقہ کس طرح نافذ کیا جاسکتا ہے۔

ازگر میں مشین لرننگ کو فروغ دینا

ایک چھوٹا انکشاف: میں اس ڈیمو کو چلانے کے لئے ازگر کا استعمال کروں گا ، لہذا اگر آپ ازگر کو نہیں جانتے ہیں تو ، آپ مندرجہ ذیل بلاگوں کو دیکھ سکتے ہیں۔

2. سکریچ سے ازگر 3 کیسے سیکھیں - ایک ابتدائی ہدایت نامہ

اب وقت آگیا ہے کہ آپ اپنے ہاتھوں کو گندا کریں اور کوڈنگ شروع کریں۔

مسئلہ یہ بیان: مشروم کے ڈیٹا سیٹ کا مطالعہ کرنے اور مشین لرننگ ماڈل کی تشکیل کرنے کے لئے جو مشروم کو اس کی خصوصیات کا تجزیہ کرکے زہریلا بنا ہوا درجہ بندی کرسکتی ہے یا نہیں۔

ڈیٹا سیٹ تفصیل: یہ ڈیٹا سیٹ گلڈ مشروم کی 23 اقسام کے مطابق فرضی نمونوں کی مفصل تفصیل فراہم کرتا ہے۔ ہر ایک پرجاتی کو یا تو خوردنی مشروم یا غیر خوردنی (زہریلا) درجہ بند کیا جاتا ہے۔

منطق: بوسٹنگ الگورتھم میں سے کسی ایک کا استعمال کرکے مشین لرننگ ماڈل بنانا تاکہ یہ اندازہ لگایا جاسکے کہ مشروم خوردنی ہے یا نہیں۔

مرحلہ 1: مطلوبہ پیکیج درآمد کریں

sklearn.ensemble درآمد سے AdleBoostClassifier sklearn.preree سے درآمد کریں LabelEncoder سے sklearn.tree درآمد کریں فیصلہ #TreeClassifier درآمد پانڈوں کے طور پر پی ڈی # امپورٹ ٹرین_ٹیسٹ_اسپلٹ فنکشن اسکیلرن سے۔

مرحلہ 2: ڈیٹا سیٹ درآمد کریں

ڈیٹا ڈیٹاسیٹ = پی ڈی ڈریڈ_سیسوی میں لوڈ ((C: //Uvers//NeelTemp//Desktop//mushroomsdataset.csv '))

مرحلہ 3: ڈیٹا پروسیسنگ

# کالم کے ناموں کی وضاحت کریں ڈیٹاسیٹ کالم = ['ہدف'، 'ٹوپی کی شکل'، 'ٹوپی کی سطح'، 'ٹوپی رنگ'، 'چوٹ'، ​​'بدبو'، 'گل منسلکہ'، 'گیل اسپیسنگ' '،' گل-سائز '،' گل-رنگ '،' ڈنڈے کی شکل '،' stalk-जٹ '،' stalk-سطح سے اوپر کی انگوٹی '،' stalk-سطح سے نیچے رنگ '،' stalk-color ' -بابوے رنگ '،' ڈنڈی کے رنگ سے نیچے رنگ '،' پردہ کی قسم '،' پردہ رنگ '،' رنگ نمبر '،' رنگ کی قسم '،' بیجانو-پرنٹ رنگ '،' آبادی '،' رہائش گاہ '] لیبل کے ل.c ڈیٹاسیٹ کالم میں: ڈیٹاسیٹ [لیبل] = لیبل اینکوڈر (). فٹ (ڈیٹاسیٹ [لیبل]). ٹرانسفارم (ڈیٹاسیٹ [لیبل]) # ڈیٹا سیٹ پرنٹ کے بارے میں معلومات ڈسپلے کریں (ڈیٹاسیٹ.ینفو ( )) انٹ 64 انڈیکس: 8124 اندراجات ، 6074 تا 686 ڈیٹا کالم (کل 23 کالم): نشانہ 8124 غیر نول انٹ 32 کیپ شکل 8124 نان نول انٹ 32 کیپ سطح 8124 نان نول انٹ 3232 ٹوپ کلر 8124 نان الٹ انٹ 3232 چوٹ 8124 غیر النوع انٹ 3232 گند 8124 غیر کالول انٹ 3232 گیل منسلکہ 8124 غیر کالول انٹ 3232 گیل اسپیسنگ 8124 نان نول انٹ 3232 گیل سائز 8124 نان التول انٹ 3232 گل رنگ 8124 نان الخول انٹ 32 ڈنڈ شکل 8124 غیر نال انٹ 32 stalk-root 8124 non-null int32 انگوٹھوں کی سطح کے اوپر کی انگوٹی 8124 غیر کالول انٹ 32 ڈنل کی سطح کے نیچے رنگ 8124 غیر کالول انٹ 32 ڈنڈے کے رنگ سے اوپر رنگ 8124 غیر کالول انٹ 32 ڈنڈے کے رنگ کے نیچے رنگ 8124 نان کالول 3232 پردہ- ٹائپ کریں 8124 نان الکول انٹ 32 پردہ رنگ 8124 نان الکول انٹ 32 رنگ نمبر 8124 نان کالول انٹ 3232 قسم 8124 نان نول انٹ 32 انوور پرنٹ کلر 8124 نون کال انٹ 3232 آبادی 8124 غیر کالول انٹ 3232 رہائش گاہ 8124 غیر- null انٹ 32 ڈائپ ٹائپ: انٹ 32 (23) میموری استعمال: 793.4 KB

مرحلہ 4: ڈیٹا الگ کرنا

ایکس = ڈیٹاسیٹ ڈاٹ پیڈ ((['ہدف'] ، محور = 1) ی = ڈیٹاسیٹ ['ہدف'] ایکس_ٹرین ، ایکس_سٹ ، وائے_ٹرین ، وائی_ٹیسٹ = ٹرین_ٹسٹ سپلٹ (ایکس ، وائی ، ٹیسٹ_ سائز = 0.3)

مرحلہ 5: ماڈل بنائیں

ماڈل = ڈیسننٹی ٹری کلاسفائیر (پیمائش = 'اینٹراپی' ، زیادہ سے زیادہ_جواز = 1) اڈا بوسٹ = اڈا بوسٹ کلاسیفائر (بیس_اسسٹیمٹر = ماڈل ، این_سٹیمیٹرز = 400 ، لرننگ_ریٹ 1)

مذکورہ کوڈ کے ٹکڑوں میں ، ہم نے اڈا بوسٹ الگورتھم نافذ کیا ہے۔ ‘اڈا بوسٹ کلاسفائیر’ فنکشن میں تین اہم پیرامیٹرز لیتے ہیں:

• بیس_سٹیمٹر: بیس تخمینہ لگانے والا (ضعیف سیکھنے والا) فیصلہ کن درختوں کی شکل میں ہوتا ہے
• n_estimator: یہ فیلڈ استعمال کرنے کے لئے بیس سیکھنے والوں کی تعداد متعین کرتا ہے۔
• learning_rate: یہ فیلڈ سیکھنے کی شرح کی وضاحت کرتا ہے ، جسے ہم ڈیفالٹ ویلیو پر رکھتے ہیں ، یعنی 1۔

# ماڈل کو ٹریننگ ڈیٹا بوسٹ ماڈل = ایڈا بوسٹ ڈاٹ فٹ (ایکس_ٹرین ، Y_train) کے ساتھ موزوں کریں

مرحلہ 6: ماڈل تشخیص

# ماڈل کی درستگی کا اندازہ لگائیں y_pred = boostmodel.predict (X_test) پیشن گوئی = میٹرکس.ایکورسی_ اسکور (Y_est، y_pred) # فیصد پرنٹ میں درستگی کا حساب لگانا ('درستگی یہ ہے:' ، پیش گوئیاں * 100 ، '٪') درستگی ہے: 100.0٪

ہمیں 100 of کی درستگی ملی ہے جو کامل ہے!

تو اس کے ساتھ ، ہم اس بوسٹنگ مشین لرننگ بلاگ کا اختتام کرتے ہیں۔ اگر آپ مشین لرننگ کے بارے میں مزید معلومات حاصل کرنا چاہتے ہیں تو ، آپ ان بلاگز کو پڑھ سکتے ہیں:

اگر آپ مصنوعی ذہانت اور مشین لرننگ کے مکمل کورس کے لئے داخلہ لینا چاہتے ہیں تو ، ایڈورکا کے پاس خصوصی طور پر تشکیل پایا گیا ہے جو آپ کو نگرانی سیکھنے ، غیر معاشرتی سیکھنے ، اور قدرتی زبان پروسیسنگ جیسی تکنیک میں ماہر بنائے گا۔ اس میں مصنوعی ذہانت اور مشین لرننگ جیسے ڈیپ لرننگ ، گرافیکل ماڈل اور کمک سیکھنے میں جدید ترین پیشرفت اور تکنیکی نقطہ نظر کی تربیت شامل ہے۔