تعریف مدل آماری رگرسیون

رگرسیون تجزیه و تحلیل رابطه بین متغیرها

رگرسیون یک روش داده کاوی است که برای پیش بینی طیف وسیعی از مقادیر عددی (همچنین به عنوان مقادیر پیوندی ) مورد استفاده قرار می گیرد، با توجه به یک مجموعه داده خاص. برای مثال، رگرسیون ممکن است برای پیش بینی هزینه یک محصول یا خدمات با توجه به متغیرهای دیگر مورد استفاده قرار گیرد.

رگرسیون در صنایع مختلف برای برنامه ریزی کسب و کار و بازاریابی، پیش بینی مالی، مدل سازی زیست محیطی و تجزیه و تحلیل روند استفاده شده است.

رگرسیون در مقابل طبقه بندی

رگرسیون و طبقه بندی تکنیک های داده کاوی مورد استفاده برای حل مشکلات مشابه هستند، اما اغلب گیج می شوند. هر دو در تحلیل پیش بینی استفاده می شوند، اما برای پیش بینی مقدار عددی یا پیوسته مورد استفاده قرار می گیرد، در حالی که طبقه بندی داده ها را به دسته های گسسته اختصاص می دهد.

به عنوان مثال، رگرسیون می تواند برای پیش بینی ارزش یک خانه بر اساس مکان آن، فوت مربع، قیمت در زمان آخرین فروخته شده، قیمت خانه های مشابه و عوامل دیگر مورد استفاده قرار گیرد. طبقه بندی اگر شما بخواهید خانه ها را به دسته ها، مانند راه رفتن، حجم زیادی یا میزان جرم، سازماندهی کنید، مناسب است.

انواع تکنیک های رگرسیون

ساده ترین و قدیمی ترین فرم رگرسیون، رگرسیون خطی است که برای برآورد رابطه بین دو متغیر استفاده می شود. این تکنیک از فرمول ریاضی یک خط مستقیم (y = mx + b) استفاده می کند. به عبارت ساده، این به سادگی به این معنی است که با توجه به یک گراف با Y و یک محور X، رابطه بین X و Y یک خط مستقیم با چند ناقل است. به عنوان مثال، ما ممکن است فرض کنیم که با توجه به افزایش جمعیت، تولید غذا با همان میزان افزایش می یابد - این به یک رابطه قوی و خطی بین دو رقم نیاز دارد. برای تجسم این، یک نمودار را در نظر بگیرید که در آن محور Y کاوش را افزایش می دهد و محور X تولید مواد غذایی را دنبال می کند. همانطور که Y مقدار افزایش می یابد، مقدار X با همان سرعت افزایش می یابد، و رابطه بین آنها یک خط مستقیم است.

از تکنیک های پیشرفته مانند رگرسیون چندگانه، بین متغیرهای چندگانه رابطه ای پیش بینی می شود - مثلا آیا رابطه بین درآمد، تحصیلات و جایی که فرد تصمیم می گیرد زندگی کند؟ اضافه کردن متغیرها به طور قابل توجهی پیچیدگی پیش بینی را افزایش می دهد. انواع متعددی از تکنیک های رگرسیون چندگانه شامل استاندارد، سلسله مراتبی، مرتبه و گام به گام، هر کدام با نرم افزار خاص خود وجود دارد.

در این مرحله، مهم است بدانیم که چه می خواهیم پیش بینی کنیم (متغیر وابسته یا پیش بینی شده ) و داده هایی که ما برای پیش بینی استفاده می کنیم (متغیر مستقل یا پیش بینی کننده ). در مثال ما می خواهیم پیش بینی موقعیت مکانی که در آن زندگی می کند (متغیر پیش بینی شده ) درآمد و آموزش داده شده (هر دو متغیر پیش بینی کننده ).

• رگرسیون چندگانه استاندارد ، تمام متغیرهای پیش بینی را در یک زمان در نظر می گیرد. به عنوان مثال 1) رابطه بین درآمد و تحصیلات (پیش بینی کننده ها) و انتخاب محله (پیش بینی شده) چیست؟ و 2) به چه میزان هر یک از پیش بینی های فردی به این رابطه کمک می کند؟
• گام به گام رگرسیون چندگانه پاسخ کاملا متفاوتی است. الگوریتم رگرسیون مرحله ای آنالیز خواهد کرد که پیش بینی کنندگان بهترین ها را برای پیش بینی انتخاب محله مورد استفاده قرار می دهند - به این معنی که مدل گام به گام جهت اهمیت متغیرهای پیش بینی را ارزیابی می کند و سپس یک زیر مجموعه مربوطه را انتخاب می کند. این نوع مشکل رگرسیون از "مراحل" برای توسعه معادله رگرسیون استفاده می کند. با توجه به این نوع رگرسیون، تمام پیش بینی کنندگان ممکن است حتی در معادله رگرسیون نهایی ظاهر نشوند.
• رگرسیون سلسله مراتبی ، مانند مرحله گام، یک فرایند متوالی است، اما متغیرهای پیش بینی در یک پیش تعیین شده در پیش تعیین شده در مدل وارد شده اند، یعنی الگوریتم شامل مجموعه ای از معادلات ساخته شده برای تعیین نظم نیست که در آن پیش بینی کننده ها را وارد کنید این است که اغلب استفاده می شود زمانی که فرد ایجاد معادله رگرسیون دانش متخصص در زمینه است.

• رگرسيون به صورت مقطعي نيز مشابه مرحله گيري است، اما مجموعه متغيرها را به جز متغيرهاي فردي تحليل مي کند.