شرایط جریمه منظم سازی با سوگیری داده ها به سمت مقادیر خاص (مانند مقادیر کوچک نزدیک به صفر) کار می کند. … تنظیم L1 یک جریمه L1 برابر با مقدار مطلق بزرگی ضرایب اضافه می کند. به عبارت دیگر، اندازه ضرایب را محدود می کند.
تنظیم L1 و L2 چگونه کار می کند؟
تفاوت شهودی اصلی بین منظم‌سازی L1 و L2 این است که منظم‌سازی L1 سعی می‌کند میانگین داده‌ها را تخمین بزند، در حالی که منظم‌سازی L2 سعی می‌کند میانگین داده‌ها را تخمین بزند. از نصب بیش از حد خودداری کنید … این مقدار همچنین میانه توزیع داده ها از نظر ریاضی خواهد بود.
آیا منظم کردن L1 بهتر است یا L2؟
از نقطه نظر عملی، L1 تمایل دارد ضرایب را به صفر کاهش دهددر حالی که L2 تمایل دارد ضرایب را به طور مساوی کاهش دهد. بنابراین L1 برای انتخاب ویژگی مفید است، زیرا می‌توانیم متغیرهای مرتبط با ضرایب را که به صفر می‌رسند حذف کنیم. از سوی دیگر، L2 زمانی مفید است که ویژگی‌های هم خطی/همبسته داشته باشید.
تنظیم کننده چگونه کار می کند؟
تنظیم‌سازی با اضافه کردن جریمه یا عبارت پیچیدگی یا عبارت جمع‌شدگی با مجموع مربعات باقی‌مانده (RSS) به مدل مختلط کار می‌کند. β0، β1، ….. β تخمین ضرایب را برای متغیرها یا پیش‌بینی‌کننده‌های مختلف (X) نشان می‌دهد که به ترتیب وزن یا بزرگی متصل به ویژگی‌ها را توصیف می‌کند.
چگونه منظم کردن L1 باعث کاهش اضافه برازش می شود؟
منظم‌سازی L1 که به‌عنوان هنجار L1 یا کمند نیز شناخته می‌شود (در مشکلات رگرسیون)، با کاهش پارامترها به سمت 0 با
بیش از حد برازش مبارزه می‌کند.
