از نقطه نظر عملی، L1 تمایل دارد ضرایب را به صفر کاهش دهد در حالی که L2 تمایل دارد ضرایب را به طور مساوی کاهش دهد. بنابراین L1 برای انتخاب ویژگی مفید است، زیرا می‌توانیم متغیرهای مرتبط با ضرایب را که به صفر می‌رسند حذف کنیم. از سوی دیگر، L2 زمانی مفید است که ویژگی‌های هم خطی/همبسته داشته باشید.
نظم‌سازی چه کاربردی دارد تنظیم‌سازی L1 و L2 چیست؟
منظم‌سازی
L1 خروجی در وزن‌های باینری از ۰ تا ۱ برای ویژگی‌های مدل ارائه می‌کند و برای کاهش تعداد ویژگی‌ها در مجموعه داده‌های بعدی بزرگ به کار می‌رود. منظم‌سازی L2 عبارت‌های خطا را در همه وزن‌ها پراکنده می‌کند که منجر به مدل‌های نهایی سفارشی‌شده دقیق‌تر می‌شود.
تفاوت بین منظم سازی L1 و L2 چیست؟
تفاوت شهودی اصلی بین منظم‌سازی L1 و L2 این است که منظم‌سازی L1 سعی می‌کند میانگین داده‌ها را تخمین بزند در حالی که منظم‌سازی L2 سعی می‌کند میانگین داده‌ها را برای جلوگیری از برازش بیش از حد تخمین بزند.. … این مقدار همچنین میانه توزیع داده ها از نظر ریاضی خواهد بود.
قانونی سازی L1 و L2 در یادگیری عمیق چیست؟
تنظیم
L2 به عنوان کاهش وزن نیز شناخته می شود زیرا وزنه ها را مجبور می کند تا به سمت صفر (اما نه دقیقاً صفر) فروپاشی کنند. در L1، داریم: در این، مقدار مطلق اوزان را جریمه می کنیم. برخلاف L2، وزن ها ممکن است در اینجا به صفر کاهش یابد. از این رو، زمانی که می خواهیم فشرده سازی کنیم بسیار مفید استمدل ما.
تنظیم L1 و L2 چگونه کار می کند؟
یک مدل رگرسیونی که از تکنیک منظم سازی L1 استفاده می کند رگرسیون کمند و مدلی که از L2 استفاده می کند رگرسیون ریج نامیده می شود. تفاوت اصلی بین این دو در مدت مجازات است. رگرسیون ریج "قدر مربع" ضریب را به عنوان جریمه به تابع ضرر اضافه می کند.
