چرا از آنتروپی متقاطع طبقه ای استفاده کنیم؟

فهرست مطالب:

چرا از آنتروپی متقاطع طبقه ای استفاده کنیم؟
چرا از آنتروپی متقاطع طبقه ای استفاده کنیم؟
Anonim

متقاطع طبقه‌ای یک تابع ضرر است که در وظایف طبقه‌بندی چند طبقه استفاده می‌شود. اینها وظایفی هستند که در آنها یک مثال فقط می تواند به یکی از دسته های ممکن تعلق داشته باشد و مدل باید تصمیم بگیرد که کدام یک. به طور رسمی، طراحی شده است تا تفاوت بین دو توزیع احتمال را کمیت کند.

چرا به جای MSE از آنتروپی متقابل استفاده کنیم؟

اول، آنتروپی متقابل (یا از دست دادن softmax، اما آنتروپی متقابل بهتر عمل می کند) معیار بهتری نسبت به MSE برای طبقه بندی است، زیرا مرز تصمیم گیری در یک کار طبقه بندی بزرگ است(در مقایسه با رگرسیون). … برای مشکلات رگرسیون، تقریبا همیشه از MSE استفاده می کنید.

تفاوت بین آنتروپی متقاطع پراکنده و آنتروپی متقاطع طبقه ای چیست؟

تنها تفاوت بین آنتروپی متقاطع طبقه‌ای پراکنده و آنتروپی متقاطع طبقه‌بندی قالب برچسب‌های واقعی است. هنگامی که ما یک مشکل طبقه بندی تک برچسبی و چند طبقه ای داریم، برچسب ها برای هر داده متقابلاً انحصاری هستند، به این معنی که هر ورودی داده فقط می تواند به یک کلاس تعلق داشته باشد.

چگونه از دست دادن آنتروپی متقاطع طبقه ای را تفسیر می کنید؟

آنتروپی متقاطع با اختلاف احتمال پیش‌بینی‌شده نمونه از مقدار واقعی افزایش می‌یابد. بنابراین، پیش‌بینی احتمال 0.05 زمانی که برچسب واقعی مقدار 1 دارد، ضرر آنتروپی متقاطع را افزایش می‌دهد. نشان دهنده احتمال پیش بینی شده بین 0 و 1 برای آن نمونه است.

چرا آنتروپی متقابل خوب است؟

به طور کلی، همانطور که می بینیم آنتروپی متقاطع به سادگی راهی برای اندازه گیری احتمال یک مدل است. آنتروپی متقاطع مفید است زیرا می تواند توصیف کند که یک مدل چقدر محتمل است و تابع خطای هر نقطه داده. همچنین می تواند برای توصیف یک نتیجه پیش بینی شده در مقایسه با نتیجه واقعی استفاده شود.

توصیه شده:

مقالات جالب
آیا 300 اسپارتی یک داستان واقعی بود؟
ادامه مطلب

آیا 300 اسپارتی یک داستان واقعی بود؟

به طور خلاصه، نه به اندازه پیشنهاد. درست است که در نبرددر ترموپیل فقط ۳۰۰ سرباز اسپارتی حضور داشتند، اما آنها تنها نبودند، زیرا اسپارت ها با سایر ایالت های یونانی متحد شده بودند. گمان می رود که تعداد یونانیان باستان نزدیک به 7000 نفر بوده است.

آیا انجیر هنگام چیدن می رسد؟
ادامه مطلب

آیا انجیر هنگام چیدن می رسد؟

انجیر پس از چیدن به رسیدن خود ادامه نمی دهد مانند بسیاری از میوه های دیگر. می توان گفت که زمان برداشت انجیر است که گردن میوه پژمرده شده و میوه ها آویزان می شوند. اگر میوه انجیر را خیلی زود بچینید طعم وحشتناکی خواهد داشت. میوه رسیده شیرین و خوشمزه است.

علامت زودیاک تاپ چیست؟
ادامه مطلب

علامت زودیاک تاپ چیست؟

1 Toph: Taurus این علامت زمین به دلیل داشتن امنیت بسیار در دیدگاه های خود نسبت به جهان و حتی سرسخت بودن مشهور است. آزولا چه علامت زودیاک است؟ 5 Scorpio (23 اکتبر - 21 نوامبر): شاهزاده آزولایک عقرب به این شهرت دارد که برنامه های خود را زودتر از موعد مقرر می کند و منتظر لحظه مناسب است.