Kategorická krosentropie je ztrátová funkce, která se používá v úlohách klasifikace více tříd. Jedná se o úlohy, kde příklad může patřit pouze do jedné z mnoha možných kategorií a model musí rozhodnout, kterou z nich. Formálně je navržen pro kvantifikaci rozdílu mezi dvěma rozděleními pravděpodobnosti.
Proč používat křížovou entropii místo MSE?
Za prvé, křížová entropie (neboli ztráta softmax, ale křížová entropie funguje lépe) je pro klasifikaci lepším měřítkem než MSE, protože rozhodovací hranice v klasifikační úloze je velká(ve srovnání s regresí). … Pro regresní problémy byste téměř vždy použili MSE.
Jaký je rozdíl mezi řídkou křížovou entropií a kategorickou křížovou entropií?
Jediný rozdíl mezi řídkou kategorickou křížovou entropií a kategorickou křížovou entropií je formát skutečných štítků. Když máme problém klasifikace s jedním štítkem a více třídami, štítky se vzájemně vylučují pro každý údaj, což znamená, že každý záznam dat může patřit pouze do jedné třídy.
Jak interpretujete ztrátu kategorické křížové entropie?
Křížová entropie se zvyšuje s tím, jak se předpokládaná pravděpodobnost vzorku odchyluje od skutečné hodnoty. Proto předpovídání pravděpodobnosti 0,05, když má skutečný štítek hodnotu 1, zvyšuje ztrátu křížové entropie. označuje předpokládanou pravděpodobnost mezi 0 a 1 pro tento vzorek.
Proč je křížová entropie dobrá?
Celkově, jak vidíme, křížová entropie je jednoduše způsob, jak měřit pravděpodobnost modelu. Křížová entropie je užitečná, protože může popsat, jak pravděpodobný je model a chybovou funkci každého datového bodu. Může být také použit k popisu předpokládaného výsledku v porovnání se skutečným výsledkem.
