Z praktického hlediska má L1 tendenci zmenšovat koeficienty na nulu, zatímco L2 má tendenci zmenšovat koeficienty rovnoměrně. L1 je proto užitečná pro výběr vlastností, protože můžeme vypustit jakékoli proměnné spojené s koeficienty, které jdou na nulu. L2 je na druhou stranu užitečná, když máte kolineární/kolineární funkce.
Jaké je použití regularizace Co je to regularizace L1 a L2?
L1 regularizace poskytuje výstup v binárních vahách od 0 do 1 pro vlastnosti modelu a je přijata pro snížení počtu prvků v obrovském rozměrovém souboru dat. Regulace L2 rozptyluje chybové výrazy ve všech vahách, což vede k přesnějším přizpůsobeným finálním modelům.
Jaké jsou rozdíly mezi regularizací L1 a L2?
Hlavní intuitivní rozdíl mezi regularizací L1 a L2 je v tom, že regulace L1 se snaží odhadnout medián dat, zatímco regularizace L2 se snaží odhadnout průměr dat, aby se předešlo přeplnění. … Tato hodnota bude také matematicky mediánem distribuce dat.
Co je regularizace L1 a L2 v hlubokém učení?
Upravování L2 je také známé jako úbytek hmotnosti, protože nutí závaží klesat směrem k nule (ale ne přesně k nule). V L1 máme: V tomto penalizujeme absolutní hodnotu vah. Na rozdíl od L2 zde mohou být hmotnosti sníženy na nulu. Proto je velmi užitečné, když se snažíme komprimovatnáš model.
Jak funguje regularizace L1 a L2?
Regresní model, který používá techniku regularizace L1, se nazývá regrese lasa a model, který používá L2, se nazývá Ridgeova regrese. Klíčovým rozdílem mezi těmito dvěma je trestná lhůta. Ridge regrese přidává k funkci ztráty „druhou mocninu“koeficientu jako penalizační člen.
