Wat is geregulariseerde lineaire regressie?
Wat is geregulariseerde lineaire regressie?

Video: Wat is geregulariseerde lineaire regressie?

Video: Wat is geregulariseerde lineaire regressie?
Video: Regularization Part 1: Ridge (L2) Regression 2024, Mei
Anonim

regularisatie . Dit is een vorm van regressie , die de schattingen van de coëfficiënten naar nul beperkt/regulariseert of verkleint. Met andere woorden, deze techniek ontmoedigt het leren van een meer complexe of flexibele model -, om het risico van overfitting te voorkomen. Een eenvoudige relatie voor lineaire regressie het lijkt op dit.

Dienovereenkomstig, wat is lambda in lineaire regressie?

Wanneer we een hoge graad hebben lineair polynoom dat wordt gebruikt om een reeks punten in a. te passen lineaire regressie setup, om overfitting te voorkomen, gebruiken we regularisatie, en we nemen een lambda parameter in de kostenfunctie. Dit lambda wordt vervolgens gebruikt om de theta-parameters in het algoritme voor gradiëntafdaling bij te werken.

Ten tweede, wat is het doel van regularisatie? regularisatie is een techniek die wordt gebruikt voor het afstemmen van de functie door een extra strafterm toe te voegen aan de fout functie . De aanvullende term regelt de overdreven fluctuerende functie zodat de coëfficiënten geen extreme waarden aannemen.

Waarom moeten we op deze manier regulariseren in regressie?

Het doel van regularisatie is om overfitting te voorkomen, met andere woorden wij proberen modellen te vermijden die extreem goed passen bij de trainingsgegevens (gegevens die worden gebruikt om het model te bouwen), maar slecht passen bij testgegevens (gegevens die worden gebruikt om te testen hoe goed het model is). Dit staat bekend als overfitting.

Wat betekent regularisatie?

In wiskunde, statistiek en informatica, met name in machine learning en inverse problemen, regularisatie is het proces van het toevoegen van informatie om een slecht gesteld probleem op te lossen of om overfitting te voorkomen. regularisatie is van toepassing op objectieve functies in slecht gestelde optimalisatieproblemen.

Aanbevolen: