เหตุใดจึงใช้วิธีกำลังสองน้อยที่สุดธรรมดาในการถดถอยเชิงเส้น

เหตุใดจึงใช้วิธีกำลังสองน้อยที่สุดธรรมดาในการถดถอยเชิงเส้น
Anonim

ตอบ:

หากสมมติฐาน Gauss-Markof มีไว้ OLS จะแสดงข้อผิดพลาดมาตรฐานต่ำสุดของตัวประมาณเชิงเส้นใด ๆ เพื่อให้ตัวประมาณเชิงเส้นที่เป็นกลางที่สุด

คำอธิบาย:

รับสมมติฐานเหล่านี้

  1. พารามิเตอร์ co-efficents เป็นเส้นตรงนี่ก็หมายความว่า # beta_0 และ beta_1 # เป็นเส้นตรง แต่ # x # ตัวแปรไม่จำเป็นต้องเป็นเส้นตรง # x ^ 2 #

  2. ข้อมูลที่ได้จากการสุ่มตัวอย่าง

  3. ไม่มีความหลากหลายที่สมบูรณ์แบบดังนั้นตัวแปรสองตัวจึงไม่มีความสัมพันธ์กันอย่างสมบูรณ์

  4. #สหภาพยุโรป#/#x_j) = 0 # หมายความว่าสมมติฐานตามเงื่อนไขเป็นศูนย์หมายความว่า # x_j # ตัวแปรไม่ได้ให้ข้อมูลเกี่ยวกับความหมายของตัวแปรที่ไม่ได้รับการตรวจสอบ

  5. ผลต่างมีค่าเท่ากันสำหรับระดับใด ๆ # x # นั่นคือ #var (U) = ซิก ^ 2 #

จากนั้น OLS เป็นตัวประมาณค่าแบบเส้นตรงที่ดีที่สุดในประชากรของตัวประมาณแบบเชิงเส้นหรือ (ตัวประมาณค่าแบบเส้นตรงที่ดีที่สุด) BLUE

หากคุณมีข้อสันนิษฐานเพิ่มเติมนี้:

  1. ความแปรปรวนจะกระจายตามปกติ

ตัวประมาณค่า OLS จะกลายเป็นตัวประมาณค่าที่ดีที่สุดโดยไม่คำนึงว่าเป็นตัวประมาณค่าแบบเชิงเส้นหรือไม่ใช่แบบเชิงเส้น

สิ่งนี้หมายความว่าถ้าการสันนิษฐาน 1-5 ถือแล้ว OLS ให้ข้อผิดพลาดมาตรฐานต่ำสุดของการประมาณเชิงเส้นใด ๆ และถ้า 1-6 ค้างไว้ก็ให้ข้อผิดพลาดมาตรฐานต่ำสุดของการประมาณ