ORDINARY LEAST SQUARE (OLS)

Dalam model regresi linear sederhana untuk mengetahui hubungan antara dua variabel yang salah satu variabel menjadi variabel dependent (tak bebas) dan variabel lainnya independent (variabel bebas). Dalam analisis regresi linear, hasil akhir yang diperoleh adalah fungsi regresi populasi yang didapat dari fungsi regresi sampel yang nantinya dapat digunakan untuk estimasi.

Ada beberapa metode yang dapat digunakan untuk mengestimasi fungsi regresi, salah satunya adalah OLS (Ordinary Linear Square). OLS merupakan metode estimasi fungsi regresi yang paling sering digunakan. Kriteria OLS adalah "Line of Best Fit" atau dengan kata lain jumlah kuadrat dari deviasi antara titik-titik observasi dengan garis regresi adalah minimum. 

Dalam model regresi linear memiliki beberapa asumsi dasar yang harus dipenuhi untuk menghasilkan estimasi yang BLUE, yaitu : Homoscedastic, no-multicollinearity dan no-autocorrelation.

Adapun estimator yang BLUE, adalah

1. Best, hasil model regresi adalah terbaik dan menghasilkan error yang kecil.
2. Linear, model yang digunakan dalam regresi sesuai kaidah model OLS yaitu linear dan pangkat variabel-variabelnya paling tinggi adalah satu
3. Unbiased, nilai yang diharapkan (hasil estimasi menggunakan model regresi) sama dengan nilai yang benar
4. Estimator, model regresi yang terbentuk memiliki varians yang minimal dari estimator lainnya.

Asumsi-asumsi yang BLUE :

1. Model regresi adalah linear dalam parameter
2. Error term berdistribusi normal, implikasinya Y dan distribusi sampling koefisien regresi memiliki distribusi normal. Sehingga nilai harapan dan rata-rata kesalahan (error) adalah nol.
3. Varians tetap (homoscedastic)
4. Tidak ada hubungan variabel bebas dengan error term
5. Tidak ada autocorrelation antara error term
6. Pada regresi linear berganda hubungan antarvariabel bebas (multicolinearity) tidak terjadi.

Hasil estimasi yang bersifat BLUE, sebagai berikut :

1. Efisien, hasil nilai estimasi memiliki varians yang minimum dan tidak bias
2. Tidak bias (unbiased), hasil estimasi sesuai dengan parameter
3. Konsisten, jika ukuran sampel ditambah tanpa batas, maka hasil nilai estimasi akan mendekati parameter populasi sebenarnya. (jika memenuhi asumsi normal, dimana error term berdistribusi normal standar dengan mena nol dan standar deviasi satu)
4. Intercept nilai dependent saat nilai independent nol memiliki distribusi normal
5. Koefisien regresi akan memiliki distribusi normal

Referensi:

• Mendenhall, Sincinch. 1996. A Second Course In Statistics. Regression Analysis. Fifth Edition. Prentice Hall Internatiomal Edition.
• Priyatno, Duwi. 2010. Paham Analisa Statistik Data dengan SPSS. Mediakom. Yogyakarta.
• Shochrul dkk. Cara Cerdas Menguasai Eviews. Salemba Empat. 2011. Jakarta.