Analisi Regresi Sederhana Metode Kuadrat Terkecil Biasa Tujuan analisis regresi adalah untuk menghasilkan estimasi nilai

a (titik potong vertical) dan b (kemiringan) dari garis regresi: Ŷt = â + bXt Dalam persamaan diatas, adalah estimasi dari penerimaan penjualan perusahaan tahun t yang diperoleh dari garis regresi untuk tingkat pengeluaran iklan pada tahun t(Xt), serta â dan b merupakan estimasi dari parameter a dan b, deviasi dari galat (et) dari setiap observasi penerimaan penjualan (Yt) dari nilainya yang berhubungan yang berasal dari garis regresi (Ŷt), yaitu: Et = Yt – Ŷt = Yt – â – bXt Jumlah dari simpangan kuadrat atau galat ini dapat dituliskan sebagai: (Rumus 4-5) Dimana (rumus) adalah jumlah keseluruhan observasi, dari periode waktu t = 1 sampai ke t = n. Estimasi dari nilai a dan b diperoleh dari meminimumkan jumlah simpangan kuadrat rumus diatas. 4Nilai b diberikan oleh: (Rumus 4-6) Dimana Y dan X adalah rata rata nilai dari Yt dan Xt, nilai dari a tersebut kemudian diperoleh dari (Rumus 4-7) Analisis regresi dilandasi oleh beberapa asumsi yang penting, yaitu bahwa factor galat (1) mempunyai distribusi normal, (2) mempunyai rata rata atau nilai harapan sama dengan nol, dan (3) mempunyai varians yang konstan dalam setiap periode waktu dan pada semua nilai X, serta (4) nilainya pada suatu periude tertentu tidak tergantung pada nilainya dalam periode manapun juga. Asumsi asumsi ini dibutuhkan untuk menghasilkan estimasi koefisien kemiringan yang tidak bisa dan mampu memenuhi teori probabilitas untuk menguji keandalan dari estimasi.

Ini didapat dengan menghitung nilai koefisiensi determinasi. pertama kita perlu menghitung galat baku dari b.Uji Signifikansi Estimasi Parameter Untuk menguji hipotesis bahwa b adalah signfikan secara statistic (bahwa iklan memengaruhi penjualan secara positif) . a dan b . n adalah jumlah observasi atau titik data yang dipakai dalam mengestimasi garis regresi. Nilai n – k disebut sebagai derajat kebebasan. dan variasi residual yang tidak dapat dijelaskan dari variable terikat Y. tetapi penting sekali untuk mengetahi bagaimana cara menghitungnya dan bagaimana menggunakannya untuk melakukan uji signifikansi ini. Uji Kecocokan Model dan Korelasi Selain menguji signihikansi secara statistic dari parameter tertentu hasil estimasi. Galat baku B diberikan oleh: (Rumus 4-9) Dimana Yt dan Xt merupakan sampel observasi actual dari variable terikat dan bebas pada tahun t. dan k adalah jumlah koefisien yang di estimasi dalam regresi. maka nilai k adalah 2 sehingga derajat kebebasan adalah n – 2. e merupakan factor galat atau Yt – Yt. yang biasa diberi symbol R2. variasi Y yang dapat dijelaskan. Kita dapat menghitung koefisien determinasi dengan menentukan total variasi Y. Koefisien dterminasi dinyatakan sebagai proporsi dari variasi total ata disperse dari variable terikat yang bisa dijelaskan oleh variasi dari variable variable bebas atau penjelas pada regresi. Variasi total pada Y dapat diukur dengan mengkuadratkan simpangan dari setiap nilai observasi Y dari rata ratanya dan kemudian menjumlahkannya yaitu: (Rumus 4-11) Analisis regresi memecah variasi total ini menjadi dua bagian: variasi dari Y yang dapat dijelaskan oleh variable bebas (x) dan yang tidak dapat dijelaskan ata variasi residual dari Y. galat baku dari b sudah disediakan secara langsung oleh hasil computer dalam suatu analisis regresi. Karena dalam analisis regresi ederhana kita mengestimasi dua parameter. Variasi yang dapat dijelaskan dari Y diberikan oleh persamaan: (Rumus 4-12) Nilai dari Y pada persamaan diatas diperoleh dengan mensubtitusikan berbagai macam nilai observasi dari X kedalam persamaan regresi hasil estimasi. X merupakan rata rata atau nilai yang diharapkan dari variable bebas. Yt merupakan nilai variable terikat pada tahun t yang diestimasi dari garis regresi. kita juga dapat menguji kekuatan variable penjelas secara keseluruhan dari keselruhan regresi. Variasi yang tidak dapat dijelaskan dari Y diberikan oleh persamaan: (Rumus 4-13) .

Artinya. Sesungguhnya. akar kuadrat dari koefisien determinasi merupakan koefisien korelasi yang ditulis sebagai r dimana (Rumus 4-16). variasi yang tidak dapat dijelaskan ata variasi residual dari Y diperoleh pertama dengan mengurangkan setiap nilai observasi Y nilai estimasi dari Y. adalah mungkin koefisien determinasi yang tinggi antara X dan Y dapat mengarah pada factor lainnya yang memengaruhi keduanya. yang tidak termasuk dalam analisis regresi. Dalam hal itu. X dan Y. kita peroleh Variasi total = Variasi yang dapat dijelaskan + Variasi yang tidak dapat dijelaskan (Rumus 4-14) Dua hal terakhir yang harus diperhatikan terhadap koefisien determinasi. . kida dapat mengatakan bahwa ada korelasi atau kovarian antara X dan Y tanpa mengidentifikasi satu variable (X) sebagai variable bebas atau penjelas. Pertama bahwa dalam analisis regresi sederhana. kemudian dikuadratkan dan dijumlahkan Secara singkat.

b2 merupakan parameter yang harus diestimasi. secara umum kita akan mengharapkan proporsi yang lebih besar dari variasi total pada variable terikat yang dapat dijelaskan. Sebagai contoh penerimaan penjualan suatu perusahaan dapat dikatakan tidak hanya bergantung pada pengeluaran iklan tetapi juga pada pengeluaran untuk pengendalian mutu. dihipotesis tergantung pada lebih dari satu variable bebas atau variable penjelas . Model regresinya dapat ditulis sebagai: Y = a + b1X1 + b2X2 Dimana Y adalah variable terikat yang merupakan penerimaan penjualan perusahaan. hanya karena kalkulasinya lebih rumit dan memakan waktu. dan di interpretasikan. b1. koefisien daterminasi mengukur proporsi dari variasi total variable terikat yang dijelaskan oleh variasi variable bebas atau variable penjelas dalam regresi. kita memiliki analisis regresi berganda. Nilai statistic diberikan oleh: . Ini menggunakan statistic F atau rasio F. X1 merupakan pengeluaran iklan perusahaan. Analisis Varians Kekatan menerangkan secara selruhnya dari keseluruhan regresi dapat diuji dengan menggunakan analisis varians. Semakin banyak berhubungan variable bebas ata variable penjelas yang relevan dimasukan dalam regresi. Koefisien Determinasi dan R2 yang Disesuaikan Seperti halnya analisis regresi sederhana. Model ini juga dikembangkan ke sekian banyak jumlah variable bebas ata variable penjelas seperti yang dituliskan persamaan: Y = a + b1X1 + B2X2 + ……+bkXk Satu satunya asumsi yang dibuat dalam analisis regresi berganda sebagai tambahan terhadap apa yang sudah ada dalam analisis regresi sederhana adalah bahwa jumlah dari variable bebas atau variable penjelas harus lebih kecil dari jumlah observasi dan tidak ada korelasi linear yang sempurna diantara sesame variable bebas. dan X2 merpakan pengeluaran untuk biaya pengendalian mutu. mereka pada umumnya dikerjakan oleh computer. Proses mengestimasi parameter atau koefisien dari persamaan regresi ganda secara prinsip sama dengan analisis regresi sederhana. Koefisien a.ANALISIS REGRESI BERGANDA Model Regresi Berganda Pada saat variable terikat yang kita cari untuk dijelaskan. yang juga disediakan dari hasil computer. masukkan datanya kedalam computer. Semua yang dibutuhkan untuk membuat suatu analisis regresi.

. Statistik F juga dapat dihitung dalam hubungannya dengan koefisien determinasi. sebagai berikut: Rumus (4-22) Estimasi Titik dan Interval Semakin kecil nilai galat baku dari regresi ini. Karena F ini merupakan rasio antara kedua varians yang ada maka uji ini sering disebut sebagai analisis varians. dan k adalah jumlah dari parameter atau koefisien yang diestimasi dalam regresi.(Rumus 4-21) Dimana. seperti biasanya. kita dapat menggunakan estimasi regresi untuk menemukan estimasi peramalan atau titik dari Y. kemudian menggunakannya beserta nilai SE dari regresi untuk menghasiklan estimasi peramalan atau interval untuk Y. Se dari regresi ini dapat digunakan untuk mengestimasi interval keyakinan dari variable terikat. n adalah jumlah observasi. Secara spesifik. semakin baik garis regresi yang ada memenuhi semua observasi atau data sampelnya.