Analisi Regresi Sederhana Metode Kuadrat Terkecil Biasa Tujuan analisis regresi adalah untuk menghasilkan estimasi nilai

a (titik potong vertical) dan b (kemiringan) dari garis regresi: Ŷt = â + bXt Dalam persamaan diatas, adalah estimasi dari penerimaan penjualan perusahaan tahun t yang diperoleh dari garis regresi untuk tingkat pengeluaran iklan pada tahun t(Xt), serta â dan b merupakan estimasi dari parameter a dan b, deviasi dari galat (et) dari setiap observasi penerimaan penjualan (Yt) dari nilainya yang berhubungan yang berasal dari garis regresi (Ŷt), yaitu: Et = Yt – Ŷt = Yt – â – bXt Jumlah dari simpangan kuadrat atau galat ini dapat dituliskan sebagai: (Rumus 4-5) Dimana (rumus) adalah jumlah keseluruhan observasi, dari periode waktu t = 1 sampai ke t = n. Estimasi dari nilai a dan b diperoleh dari meminimumkan jumlah simpangan kuadrat rumus diatas. 4Nilai b diberikan oleh: (Rumus 4-6) Dimana Y dan X adalah rata rata nilai dari Yt dan Xt, nilai dari a tersebut kemudian diperoleh dari (Rumus 4-7) Analisis regresi dilandasi oleh beberapa asumsi yang penting, yaitu bahwa factor galat (1) mempunyai distribusi normal, (2) mempunyai rata rata atau nilai harapan sama dengan nol, dan (3) mempunyai varians yang konstan dalam setiap periode waktu dan pada semua nilai X, serta (4) nilainya pada suatu periude tertentu tidak tergantung pada nilainya dalam periode manapun juga. Asumsi asumsi ini dibutuhkan untuk menghasilkan estimasi koefisien kemiringan yang tidak bisa dan mampu memenuhi teori probabilitas untuk menguji keandalan dari estimasi.

X merupakan rata rata atau nilai yang diharapkan dari variable bebas. Variasi total pada Y dapat diukur dengan mengkuadratkan simpangan dari setiap nilai observasi Y dari rata ratanya dan kemudian menjumlahkannya yaitu: (Rumus 4-11) Analisis regresi memecah variasi total ini menjadi dua bagian: variasi dari Y yang dapat dijelaskan oleh variable bebas (x) dan yang tidak dapat dijelaskan ata variasi residual dari Y.Uji Signifikansi Estimasi Parameter Untuk menguji hipotesis bahwa b adalah signfikan secara statistic (bahwa iklan memengaruhi penjualan secara positif) . tetapi penting sekali untuk mengetahi bagaimana cara menghitungnya dan bagaimana menggunakannya untuk melakukan uji signifikansi ini. Variasi yang dapat dijelaskan dari Y diberikan oleh persamaan: (Rumus 4-12) Nilai dari Y pada persamaan diatas diperoleh dengan mensubtitusikan berbagai macam nilai observasi dari X kedalam persamaan regresi hasil estimasi. Karena dalam analisis regresi ederhana kita mengestimasi dua parameter. variasi Y yang dapat dijelaskan.Ini didapat dengan menghitung nilai koefisiensi determinasi. n adalah jumlah observasi atau titik data yang dipakai dalam mengestimasi garis regresi. Yt merupakan nilai variable terikat pada tahun t yang diestimasi dari garis regresi. dan variasi residual yang tidak dapat dijelaskan dari variable terikat Y. pertama kita perlu menghitung galat baku dari b. Uji Kecocokan Model dan Korelasi Selain menguji signihikansi secara statistic dari parameter tertentu hasil estimasi. kita juga dapat menguji kekuatan variable penjelas secara keseluruhan dari keselruhan regresi. dan k adalah jumlah koefisien yang di estimasi dalam regresi. Variasi yang tidak dapat dijelaskan dari Y diberikan oleh persamaan: (Rumus 4-13) . e merupakan factor galat atau Yt – Yt. yang biasa diberi symbol R2. Nilai n – k disebut sebagai derajat kebebasan. Koefisien dterminasi dinyatakan sebagai proporsi dari variasi total ata disperse dari variable terikat yang bisa dijelaskan oleh variasi dari variable variable bebas atau penjelas pada regresi. maka nilai k adalah 2 sehingga derajat kebebasan adalah n – 2. Galat baku B diberikan oleh: (Rumus 4-9) Dimana Yt dan Xt merupakan sampel observasi actual dari variable terikat dan bebas pada tahun t. galat baku dari b sudah disediakan secara langsung oleh hasil computer dalam suatu analisis regresi. Kita dapat menghitung koefisien determinasi dengan menentukan total variasi Y. a dan b .

adalah mungkin koefisien determinasi yang tinggi antara X dan Y dapat mengarah pada factor lainnya yang memengaruhi keduanya. akar kuadrat dari koefisien determinasi merupakan koefisien korelasi yang ditulis sebagai r dimana (Rumus 4-16).Artinya. kemudian dikuadratkan dan dijumlahkan Secara singkat. kida dapat mengatakan bahwa ada korelasi atau kovarian antara X dan Y tanpa mengidentifikasi satu variable (X) sebagai variable bebas atau penjelas. variasi yang tidak dapat dijelaskan ata variasi residual dari Y diperoleh pertama dengan mengurangkan setiap nilai observasi Y nilai estimasi dari Y. X dan Y. Sesungguhnya. kita peroleh Variasi total = Variasi yang dapat dijelaskan + Variasi yang tidak dapat dijelaskan (Rumus 4-14) Dua hal terakhir yang harus diperhatikan terhadap koefisien determinasi. Dalam hal itu. Pertama bahwa dalam analisis regresi sederhana. yang tidak termasuk dalam analisis regresi. .

Nilai statistic diberikan oleh: . Proses mengestimasi parameter atau koefisien dari persamaan regresi ganda secara prinsip sama dengan analisis regresi sederhana. mereka pada umumnya dikerjakan oleh computer. b2 merupakan parameter yang harus diestimasi. Analisis Varians Kekatan menerangkan secara selruhnya dari keseluruhan regresi dapat diuji dengan menggunakan analisis varians. Model ini juga dikembangkan ke sekian banyak jumlah variable bebas ata variable penjelas seperti yang dituliskan persamaan: Y = a + b1X1 + B2X2 + ……+bkXk Satu satunya asumsi yang dibuat dalam analisis regresi berganda sebagai tambahan terhadap apa yang sudah ada dalam analisis regresi sederhana adalah bahwa jumlah dari variable bebas atau variable penjelas harus lebih kecil dari jumlah observasi dan tidak ada korelasi linear yang sempurna diantara sesame variable bebas. Semakin banyak berhubungan variable bebas ata variable penjelas yang relevan dimasukan dalam regresi. dan di interpretasikan. Model regresinya dapat ditulis sebagai: Y = a + b1X1 + b2X2 Dimana Y adalah variable terikat yang merupakan penerimaan penjualan perusahaan. kita memiliki analisis regresi berganda. Koefisien Determinasi dan R2 yang Disesuaikan Seperti halnya analisis regresi sederhana. dihipotesis tergantung pada lebih dari satu variable bebas atau variable penjelas . secara umum kita akan mengharapkan proporsi yang lebih besar dari variasi total pada variable terikat yang dapat dijelaskan. Sebagai contoh penerimaan penjualan suatu perusahaan dapat dikatakan tidak hanya bergantung pada pengeluaran iklan tetapi juga pada pengeluaran untuk pengendalian mutu. koefisien daterminasi mengukur proporsi dari variasi total variable terikat yang dijelaskan oleh variasi variable bebas atau variable penjelas dalam regresi. X1 merupakan pengeluaran iklan perusahaan. Ini menggunakan statistic F atau rasio F. b1. dan X2 merpakan pengeluaran untuk biaya pengendalian mutu. Semua yang dibutuhkan untuk membuat suatu analisis regresi. Koefisien a. hanya karena kalkulasinya lebih rumit dan memakan waktu.ANALISIS REGRESI BERGANDA Model Regresi Berganda Pada saat variable terikat yang kita cari untuk dijelaskan. yang juga disediakan dari hasil computer. masukkan datanya kedalam computer.

Se dari regresi ini dapat digunakan untuk mengestimasi interval keyakinan dari variable terikat.(Rumus 4-21) Dimana. . kemudian menggunakannya beserta nilai SE dari regresi untuk menghasiklan estimasi peramalan atau interval untuk Y. kita dapat menggunakan estimasi regresi untuk menemukan estimasi peramalan atau titik dari Y. n adalah jumlah observasi. dan k adalah jumlah dari parameter atau koefisien yang diestimasi dalam regresi. Statistik F juga dapat dihitung dalam hubungannya dengan koefisien determinasi. Karena F ini merupakan rasio antara kedua varians yang ada maka uji ini sering disebut sebagai analisis varians. sebagai berikut: Rumus (4-22) Estimasi Titik dan Interval Semakin kecil nilai galat baku dari regresi ini. seperti biasanya. semakin baik garis regresi yang ada memenuhi semua observasi atau data sampelnya. Secara spesifik.