Pengantar Data Mining

Dalam era informasi, informasi dipercaya dapat mengarah pada kekuatan dan kesuksesan, dan berkat teknologi canggih seperti komputer, satelit, dll. Awalnya, dengan munculnya komputer dan sarana untuk penyimpanan digital, akan dapat digunakan untuk mengumpulkan dan menyimpan segala macam data, menghitung dengan jumlah data yang besar dan membantu memilah-milah campuran dari informasi. Sayangnya, koleksi data yang banyak dan yang tersimpan dengan struktur yang bermacammacam akan menimbulkan kekacauan dalam menyusun database terstruktur (DBMS). Perkembangan sistem manajemen database juga memberikan kontribusi untuk pertemuan massa di massa sekarang ini dengan segala macam informasi. Informasi dapat menangani: transaksi bisnis dan data ilmiah, untuk gambar satelit, laporan teks dan intelijen militer. Pencarian informasi tidak cukup lagi untuk mengambil keputusan. Dengan koleksi besar data, kita sekarang telah menciptakan kebutuhan baru untuk membantu kita membuat pilihan yang lebih baik. Kesimpulan data secara otomatis, ekstraksi dari informasi yang tersimpan, dan penemuan pola-pola dalam data mentah dapat lebih mudah dilakukan. Jenis informasi yang kumpulkan? Pengumpulan data dapat dilakukan terhadap data dari pengukuran numerik sederhana dan dokumen teks, dan untuk informasi yang lebih kompleks seperti data spasial, saluran multimedia, serta dokumen hypertext. Berikut adalah daftar non-eksklusif dari berbagai informasi yang dikumpulkan dalam bentuk digital dalam database dan di flat file : Transaksi Bisnis: Setiap transaksi dalam industri bisnis (sering) disimpan untuk selamanya. Transaksi tersebut biasanya berupadta terkait urusan antar-bisnis seperti pembelian, pertukaran, perbankan, saham, dll, atau intra-operasi bisnis seperti manajemen in-house barang dan aset. Department store besar, misalnya, berkat meluasnya penggunaan kode bar, toko jutaan transaksi sehari-hari sering mewakili terabyte data. Ruang penyimpanan bukan masalah besar, karena harga hard disk terus menurun, tetapi penggunaan yang efektif dari data dalam kerangka waktu yang wajar untuk kompetitif pengambilan keputusan pasti masalah yang paling penting untuk memecahkan untuk bisnis yang berjuang untuk bertahan hidup di dunia yang sangat kompetitif. Scientific data(Data ilmiah): Berupa data nuklir, data kehutanan, aktivitas kelautan, atau data dalam sebuah universitas, psikologi manusiadan lain sebagainya yang perlu dianalisis. Sayangnya, kita dapat menyimpan data baru lebih cepat dari pada yang kita dapat menganalisis data lama yang sudah menumpuk. Medical and personal data : Data sensus penduduk, file pelanggan, data rumah sakit, adalah penimbunan jumlah yang sangat besar dan penting dari data pribadi untuk membantu mereka dalam mengelola sumber daya manusia, memahami pasar, atau hanya membantu klien. Data tersebut sering berbenturan dengan masalah privasi. Data video dan gambar : Dengan runtuhnya harga dari kamera video analog, kamera video menjadi mana-mana. Video rekaman dari kamera pengintai biasanya didaur ulang setelah itu data dihilangkan. Namun, ada kecenderungan saat ini menyimpan kaset-kaset dan bahkan mendigitalkan data analog tersebut untuk penggunaan masa depan dan kebutuhan analisis. Satelit sensing (satelit penginderaan): terhitung banyak satelit di seluruh dunia, beberapa orbitt di atas wilayah geo-stasioner , dan ada pula yang mengorbit mengelilingi bumi, tapi semua mengirim aliran data non-stop ke bumi. NASA, yang menguasai sejumlah besar satelit, menerima lebih banyak data setiap detik. Gambar dari banyak satelit dipublikasikan segera setelah mereka diterima dengan harapan bahwa peneliti lain dapat dilakukan analisis

sesegera mungkin. Game (Permainan): Masyarakat kita mengumpulkan sejumlah besar data dan statistik tentang permainan, pemain dan atlet. Dari skor hoki, basket dan mobil-balap, renang, petinju, catur, semua data disimpan. Komentator dan wartawan menggunakan informasi ini untuk pelaporan, tetapi pelatih dan atlet akan ingin memanfaatkan data ini untuk meningkatkan kinerja dan lebih memahami lawan. Media digital: Perkembangan scanner murah, kamera video desktop dan kamera digital adalah salah satu penyebab dari ledakan di repositori media digital. Selain itu, banyak stasiun radio, saluran televisi dan studio film yang melakukan digitalisasi audio mereka dan koleksi video untuk meningkatkan pengelolaan aset multimedia. Asosiasi seperti NHL dan NBA sudah mulai mengkonversi koleksi game yang sangat besar ke dalam bentuk digital. Dunia virtual : Ada banyak aplikasi yang memanfaatkan tiga dimensi ruang virtual. Idealnya, ruang-ruang virtual yang dijelaskan sedemikian rupa sehingga mereka dapat berbagi objek dan tempat. Ada sejumlah objek virtual reality dan repositori ruang yang tersedia. Manajemen dari repositori serta konten berbasis pencarian dan pengambilan dari repositori ini masih menjadi isu penelitian, sedangkan ukuran koleksi terus bertambah. Text reports and memos (e-mail messages) : Sebagian besar komunikasi di dalam dan antar perusahaan atau organisasi penelitian atau bahkan swasta, didasarkan pada laporan dan memo dalam bentuk tekstual dan sering dikirim melalui e-mail. Pesan ini secara teratur disimpan dalam bentuk digital untuk penggunaan masa depan. The World Wide Web repositories : Sejak pengoperasian www pada tahun 1993, dokumen dari segala macam format, isi dan deskripsi telah dikumpulkan dan saling terkoneksi dengan hyperlink sehingga menjadi data repositori terbesar yang pernah dibangun. Meskipun sifatnya dinamis dan tidak terstruktur, karakteristik heterogen, redundansi dan inkonsistensi, www digunakan untuk referensi karena berbagai macam topik yang dibahas dan kontribusi tak terbatas oleh sumber daya dan penerbit. Banyak yang percaya bahwa www akan menjadi kompilasi pengetahuan manusia.

Apakah Data Mining dan Penemuan Pengetahuan? Dengan data yang banyak yang disimpan dalam file, database, dan repositori lain, pengembangan sarana yang kuat untuk proses analisis, interpretasi data dan untuk ekstraksi pengetahuan dapat digunakan untuk membantu dalam pengambilan keputusan. Data Mining, juga dikenal sebagai Penemuan Pengetahuan dalam Database atau Knowledge Discovery in Databases (KDD), didapatkan berbagai informasi yang tidak diketahui sebelumnya dari data dalam database. Gambar berikut menunjukkan data mining sebagai hasil penemuan pengetahuan.

Penemuan Pengetahuan dalam proses Database terdiri dari beberapa langkah terkemuka dari koleksi data mentah ke beberapa bentuk pengetahuan baru. Proses iteratif terdiri dari langkah-langkah berikut: Data Clearing/Pembersihan data: adalah tahap di mana kebisingan data dan data yang tidak relevan dikeluarkan dari koleksi. Data Integration/Integrasi data: beberapa sumber data yang sering heterogen, dapat digabungkan dalam sumber yang sama. Data Selection/Data seleksi: data yang relevan dengan analisis tersebut ditetapkan dan diambil dari koleksi data. Data Transformation/Transformasi data: juga dikenal sebagai konsolidasi data, adalah fase di mana data yang dipilih akan diubah menjadi bentuk yang sesuai dengan prosedur (maining prosedur). Data mining: adalah langkah penting dalam teknik yang cerdas, berpotensi dan berguna yang diterapkan untuk mengekstrak pola. Pattern Evaluation/Evaluasi Pola: pada langkah ini, pola dievaluasi agar dapat mewakili pengetahuan dan diidentifikasi berdasarkan langkah-langkah yang diberikan. Knowledge Representation/Representasi pengetahuan: adalah tahap akhir di mana pengetahuan ditemukan secara visual kepada pengguna. Ini langkah penting untu menggunakan teknik visualisasi untuk membantu pengguna memahami dan menafsirkan data hasil pertambangan. Langkah-langkah tersebut dapat dilakukan secara bersama. Sebagai contoh, data clearing dan integrasi data dapat dilakukan bersama-sama sebagai fase pra-pengolahan untuk menghasilkan data warehouse. Data seleksi dan transformasi data juga dapat dikombinasikan dengan konsolidasi data. KDD adalah proses berulang-ulang. Setelah menemukan pengetahuan yang disajikan kepada pengguna, langkah-langkah evaluasi dapat ditingkatkan, mining dapat lebih disempurnakan, data baru bisa dipilih atau lebih jauh berubah, atau sumber data baru dapat diintegrasikan, untuk mendapatkan yang berbeda, hasil yang lebih tepat. Jenis data apa yang dapat digali(mining)? Pada prinsipnya, data mining tidak spesifik untuk satu jenis media atau data. Data mining harus berlaku untuk setiap jenis repositori informasi. Namun, algoritma dan pendekatan mungkin berbeda bila diterapkan pada berbagai jenis data. Tantangan yang disajikan oleh berbagai jenis data bervariasi secara signifikan. Data mining sedang mulai digunakan dan dipelajari, termasuk database relasional, objectrelational database dan berorientasi objek database, data warehouse, database transaksional, tidak terstruktur dan semi-terstruktur repositori seperti World Wide Web, database canggih seperti database spasial, database multimedia, time-series database dan tekstual database, dan bahkan flat file. Berikut adalah beberapa contoh secara lebih rinci: Flat file: Flat file sebenarnya sumber data yang paling umum untuk algoritma data mining, khususnya di tingkat penelitian. Flat file adalah data sederhana file dalam format teks atau biner dengan struktur yang dikenal oleh algoritma data mining untuk diterapkan. Data dalam file-file ini bisa transaksi, time-series data, pengukuran ilmiah, dll. Database Relasional: Secara singkat, database relasional terdiri dari satu set tabel yang mengandung baik nilai dari atribut entitas, atau nilai-nilai atribut dari hubungan. Tabel memiliki kolom dan baris, di mana kolom mewakili atribut dan baris mewakili tupel. Sebuah tuple dalam tabel relasional sesuai dengan baik objek atau hubungan antara objek dan diidentifikasi oleh seperangkat nilai atribut yang mewakili kunci yang unik. Pada berikut disajikan beberapa tabel : Customer hubungan, Produk, dan Pinjam mewakili kegiatan usaha dalam VideoStore:

Bahasa query yang paling umum digunakan untuk database relasional adalah SQL, yang memungkinkan pengambilan dan manipulasi data yang disimpan dalam tabel, serta perhitungan fungsi agregat seperti rata-rata, jumlah, min, max dan jumlah. Misalnya, sebuah query SQL untuk memilih video yang dikelompokkan berdasarkan kategori adalah: SELECT count(*) FROM Items WHERE type=video GROUP BY category. Algoritma data mining menggunakan database relasional dapat lebih fleksibel daripada algoritma data mining khusus ditulis untuk file flat, karena mereka dapat mengambil keuntungan dari struktur yang melekat ke database relasional. Sementara data mining bisa mendapatkan keuntungan dari SQL untuk seleksi data, transformasi dan konsolidasi, melampaui apa yang bisa menyediakan SQL, seperti memprediksi, membandingkan, mendeteksi penyimpangan, dll. Data Warehouses: Sebuah data warehouse sebagai gudang, adalah gudang data yang dikumpulkan dari berbagai sumber data (sering heterogen) dan dimaksudkan untuk digunakan secara keseluruhan di bawah skema terpadu yang sama. Sebuah data warehouse memberikan pilihan untuk menganalisa data dari sumber yang berbeda di bawah satu atap. Mari kita anggap bahwa VideoStore menjadi waralaba di Amerika Utara. Banyak toko video milik perusahaan VideoStore mungkin memiliki database yang berbeda dan struktur yang berbeda. Jika eksekutif perusahaan ingin mengakses data dari semua toko untuk pengambilan keputusan strategis, pemasaran masa depan, arah, dll, itu akan lebih tepat untuk menyimpan semua data dalam satu situs dengan struktur homogen yang memungkinkan analisis interaktif. Dengan kata lain, data dari toko yang berbeda akan dimuat, dibersihkan, diubah dan terintegrasi bersama. Untuk memudahkan pengambilan keputusan dan multi-dimensi, data warehouse biasanya dimodelkan dengan struktur data multi-dimensi. Gambar berikut menunjukkan contoh subset tiga dimensi dari struktur kubus data yang digunakan untuk data warehouse VideoStore.

Angka ini menunjukkan sewa diringkas dikelompokkan berdasarkan kategori film, maka tabel silang penyewaan diringkas oleh kategori film dan waktu (dalam perempat). Kubus Data memberikan sewa dirangkum sepanjang tiga dimensi: kategori, waktu, dan kota. Kubus berisi sel-sel yang menyimpan nilai dari beberapa tindakan agregat (dalam hal ini jumlah sewa), dan sel khusus yang menyimpan penjumlahan sepanjang dimensi. Setiap dimensi kubus data berisi hirarki nilai untuk satu atribut. Untuk mengembangkan hasil dikenal sebuah teknologi yaitu On-Line Analytical Processing (OLAP) . Online Analytical Processing atau disingkat OLAP adalah sebuah pendekatan secara cepat menyediakan jawaban-jawaban terhadap kueri analitik yang multidimensi di dalam alam. OLAP adalah bagian dari kategori yang lebih global dari pemikiran bisnis, yang juga merangkum hubungan antara pelaporan dan penggalian data. Aplikasi khusus dari OLAP adalah pelaporan bisnis untuk penjualan, pemasaran, manajemen pelaporan, manajemen proses bisnis (MPB), penganggaran dan peramalan, laporan keuangan dan bidang-bidang yang serupa. Istilah OLAP merupakan perampingan dari istilah lama database OLTP (Online Transaction Processing). Operasi OLAP memungkinkan navigasi data pada berbagai tingkat abstraksi, seperti drill-down, roll-up, iris, dadu, dll Gambar 1.4 mengilustrasikan drill-down (pada dimensi waktu) dan roll-up (pada lokasi dimensi) operasi.

Transaction Databases: satu set catatan yang mewakili transaksi, masing-masing ditandai dengan tanda waktu, sebuah identifier dan satu set item. Terkait dengan file transaksi juga bisa menjadi data deskriptif untuk item. Sebagai contoh, dalam kasus toko video, tabel sewa seperti yang ditunjukkan pada Gambar berikut merupakan database transaksi. Setiap record adalah kontrak sewa dengan pelanggan, tanggal, dan daftar item sewa (misalnya kaset video, permainan, VCR, dll). Karena database relational tidak mengijinkan tabel bersarang, transaksi biasanya disimpan dalam flat file atau disimpan dalam dua tabel transaksi normal, satu untuk transaksi dan satu untuk item transaksi. Ciri khas data mining adalah analisis pada data tersebut aturan asosiasi di mana hubungan antara item yang terjadi bersama-sama atau secara berurutan dapat dipelajari.

Database Multimedia: Multimedia database termasuk video, gambar, audio dan media teks. Mereka dapat disimpan pada database object-relational atau object-oriented databases , atau hanya pada sistem file. Multimedia ditandai dengan dimensi tinggi, yang membuat data mining lebih hallenging. Data mining dari repositori multimedia mungkin memerlukan Computer vision, komputer grafis, interpretasi citra, dan metodologi pengolahan bahasa alami. Database Spasial: database spasial adalah database bukan data biasa, menyimpan informasi geografis seperti peta, dan global positioning atau regional. Database spasial tersebut memberikan tantangan baru untuk algoritma data mining.

Time-Series Databases: berisi data terkait data pasar saham atau kegiatan login. Database ini biasanya memiliki aliran data baru masuk secara kontinu , yang kadang-kadang menyebabkan kebutuhan analisis secara real time. Data mining dalam database tersebut umumnya meliputi studi tentang trend dan korelasi antara evolusi dari variabel yang berbeda, serta prediksi tren dan pergerakan variabel waktu. Gambar berikut menunjukkan beberapa contoh time-series data.

World Wide Web: World Wide Web adalah repositori yang paling heterogen dan dinamis yang tersedia. Sebuah jumlah yang sangat besar dari penulis dan penerbit terus berkontribusi terhadap pertumbuhan dan metamorfosis, dan sejumlah besar pengguna yang mengakses sumber daya sehari-hari. Data dalam World Wide Web ini saling terkoneksi antar dokumen. Dokumen-dokumen ini dapat berupa teks, audio, video, data mentah, dan bahkan aplikasi. Secara konseptual, World Wide Web terdiri dari tiga komponen utama: Isi dari Web, yang meliputi dokumen; struktur Web, yang mencakup hyperlink dan hubungan antara dokumen, dan penggunaan web, menjelaskan bagaimana dan ketika sumber daya yang diakses. Dimensi keempat dapat ditambahkan berkaitan sifat dinamis atau evolusi dari dokumen. Data mining di World Wide Web, mencoba untuk mengatasi semua masalah ini dan sering dalam web.

Apa yang bisa digali?

Jenis pola yang dapat ditemukan tergantung pada tugas data mining yang digunakan. Pada umumnya, ada dua jenis tugas data mining: data mining deskriptif (descriptive data mining tasks) yang menggambarkan sifat umum dari data yang ada. Data mining prediksi data (predictive data mining tasks) yang berusaha untuk melakukan prediksi berdasarkan inferensi pada data yang tersedia. Fungsionalitas data mining dan berbagai pengetahuan yang ditemukan secara singkat disajikan dalam daftar berikut: Karakterisasi: karakterisasi Data adalah summarization dari fitur umum dari objek dalam kelas target, dan menghasilkan apa yang disebut aturan khas. Data yang relevan dengan kelas yang ditentukan pengguna biasanya diambil oleh query database dan dijalankan melalui modul summarization untuk mengekstrak esensi dari data pada berbagai tingkat abstraksi. Sebagai contoh, seseorang mungkin ingin mencirikan pelanggan VideoStore yang rutin menyewa lebih dari 30 film setahun. Dengan konsep hirarki pada atribut yang menggambarkan kelas target, atribut berorientasi metode induksi dapat digunakan, misalnya, untuk melakukan summarization data. Perhatikan bahwa kubus dengan data yang berisi rangkuman data, operasi OLAP sederhana sesuai dengan tujuan karakterisasi data. Diskriminasi: diskriminasi data menghasilkan apa yang disebut aturan diskriminan dan pada dasarnya adalah perbandingan fitur umum dari objek antara dua kelas disebut sebagai kelas target dan kelas kontras. Sebagai contoh, seseorang mungkin ingin membandingkan karakteristik umum pelanggan yang menyewa lebih dari 30 film dalam setahun terakhir dengan mereka yang sewa akun lebih rendah dari 5. Teknik yang digunakan untuk diskriminasi data sangat mirip dengan teknik yang digunakan untuk karakterisasi data dengan pengecualian bahwa data hasil diskriminasi mencakup langkah-langkah perbandingan. Asosiasi analisis: Asosiasi analisis adalah penemuan dari apa yang biasanya disebut aturan asosiasi. Aturan ini mempelajari frekuensi item yang terjadi bersama-sama dalam database transaksional, dan berdasarkan ambang batas yang disebut dukungan, mengidentifikasi set item yang sering muncul. Sebagai contoh, manajer VideoStore ingin tahu apa film yang sering disewa bersama atau jika ada hubungan antara menyewa, beberapa jenis film dan membeli pop. Aturan asosiasi ditemukan adalah dari bentuk: P Q [s, c], di mana P dan Q adalah konjungsi atribut nilai-pasangan, dan s (dukungan) adalah probabilitas bahwa P dan Q muncul bersama dalam suatu transaksi dan c (untuk onfidence) adalah probabilitas bersyarat bahwa Q muncul dalam transaksi ketika P hadir. Sebagai contoh, aturan asosiasi hipotetik: RentType(X, game) Age(X, 13-19) Buys(X, pop) [s=2% ,c=55%] akan menunjukkan bahwa 2% dari transaksi dipertimbangkan adalah pelanggan berusia antara 13 dan 19 yang menyewa game dan membeli pop, dan bahwa ada kepastian 55% bahwa pelanggan remaja yang menyewa permainan juga membeli pop. Klasifikasi: Juga dikenal sebagai klasifikasi terbimbing, klasifikasi penggunaan yang diberikan label kelas untuk memerintahkan objek dalam pengumpulan data. Klasifikasi pendekatan biasanya menggunakan training set di mana semua benda sudah dikaitkan dengan label kelas yang diketahui. Algoritma klasifikasi belajar dari training set dan membangun model. Model ini digunakan untuk mengklasifikasikan objek baru. Sebagai contoh, setelah memulai kebijakan kredit, para manajer dapat menganalisis perilaku VideoStore pelanggan kredit mereka, dan label sesuai pelanggan yang menerima kredit dengan tiga label mungkin "aman", "berisiko" dan "sangat berisiko". Analisis klasifikasi akan

menghasilkan model yang dapat digunakan untuk menerima atau menolak permintaan kredit di masa depan. Prediksi: Prediksi telah menarik banyak perhatian diberikan implikasi potensi peramalan yang sukses dalam konteks bisnis. Ada dua jenis utama dari prediksi: satu dapat mencoba untuk memprediksi beberapa nilai data tidak tersedia atau tren yang tertunda (intuisi), atau memprediksi label kelas untuk beberapa data. Clustering: Serupa dengan klasifikasi, clustering adalah organisasi data dalam kelas. Namun, tidak seperti klasifikasi, dalam clustering, label kelas tidak diketahui dan terserah dengan algoritma clustering untuk menemukan kelas yang diterima. Clustering juga disebut klasifikasi tak terawasi, karena klasifikasi ini tidak ditentukan oleh label kelas yang diberikan. Ada banyak pendekatan pengelompokan didasarkan pada prinsip memaksimalkan kemiripan antara objek dalam kelas yang sama (intra-kelas kesamaan) dan meminimalkan kesamaan antara obyek dari kelas yang berbeda (antar-kelas kesamaan). Outlier analisis: adalah data elemen yang tidak dapat dikelompokkan dalam kelas tertentu atau cluster. Juga dikenal sebagai pengecualian atau kejutan, mereka seringkali sangat penting untuk identifikasi. Sementara outlier dapat dianggap kebisingan dan dibuang dalam beberapa aplikasi, mereka dapat mengungkapkan pengetahuan penting di domain lainnya, dan dengan demikian bisa sangat signifikan dan analisis berharga. Evolusi dan analisis deviasi: Evolusi dan analisis penyimpangan berkaitan dengan studi waktu terkait data yang berubah dan upaya untuk mencari penyebab penyimpangan dari nilai-nilai diantisipasi.