Estimasi Parameter Bernoulli dengan Metode MLE

Metode Maximum Likelihood Estimation (MLE) adalah salah satu metode yang digunakan untuk mengestimasi parameter dalam statistika. Dalam artikel ini, kita akan membahas bagaimana MLE dapat digunakan untuk mengestimasi parameter \( \theta \) dalam distribusi Bernoulli. Dalam distribusi Bernoulli, kita memiliki variabel acak \( X \) yang mengambil nilai 1 dengan probabilitas \( \theta \) dan nilai 0 dengan probabilitas \( 1-\theta \). Kita ingin mengestimasi parameter \( \theta \) berdasarkan sampel \( X_{1}, X_{2}, \ldots, X_{n} \) yang merupakan hasil dari n percobaan Bernoulli independen dan identik. Langkah pertama dalam menggunakan metode MLE adalah menentukan fungsi likelihood. Dalam kasus ini, fungsi likelihood didefinisikan sebagai perkalian dari probabilitas masing-masing observasi, yaitu: \[ L(\theta) = \prod_{i=1}^{n} P(X_{i} = x_{i}) \] Dalam distribusi Bernoulli, probabilitas \( P(X_{i} = x_{i}) \) dapat ditulis sebagai \( \theta^{x_{i}}(1-\theta)^{1-x_{i}} \), di mana \( x_{i} \) adalah nilai observasi ke-i. Langkah selanjutnya adalah mengambil logaritma dari fungsi likelihood untuk mempermudah perhitungan. Log-likelihood didefinisikan sebagai: \[ l(\theta) = \log L(\theta) = \sum_{i=1}^{n} \log(\theta^{x_{i}}(1-\theta)^{1-x_{i}}) \] Sekarang, tujuan kita adalah mencari nilai \( \theta \) yang maksimalkan log-likelihood. Untuk mencapai ini, kita dapat mengambil turunan pertama dari log-likelihood terhadap \( \theta \), dan menyelesaikan persamaan turunan tersebut sama dengan nol. Dalam kasus ini, turunan pertama dari log-likelihood adalah: \[ \frac{dl(\theta)}{d\theta} = \sum_{i=1}^{n} \left(\frac{x_{i}}{\theta} - \frac{1-x_{i}}{1-\theta}\right) \] Dengan menyelesaikan persamaan turunan tersebut, kita dapat menemukan estimasi MLE dari \( \theta \). Namun, perlu diingat bahwa estimasi MLE dapat memiliki sifat yang baik dalam beberapa kasus, tetapi juga dapat memiliki sifat yang buruk dalam kasus lain. Oleh karena itu, penting untuk mempertimbangkan sifat statistik dan keandalan estimasi MLE sebelum menggunakannya dalam analisis statistik. Dalam kesimpulan, metode MLE adalah salah satu metode yang digunakan untuk mengestimasi parameter dalam statistika. Dalam distribusi Bernoulli, MLE dapat digunakan untuk mengestimasi parameter \( \theta \) berdasarkan sampel \( X_{1}, X_{2}, \ldots, X_{n} \). Metode ini melibatkan penentuan fungsi likelihood, mengambil logaritma dari fungsi likelihood, dan mencari nilai \( \theta \) yang maksimalkan log-likelihood. Namun, perlu diingat bahwa estimasi MLE dapat memiliki sifat yang baik atau buruk tergantung pada kasusnya.