- Overfitting: berbagai varian, mengingat entrenamiento dan falla en datas nuevos; Anda dapat melakukan regularisasi, validasi, poda, dropout, lebih banyak data, dan penghentian awal.
- Underfitting: alto sesgo, incapaz de aprender patrones; Anda akan mitigasi dengan lebih banyak kerumitan, lebih banyak waktu, lebih banyak kreativitas dan lebih sedikit pengaturan.
- Sesgo–varianza: keseimbangan kritis; sepenuhnya mengurangi itu tetapi menambah varian, dan sebaliknya.
- Latihan kelas: calidad de datas, normalización, monitorizar drift, k-fold, ensambles (bagging/boosting) dan transfer learning.
Saat memasuki model pembelajaran mesin, ada beberapa hal yang jelas: yang berfungsi dengan baik dengan data yang Anda lihat dan, tentu saja, dengan data baru. Keseimbangan ini memasuki pemahaman sebenarnya dan generalisasi tanpa menghafal Ini adalah perbedaan antara tampilan prototipe dan sistem yang dapat diterapkan dalam produksi.
Masalah yang terjadi di titik tengah ini bukanlah hal yang sepele. Kesalahan klasik yang terjadi: overfitting (sbreajuste) dan underfitting (subajuste). Yang pertama muncul ketika modelnya mulai berubah menjadi data entrenamiento yang mengacaukan ruido dengan señal; kedua, ketika modelnya sederhana (atau sangat terbatas) yang tidak perlu Anda batasi dasar-dasarnya. Bagian berikutnya dari ver las causas, señales, ejemplos, hubungan dengan hal tersebut dan perbedaannya, dan gudang teknik praktis untuk memperbaiki setiap kasus.
Apa itu overfitting dan underfitting
Sebuah model yang terlalu cocok untuk digunakan dalam rangkaian entrenamiento Anda, termasuk keanehan dan outlier yang tidak Anda ulangi. Memulai pelatihan dan melakukan validasi atau tes. Seperti seorang pelajar yang mempelajari jawaban memori: belajar simulacro, tapi dalam ujian nyata se pierde.
Underfitting adalah cara kerja. Modelnya tidak mampu menangkap struktur masalah: rinde mal tanto en entrenamiento seperti ujian. Bayangkan menyesuaikan data langsung yang mengikuti kurva; karena muy bien que la estires, no va a encajar bien. Penyesuaian yang tepat mungkin akan disertai dengan variasi yang tinggi dan baja.
Dalam praktiknya, ini adalah situasi dengan metrik dalam hal-hal tertentu. Perbedaan besar antara kinerja dan validasi dalam waktu singkat, sementara hasil yang diperoleh cukup baik. Selain itu, periksa kembali kesalahan saat entrenamiento berikutnya dalam pistas tambahan.
Sesgo y varianza: keseimbangan yang lezat
Berikut ini adalah penyebab kesalahannya: sesgo (bias) y varianza (análisis de varianza). Hal ini terjadi ketika model memiliki anggapan yang sangat sederhana (simplicidad yang berlebihan), yang akan membuat Anda tidak cocok. Varians sube ketika modelnya sangat masuk akal karena fluktuasi kecil dalam mode entrenamiento, yang menyebabkan overfitting.
Yang terkenal trade-off sesgo-varianza Anda harus menemukan titik perantara. Saat menambah komplejidad, maka akan mengurangi jumlah tersebut tetapi lebih sedikit variannya; secara sederhana, terjadi sebaliknya. Dalam jangka waktu yang lama, hal ini akan mengurangi jumlah varian yang dapat diciptakan, sehingga Anda dapat memantau perilaku validasi dan tidak memasukkan ciegas tanpa batas waktu.
Contoh cepat: prediksi harga hidup. Sebuah garis lurus (yang sebenarnya) dapat membuat garis lurus jika hubungan itu melengkung (kurang pas); un polinomio de grado 4 que toque setiap punto puede capturar el ruido (alta varianza, overfitting); tidak kurva ramah tamah yang moderat (Sebagai contoh, sebuah polinomio de grado 2 bien regularizado) biasanya merupakan kompromi yang besar.
Bagaimana mengidentifikasi setiap masalah
Berikut adalah beberapa tip yang termasuk: presisi tinggi dalam entrenamiento dan claramente inferior dalam ujian; kegagalan entrenamiento saat memasukkan kesalahan validasi yang dilakukan kepadanya; kepekaan yang ekstrim terhadap sedikit perubahan di pintu masuk; ya model yang lebih lengkap “ganen” dalam entrenamiento tapi tidak lebih dari generalisasi.
Untuk penyesuaian tersebut, lakukan pengukuran yang biasa-biasa saja dalam kombinasi dan peningkatan yang sama: jika melewati beberapa waktu tidak ada tanda baca yang lebih baik, modelnya tidak memiliki kemampuan yang memadai. Tipikal lain dari prediksi yang diajukan oleh para generalis: pengklasifikasi yang selalu memperkirakan kelas walikota atau kemunduran yang baru saja terjadi pada media.
Validasi cruzada ayuda telah selesai. Variasi lainnya di antara lipatan (lipatan) dapat menyebabkan overfitting. Koherencia dalam keadaan biasa-biasa saja, dalam perubahan, warnanya kurang pas. Nilai akurasinya sama dengan kesalahan prediksi (MAE, MSE) atau metrik tertentu.
Penyebab kebiasaan overfitting
Masalah pertama adalah penyelesaian. Model dengan parameter yang ditingkatkan untuk kapasitas dan beragam data yang tersedia tienden dan mempelajari kekhasan lokal. Juga masuk ke dalam selama waktu yang lama tanpa kontrol: jika tidak ada aplikasi untuk suhu, el modelo puede pasar de aprender patrones a memorizar.
Lainnya melalui penyesuaian adalah kecerdikan variabel tanpa kontrol: beberapa karakteristik yang tidak relevan atau memiliki banyak korelasi empujan al modelo a ver relaciones fantasma. Semua hal kecil atau sedikit perwakilan dari masalah yang ada muestra tidak memiliki variasi yang memadai seperti model umum.
Dalam kedalaman saraf, kemampuan representasi yang besar adalah senjata ganda. Tanpa pengaturan dan data yang mencukupi, tugas-tugas tersebut harus disesuaikan dengan mudah. Termasuk aspek-aspek seperti tamaño de lote (ukuran batch) yang besar dapat berkontribusi untuk mengingat pelanggan dengan presisi yang berlebihan.
Penyebab kebiasaan underfitting
El subajuste suele venir de model yang sangat sederhana untuk menyelesaikan masalah (misalnya, lineales sobre relaciones no lineales). Las pengaturan lebih lanjut (L1/L2) juga dapat “lebih besar” dari persiapan mewajibkan solusi yang sangat sederhana.
Faktor lain adalah kegagalan informasi yang berguna dalam entri. Ya karakteristiknya tidak mengetahui faktor-faktor yang relevan, model tidak dapat diputar dan dibuka. Peningkatan yang tidak memadai atau penggunaan normalisasi/standarisasi mungkin sulit untuk melakukan optimasi dan melakukan pembelajaran yang tidak sesuai.
Pada akhirnya, juga ketika itu terjadi tidak ada waktu yang cukup (muy pocas épocas atau iteraciones), ketika jika Anda pensiun dari model dengan suhu yang lama, atau ketika calidad data tersebut tidak merusak patrones de fondo karena kerusakan yang berlebihan.
Contoh cotidianos untuk dipahami
Gambar dan visi: jika sebuah buku berwarna merah untuk menghafal piksel konkret, Anda dapat mengklik entrenamiento dan gagal dengan digit escritos de cara lain (kelebihan ukuran). Dengan teknik seperti itu augmentasi data (rotaciones, volteos) Saya menyukai generalisasi.
Finansial: model seri temporal dapat dilakukan secara berurutan perubahan pasado yang tidak akan terjadi lagi di masa depan jika itu benar. Dengan underfitting, tidak ada ciclos atau reaksi terhadap perubahan struktur.
Seorang contoh yang ingin tahu tentang penyesuaian diri adalah memasukkan robot balon dan menirunya hingga detail terakhir dari sebuah karya nyata. Robot itu telah melakukan pekerjaan yang sempurna dan aman, tetapi jika Anda menjualnya sebelum juga melakukan sesuatu yang baru. Gagal menggeneralisasikan kesalahannya.
Dalam meteorologi, cuaca akan turun dengan cepat hanya dengan suhu yang terlalu panas, menekan atau menekan. Variabel ini mungkin menyebabkan underfitting: model yang palos de ciego meskipun Anda baja termómetro.
Oleh karena itu, penyesuaian tersebut dapat “tidak sesuai” dengan penyesuaian tersebut
Ada kematian yang penting. Tidak modelo subajustado extremo Anda dapat terus mencoba, abaikan masukan: kesalahan Anda dalam pengujian rondaria la varian dari tujuan variabel. Dalam perubahannya, model yang disesuaikan dengan pola yang menginterpolasi semua poin entrenamiento dapat dilakukan menghasilkan picos espurios di antara banyak muestras dan menghilangkan kesalahan dalam uji potensi yang bersifat dekmunal.
Ini dapat berupa ayat dengan polinomios de alto grado atau incluso con redes MLP parameterparametrizadas: jika Anda mengatur setiap titik, “oscilan” di antara pengamatan dan menciptakan nilai-nilai yang absurd dari muestra. Hasilnya adalah penurunan produktivitas akibat kerja no tiene un tope claro.
Overfitting vs parameter parameter: tidak ada yang salah
Temukan terminal yang berbeda. Sobreparametrización berarti kelas model memiliki kapasitas yang lebih besar dari kebutuhan untuk mewakili struktur masalah. overfitting terjadi ketika, dado un modelo concreto, Anda mengoptimalkan cara yang lebih baik dalam kewirausahaan tetapi orang lain dapat melakukan generalisasi. Dengan pengaturan yang tepat, ada kemungkinan untuk mendapatkan model dengan parameter parameter yang tidak disesuaikan. Teknik pengaturan (misalnya, punggungan atau laso) membantu “menghilangkan” konsep-konsep tersebut.
Cara mengevaluasi dan memantau penyesuaiannya
Bagilah flu dalam entrenamiento, validasi dan prueba. Akurasinya bagus, kesalahan metrik yang terjadi di setiap segmen. Jika pelatihan dilakukan dengan baik tetapi validasi tersebut, perlu dilakukan penyesuaian; jika Anda melakukan kesalahan, mungkin ada kesalahan dalam kemampuan atau data.
Validasi cruzada (k-fold) mengurangi risiko mengambil kesimpulan dari satu partisi saja. Jika media validasi sudah stabil dan pengunduhan akan dilakukan secara paksa, ada jaminan lebih besar dari model yang digeneralisasikan. Selain itu, Anda juga perlu mendefinisikan rangkaian evaluasi akhir (tes) yang dimaksud Anda tidak perlu terus-menerus menyesuaikan parameter hiper.
Selain itu, jaga distribusi data pada saat itu. Penyimpangan data (perubahan dalam distribusi entri) dapat diubah menjadi model yang tidak dapat diservis yang fungsinya: pantau dan masuk kembali secara berkala itu bagian dari penerimaan, bukan sesuatu yang enak.
Teknik untuk mengurangi overfitting
Datos y más datos. Tingkatkan volume dan variasikan aktivitas ayuda bahwa model tersebut membuka alasnya dengan detail yang tidak disengaja. Itu dia, lebih baik dari itu: mendeteksi outlier ketika terjadi distorsi dan kesalahan yang benar adalah prioritas.
Regularización. L1 (lasso) mendukung pilihan karakter al llevar pesos a cero; L2 (punggungan) membalas hukuman encogiendo peso sin anularlos. Jaring elastis menggabungkan banyak hal dan berkali-kali adalah hasil yang biasa-biasa saja.
Arquitectura y entrenamiento. Dropout en redes neuronales apaga neurons aleatoriamente dan menghindari model yang bergantung pada rute tertentu. Di arboles, la poda (pemangkasan) dan membatasi kedalaman atau jumlah hari recorta la complejidad. Parada temprana: memantau pelanggaran validasi dan tindakan saat melakukan pembayaran.
Validación y selección. validasi silang k-fold untuk memvalidasi keputusan penyesuaian dan menghindari model “lebih besar” hanya dengan hati-hati. Kurangi jumlah variabel atau lebih baik masuk ke dalam varian dan meningkatkan kemampuan interpretasi.
Optimización y lotes. Lotes pequeños memperkenalkan ruido “saludable” dalam gradien, yang merupakan menu utama generalisasi; Banyak raksasa dapat memilih layanan yang tepat untuk mengoptimalkan kinerja mereka sehingga mereka dapat melakukan upaya yang tepat.
Teknik untuk mengurangi underfitting
Capacidad del modelo. Sube la complejidad if datatos lo exigen (polinómico en vez de lineal, árboles más profundos, redes minos superficiales). Clave berada di pasar frenada dan ditemani oleh validasi padat.
Regularisasi dan waktu. Jika Anda dihukum secara berlebihan, bajakan pengaturan untuk mematikan pernapasan pada model. Tambahkan angka-angka tertentu: beberapa kali modelnya memerlukan waktu lebih lama untuk mempelajarinya, selalu gunakan kata-kata tersebut dalam validasi agar tidak terjadi penyesuaian apa pun.
Karakteristik dan proses sebelumnya. Memperluas dan meningkatkan karakteristiknya (interaksi, istilah polinómicos, kodifikasi adecuadas de variabel kategoris). Normaliza o estandariza karena algoritma tersebut tidak memiliki variabel “favorezca” untuk escala. Dalam banyak kasus, menyaring kebisingan eleva la señal útil.
Datos y cobertura. Semakin banyak perwakilan data yang mengurangi kemungkinan penyesuaian. Jika hubungannya adalah dengan menanam tanaman belajar transfer dalam visi NLP untuk berpartisipasi dalam representasi Anda dan menghindari model yang “tidak ada perintah”.
Kualitas data, penyimpangan dan otomatisasi
La calidad de datos manda. Ketepatan, kelengkapan, dan konsistensi harus melakukan audit dan melakukan pelanggaran terhadap hal-hal yang mungkin terjadi. Teknik seperti itu normalisasi (0-1) atau standarisasi (media 0, pendaratan 1) menghindari model variabel prima melalui skala.
Pada saat itu, data Kambia. Penyimpangan data dapat menyebabkan overfitting seperti underfitting dalam konteks baru. Penerimaan: memantau metrik, memeriksa distribusi, dan memasukkan kembali data secara berkala.
Alat dari ML Otomatis dapat mempercepat pemilihan parameter hiper, kecerdikan karakteristik, dan pembuatan evaluasi saluran pipa, dengan bebas waktu untuk menganalisis tingkat tinggi. Riwayatnya: layanan Amazon Machine Learning ya, tidak ada aktualisasi dan penerimaan pengguna baru; jika Anda bekerja dengan dokumentasi antigua, kami sedang menyajikannya.
Señales clave dan reglas de pulgar
Dalam praktik sehari-hari, banyak hal yang sama: lakukan jika modelnya sedang menyesuaikan diri atau jika sederhananya jika Anda melakukan hal itu dengan entrenamiento. Dengan pengalaman, Anda akan melihat rutin tiga hal berikut: gran brecha entre train y test (sobreajuste), hasil yang konsisten bajos en ambos (subajuste), dan varianza alta entre lipatan (sobreajuste de manual).
Tidak ada batasan pada metrik yang berguna dalam entrenamiento. Batas waktu yang tidak dapat Anda ambil dalam kereta tetapi bekerja dalam validasi adalah saran untuk MEMORIZACIÓN. Jika terjadi, itu akan dilakukan pada waktu tertentu dan aplikasi regulerisasi.
Ensamblado, pemilihan karakter dan permainan lote
Metode Ayudan. Bagging (seperti Random Forest) mengurangi varian dan tentu saja itu adalah antidoto terhadap penyesuaian ringan; Meningkatkan (seperti XGBoost) mengurangi sesgo dan Anda dapat menggunakan model-model Levantar yang sederhana, bahkan jika Anda ingin menyesuaikannya dengan apa pun.
La pemilihan karakteristik menghilangkan variabel-variabel yang berlebihan atau tidak relevan, mengurangi kebisingan dan ambil bagian dalam generalisasi. Ini adalah solusi yang paling efektif jika terjadi masalah karena input yang berlebihan.
Tentang tamaño de lote ya lo insinuamos: banyak hal kecil yang memperkenalkan variabilitas dalam gradien ya menudo generalisan mejor; Banyak orang yang hebat bisa mendapatkan solusi yang ingin mereka pelajari tetapi harus melalui ujian.
Pilih algoritma: empieza sencillo, escala cuando toque
Bergantung pada masalah dan data, keluarga lain yang lebih cemerlang. Jika ada yang jelas, SVM atau bola mungkin tidak terlalu bagus. Dengan gabungan yang besar dan lengkap, yang mendalam atau menggabungkan potensi fleksibilitas terkini. Model sencillos seperti regresi linier atau k-NN Ini berguna dengan kumpulan data sederhana dan ketika kemampuan interpretasi prima.
Sebuah strategi yang efektif dibandingkan versi sederhana dan lengkap secara paralel dengan semacam validasi. Kadang-kadang Anda menyelesaikannya hanya dengan sedikit kelemahan. Tidak ada kebutuhan model yang “lebih rumit”, karena lebih mungkin dilakukan di dunia nyata.
Kasus Penggunaan dan Kehati-hatian dalam Negosiasi
Di Sanidad, sebuah prediksi yang mungkin harus digeneralisasikan pada semua rumah sakit atau kelompok tertentu. Sobreajustar a patrones locales puede ser peligroso; subajustar, inútil. Dalam hal keuangan, modelnya seperti itu menghafal vaivenes históricos fallan al traducirlos en señales futuras.
Pada kendaraan otonom, sistem deteksi harus mengenali objek dan lingkungan yang bervariasi; menghafal gambar-gambar konkret tanpa perlu. Di NLP, jika Anda adalah analis sentimen mempelajari frase entrenamiento “de carrerilla”, tidak ada formulasi baru yang masuk.
Tingkat perdagangan yang tepat sasaran a positif palsu (misalnya, penipuan) strategi yang dilakukan oleh perusahaan dalam validasi internal tetapi se desploman al desplegarse. Subajuste, di sisinya, menghasilkan prediksi tibia yang hanya bisa dilakukan dengan hal-hal sepele, meminta kepercayaan, dan melengkapi data.
Latihan yang sering dan mematikan
Bagaimana cara memilih karakter yang dapat dihindari? Al quitar ruido dan redundancias, mengurangi varian dan meningkatkan generalisasi. Ini adalah primer yang sedang diuji jika ada hal yang tidak relevan.
¿Los ensambles mengurangi masalah-masalah lain? Bagging tiende a bajar varianza (minus sobreajuste) y Meningkatkan a bajar sesgo (minus subajuste). Benar sekali, itu sangat kuat.
Mengapa hal itu sangat mendasar dan mudah dilakukan? Por su enorme capacidad. Regularisasi, dropout dan lebih banyak data/peningkatan sangat penting untuk menjaga kejujuran.
¿El tamaño de lote influye? Ya. Lotes pequeños memperkenalkan ruido beneficioso yang menyukai generalisasi; lotes grandes dapat “memorizar” dengan lebih mudah.
¿Transfer learning ayuda? Banyak. Disetujui mewakili kamu yang baru saja belajar dan mengurangi tingkat penyesuaian yang berlebihan (kekurangan kapasitas efektif) seperti penyesuaian pada kumpulan data kecil.
Checklist accionable rápido
Untuk mengatasi praktik perekaman, ya kereta api/uji celah besar, piensa en regularización, belum selesai, lebih banyak data, berhenti lebih awal, keluar, bisa di árboles, dan valida con k-fold. Ya ampun mal en train y test, pertimbangkan lebih banyak kapasitas, lebih banyak waktu, bajar regularización, karakteristik utama, dan proses yang memadai (normalisasi/estandarisasi).
Y no olvides lo operativo: memantau penyimpangan, planifica reentrenos, cuida la calidad de datas y, si tiene sentido, apóyate en AutoML untuk mengotomatisasi bagian-bagian mekanis dari operasi hiperparámetros dan saluran pipa evaluasi.
Semua ini adalah tema keseimbangan: captar la señal sin perseguir el ruido. Ketika keseimbangan ini ada, model berfungsi di dalam dan di laboratorium; ketika Anda bermain-main, itu akan terjadi. Buka deteksi data, terapkan teknik yang tepat, dan lihat datanya menandai perbedaan antara “que corre” dan “que aporta valor”.
