judul asli: bagaimana menjadi pandai dalam penelitian

Dari awal oleh Vivek, Analis AI

Bahasa asli: MinLi, AI Builder

Tak ada yang mengajarimu cara melakukan penelitian. Anda mendapatkan meja, pertanyaan bahwa orang lain mengambil, dan instruksi samar untuk membuat sesuatu yang baru。

Jadi, kebanyakan orang melakukan rekayasa terbalik pekerjaan melalui apa yang dapat mereka lihat (misalnya makalah, pos dan pengumuman), dan akhirnya mereka belajar hanya bagaimana untuk "melihat" seperti peneliti, bukan bagaimana "menjadi"seorang peneliti. Kapasi kapabilitas penelitian yang nyata adalah tumpukan keterampilan kecil, dan hampir setiap orang dapat dikembangkan melalui latihan yang disengaja。

Kau memilih masalah sendiri

Hei, Richard Hamming memiliki kebiasaan di Bell Lab, yang membuatnya sangat tidak diterima saat makan siang. Ia bertanya kepada orang - orang yang duduk di sebelahnya apa pertanyaan penting di ladang mereka, dan kemudian mengapa mereka tidak mempelajarinya. Jadi orang-orang mengubah meja mereka untuk makan。

Ini adalah pertanyaan yang sangat pelit, karena kebanyakan dari kita tidak memiliki jawaban yang baik. Kami tidak memilih masalahnya, tetapi kami menyerapnya — dari mentor kami, dari buletin yang dikeluarkan oleh laboratorium besar pada kuartal terakhir, dari surat kabar yang telah dikirimkan kepada kami sepanjang minggu ini。

Masalah dengan penyerapan adalah bahwa Anda hanya memiliki kesimpulan, tanpa mengetahui logika di belakang mereka. Kau tahu laboratorium terkenal yang peduli tentang arah tertentu, tapi kau tidak tahu mengapa, atau apa yang mereka harapkan untuk menemukan, atau apa yang akan membuat mereka meninggalkan arah itu。

Ketika mereka berbalik, Anda tidak akan melihat sampai setahun kemudian. Dan, pada masalah yang sudah populer, Anda berjalan dengan 1.000 orang yang mulai lebih awal dan menghitung lebih baik dari Anda。

Panduan Penelitian Pembelajaran Mesin untuk John Schulman membagi karya ini menjadi dua model. Pertama, Anda membaca lektur dan mencari tempat untuk memperbaiki diri. KeduaKau memilih hasil yang benar-benar ingin kau capai, dan kemudian kau mendorongnya kembali untuk merancang eksperimen。

Ia berpendapat untuk yang kedua karena menciptakan orisinalitas. Tujuan yang benar-benar Anda pedulikan akan menyeret Anda ke wilayah yang tidak ditutupi oleh kertas umum。

sedangkan selera, sering dibahas sebagai hadiah. tapi itu lebih seperti otot。

Sebelum menjalankan setiap percobaan, memprediksi hasilnya; meliputi hasil dari sebuah kertas dan menebak data dengan caranya sendiri; merekam hasil apa yang diterbitkan bulan ini akan tetap penting setelah dua tahun, dan kemudian memverifikasi tingkat hit Anda kemudian. Satu prediksi, satu kesalahan, dan beberapa ratus kali -- itulah bagaimana setiap model yang baik dilatih, termasuk yang ada di kepalamu。

[ Gambar di hlm

Daftar bacaan bersama berkongsi menghasilkan ide bersama. Jika jatah info Anda hanya daftar panas arXiv ditambah obrolan kelompok. Apa yang tersisa dari pemilu pasti datang ke kesimpulan yang sama seperti semua orang, yang membuat mereka hampir tidak berharga。

Nilai informasi lama telah diremehkan secara serius. Ini adalah daerah yang terus berulang-ulang masa lalunya sendiri: Model Pakar Campuran (MoE) berasal dari tahun 1991 dan STM sampai 1997, ketika transmisi terbalik menjadi mainstream pada tahun 1986。

Hikmah Rich Sutton menulis "The Bitter Lesson" pada tahun 2019 dengan hanya seribu kata, dan prediksinya mengenai lintasan perkembangan di daerah ini sepuluh kali lebih akurat daripada yang ada. Claude Shannon memberikan pidato tentang pemikiran kreatif pada 1952, dan langkah pertamanya adalah untuk memperkecil masalah ke tingkat yang hampir tidak signifikan, memecahkan versi yang dikurangi, dan kemudian menambahkan kembali sedikit kesulitan。

Ini saja akan membantu Anda memecahkan lebih banyak dinding daripada proposal produktivitas modern。

Luas dan kedalamannya sama pentingnya。Penelitian explanatory menarik pada neurosciences dengan cara yang tidak terbantahkan; evaluasi (Eval) desain adalah desain mekanisme dalam mass putih; selama ada pemahaman praktis tentang bagaimana GPU memindahkan memori, Anda akan dapat menentukan makalah arsitektur mana yang ditakdirkan gagal sebelum hasil tes benchmarking tersedia; dan statistik yang jujur mungkin sudah menjadi keterampilan paling langka dalam bidang pembelajaran mesin, di mana banyak dari kertas-kertas publik yang diterbitkan "quiet" hanya merasa kesalahan。

Satu hal lagi。Baca kertas itu sendiri, bukan pos yang merangkumnya。Apendik adalah tempat di mana rahasia dikuburkan, dan bagian Ørestrisif" biasanya merupakan bagian yang paling jujur dari seluruh dokumen。

Tulis semuanya

Paul Graham menunjukkan bahwa ide selalu sangat matang sebelum Anda mencoba menerjemahkannya ke dalam kata-kata. Tapi hitam dan putih akan mengungkap lubang di otakmu yang belum pernah kau uji, bahwa kau tidak dalam posisi yang konsisten, bahwa kau bertentangan satu sama lain。

Prinsip dari Feynman adalah bahwa orang pertama yang harus Anda hindari dari kecurangan adalah diri sendiri, karena Anda adalah target termudah。Penulisan adalah mekanisme pertahanan paling murah yang pernah diciptakan。

Darwin pergi lebih jauh, dan ia memprogramnya: fakta apapun yang bertentangan dengan teorinya akan ditulis di tempat, karena ia menemukan bahwa memorinya dapat dihapus pada tingkat yang jauh lebih cepat daripada bukti yang menguntungkan. Jadi adalah memori Anda untuk Anda gagal menjalankan catatan。

Mengekalkan kebiasaan log: asumsi, pengaturan, harapan, hasil, persepsi terbaru. Mebaca kembali catatan bulan lalu akan membuat Anda merasa sangat rendah hati dan tidak ada pengulas akan mampu melakukannya。

Bahasa Asli