Para peneliti sedang mencari tahu bagaimana mannequin bahasa berskala besar bekerja
TWahai kebanyakan orangcara kerja inner mesin mobil atau komputer adalah misteri. Itu bisa juga menjadi kotak hitam: tidak peduli apa yang terjadi di dalamnya, yang penting berfungsi. Selain itu, orang-orang yang merancang dan membangun sistem yang rumit tersebut mengetahui cara kerjanya dengan sangat rinci, dan dapat mendiagnosis serta memperbaikinya jika terjadi kesalahan. Namun, hal itu tidak berlaku untuk mannequin bahasa yang besar (Magister Hukums), seperti GPT-4, Claude dan Gemini, yang berada di garis depan ledakan kecerdasan buatan (Kecerdasan buatan).
Magister Hukums dibangun menggunakan teknik yang disebut pembelajaran mendalam, di mana jaringan miliaran neuron, disimulasikan dalam perangkat lunak dan dimodelkan pada struktur otak manusia, diekspos ke triliunan contoh sesuatu untuk menemukan pola yang melekat. Dilatih pada string teks, Magister HukumDapat melakukan percakapan, membuat teks dalam berbagai gaya, menulis kode perangkat lunak, menerjemahkan antarbahasa, dan masih banyak lagi.
Mannequin pada dasarnya dikembangkan, bukan dirancang, kata Josh Batson, seorang peneliti di Anthropic, sebuah lembaga Kecerdasan buatan memulai. Karena Magister HukumTidak diprogram secara eksplisit, tidak ada yang sepenuhnya yakin mengapa mereka memiliki kemampuan luar biasa seperti itu. Mereka juga tidak tahu mengapa Magister HukumKadang-kadang berperilaku buruk, atau memberikan jawaban yang salah atau dibuat-buat, yang dikenal sebagai “halusinasi”. Magister Hukums benar-benar kotak hitam. Hal ini mengkhawatirkan, mengingat kotak hitam dan sistem pembelajaran mendalam lainnya mulai digunakan untuk berbagai hal, mulai dari menawarkan dukungan pelanggan hingga menyiapkan ringkasan dokumen dan menulis kode perangkat lunak.
