Kecerdasan buatan semakin pesat berkembang dalam beberapa tahun terakhir. Salah satu perkembangan terbaru adalah penggunaan Large Language Models (LLMs) yang memberikan hasil yang lebih baik dalam pembuatan bahasa alami. Namun, penggunaan LLMs masih terbatas karena sulit untuk memperoleh akses ke parameter LLMs tersebut. Oleh karena itu, para peneliti mencari metode baru untuk mengembangkan LLMs. Salah satu metode yang baru-baru ini dikembangkan adalah penggunaan prompt yang dirancang secara khusus untuk meningkatkan kemampuan LLMs dalam menghasilkan output yang lebih baik.
Dalam penelitiannya, Northeastern University, Microsoft Research Asia, Microsoft Azure Translation, dan NiuTrans Research memperkenalkan metode Deliberate then Generate (DTG) yang dirancang untuk membantu LLMs mengidentifikasi kesalahan dalam output yang dihasilkan. DTG memungkinkan LLMs untuk mengidentifikasi dan memperbaiki kesalahan sebelum menghasilkan output, sehingga meningkatkan kualitas hasil yang dihasilkan.
Para peneliti menggunakan data dari sistem baseline kedua sebagai kandidat dalam DTG. Sistem baseline kedua ini dipilih karena output yang dihasilkan biasanya memiliki kualitas yang baik dan hanya memerlukan sedikit perubahan untuk digunakan secara efektif. Selain itu, para peneliti juga menyarankan untuk menggunakan teks yang tidak terkait dengan materi sumber, seperti teks acak atau bahkan string kosong. DTG ini dapat dengan mudah disesuaikan dengan berbagai tugas produksi teks dengan sedikit perubahan dalam prompt karena metode ini berhasil memicu kemampuan deliberasi LLMs tanpa harus mengandalkan sistem generasi teks lain untuk memberikan contoh koreksi.
Kendati demikian, penggunaan prompt masih terbatas dalam metode tradisional. Oleh karena itu, para peneliti berharap dapat memanfaatkan pengetahuan domain khusus dalam pengembangan prompt yang lebih efektif di masa depan.
DTG Meningkatkan Performa Model GPT
Para peneliti melakukan eksperimen yang mencakup tujuh tugas generasi teks dan lebih dari 20 dataset untuk menunjukkan bahwa penggunaan DTG secara signifikan meningkatkan performa model GPT. Metode DTG berhasil meningkatkan performa model GPT3.5 dan GPT4 pada berbagai tugas generasi teks seperti mesin penerjemah, penyederhanaan, dan penciptaan kesadaran umum. Penggunaan DTG pada GPT menghasilkan performa terbaik pada sejumlah dataset.
Penelitian ini terinspirasi oleh kasus klasik dalam pembelajaran bahasa yang mempertimbangkan bukti negatif dalam mengembangkan kompetensi linguistik. Hal ini menunjukkan bahwa penggunaan metode prompt yang lebih baik dapat membantu meningkatkan kemampuan LLMs dalam menghasilkan output yang lebih baik.
Dalam penelitiannya, para peneliti memperkenalkan metode baru untuk meningkatkan kualitas output LLMs dengan menggunakan prompt yang dirancang khusus. Metode Deliberate then Generate (DTG) berhasil meningkatkan performa model GPT pada berbagai tugas generasi teks. Para peneliti berharap dapat memanfaatkan pengetahuan domain khusus dalam pengembangan prompt yang lebih efektif di masa depan.
Prompt dalam Pembelajaran Bahasa
Penggunaan prompt juga dapat diterapkan dalam pembelajaran bahasa. Seorang pelajar dapat meningkatkan keterampilan bahasa mereka dengan menerima dan merespons umpan balik positif dan negatif. Hal ini menunjukkan bahwa penggunaan prompt bukan hanya efektif dalam pengembangan LLMs, tetapi juga dapat digunakan dalam pembelajaran bahasa.
Dalam pembelajaran bahasa, penggunaan prompt dapat membantu meningkatkan kemampuan kebahasaan seseorang dengan memberikan umpan balik yang spesifik dan membantu dalam memperbaiki kesalahan. Ini dapat membantu pelajar untuk memahami aturan bahasa dengan lebih baik dan meningkatkan kemampuan mereka dalam berbicara dan menulis dalam bahasa yang dipelajari.
Penggunaan prompt dalam pembelajaran bahasa juga dapat membantu pelajar dalam mengembangkan kemampuan mereka dalam memahami bahasa yang lebih kompleks dan menghasilkan output yang lebih baik. Hal ini dapat membantu pelajar dalam meningkatkan keterampilan bahasa mereka dan meningkatkan kemampuan mereka dalam berkomunikasi secara efektif.
Dalam kesimpulannya, penggunaan prompt dapat membantu meningkatkan kemampuan LLMs dalam menghasilkan output yang lebih baik dan dapat diterapkan dalam pembelajaran bahasa untuk membantu pelajar meningkatkan keterampilan bahasa mereka. Para peneliti berharap dapat memanfaatkan pengetahuan domain khusus dalam pengembangan prompt yang lebih efektif di masa depan untuk meningkatkan kualitas output yang dihasilkan.
Disarikan dari: Citation