Baru-baru ini, Yandex meluncurkan YaFSDP, sebuah metode open-source untuk melatih model machine learning bahasa atau LLM (Large Language Model) yang memungkinkan AI generatif berinteraksi dengan pengguna secara real-time.
YaFSDP menjadi metode paling efektif dalam melatih LLM karena mampu meningkatkan efektivitas komunikasi GPU dan mengurangi penggunaan memori.
Menurut Mikhail Khruschev, Senior Developer Yandex, “Kami sangat senang bisa berbagi perkembangan terbaru dalam pelatihan LLM dengan komunitas machine learning global. Besar harapan kami ini bisa berkontribusi pada peningkatan aksesibilitas dan efisiensi bagi para peneliti dan pengembang AI generatif di seluruh dunia.”
FSDP, metode pelatihan LLM yang sebelumnya digunakan, memanfaatkan sejumlah unit pemrosesan untuk mengolah data secara paralel.
Namun, YaFSDP mampu meningkatkan kecepatan hingga 26% dibanding metode FSDP biasa, tergantung pada arsitektur dan jumlah parameter.
Dengan demikian, waktu pelatihan untuk LLM bisa dikurangi, sekaligus menghemat penggunaan sumber daya GPU hingga 20%.
Manfaat YaFSDP bagi Indonesia
Di Indonesia, para insinyur dan peneliti kini fokus pada pengembangan LLM untuk sektor publik, administrasi pemerintahan, pertahanan, serta sektor keuangan dan asuransi.
Kementerian Komunikasi dan Informatika bekerja sama dengan AI Singapore dalam pengembangan LLM open-source dalam Bahasa Indonesia.
Pelaku industri perbankan di Indonesia juga telah menggunakan LLM untuk layanan chatbot dalam Bahasa Indonesia dan sejumlah bahasa daerah guna meningkatkan kualitas layanan pelanggan, pemasaran, dan penjualan.
YaFSDP dirancang untuk mendukung upaya pengembangan LLM di Indonesia dengan menyediakan metode open-source yang meningkatkan optimalisasi pemanfaatan jaringan, mengurangi beban memori, serta menurunkan biaya pelatihan LLM melalui pengurangan kebutuhan sumber daya komputasi.
Mikhail menambahkan, “Pelatihan LLM merupakan proses yang memakan waktu dan menggunakan sumber daya besar. YaFSDP Yandex bekerja dengan menghilangkan inefisiensi komunikasi GPU, memastikan pelatihan hanya membutuhkan memori prosesor yang diperlukan, dan membuat interaksi GPU tidak terganggu.”
Baca Juga: Cara Instal YandexApp, Aplikasi Serbaguna Bisa untuk Nonton Video Viral-Jepang Tanpa Sensor
Yandex Browser Japan menawarkan berbagai keunggulan yang menjadikannya alternatif menarik untuk menonton video viral dan konten lainnya.
Dengan kecepatan, keamanan, dan kemudahan penggunaan, Yandex Browser memberikan pengalaman berselancar yang lebih baik.
Selain itu, inovasi Yandex dalam pengembangan YaFSDP menunjukkan komitmen perusahaan dalam mendukung komunitas AI global, termasuk di Indonesia.
Melalui YaFSDP, pengembang AI di seluruh dunia dapat menghemat sumber daya komputasi dan meningkatkan efisiensi dalam melatih model machine learning mereka. (*)
