Skip to content

emka.web.id

menulis pengetahuan – merekam peradaban

Menu
  • Home
  • Tutorial
  • Makalah
  • Ke-NU-an
  • Kabar
  • Search
Menu

Llamafile 0.8.1 GPU LLM Offloading Bekerja Sekarang Dengan Lebih Banyak GPU AMD

Posted on April 27, 2024

Beberapa hari yang lalu Llamafile 0.8 dirilis dengan dukungan LLaMA 3 dan Grok serta performa F16 yang lebih cepat. Kini proyek dari Mozilla untuk penerapan model bahasa besar (LLM) yang mandiri dan mudah didistribusikan kembali telah keluar dengan rilis baru.
Hal yang paling signifikan dengan rilis Llamafile 0.8.1 pada hari Jumat adalah mendapatkan dukungan GPU yang berfungsi untuk lebih banyak prosesor grafis/akselerator AMD. Karena beberapa kode offload AMD dalam Llamafile hanya mengasumsikan pengidentifikasi versi IP grafis “GFX” numerik dan bukan alfanumerik, offload GPU secara keliru dipecah untuk sejumlah bagian AMD Instinct / Radeon. Untuk perangkat keras seperti Instinct MI250 dengan IP GFX90A, “A” tidak diuraikan dengan benar dan tidak diteruskan ke kompiler HIP. Pada gilirannya, hal ini akan menyebabkan kesalahan dan merusak akselerasi GPU Llamafile pada GPU AMD yang memiliki karakter non-numerik sebagai bagian dari pengidentifikasi GFX-nya. Hal tersebut kini telah diperbaiki dengan Llamafile 0.8.1 dan dengan demikian akselerasi GPU AMD bekerja pada lebih banyak perangkat keras untuk penerapan model bahasa besar berbasis Llamafile.
Selain itu, Llamafile 0.8.1 kini mengirimkan modul NVIDIA dan AMD ROCk yang telah dibuat sebelumnya untuk pengguna Windows dan Linux untuk lebih memudahkan penerapan LLM file tunggal Llamafile yang mendukung eksekusi CPU dan GPU.
Llamafile 0.8.1 juga menambahkan dukungan untuk model Phi-3 Mini 4k, memperbaiki bug yang menyebabkan model GPU mogok. dukungan untuk Command-R Plus memiliki pengindeksan 64-bit yang tepat, dan perbaikan lainnya.
Unduhan dan detail lebih lanjut tentang rilis Llamafile 0.8.1 baru melalui Mozilla-Ocho di GitHub.

Itulah berita seputar Llamafile 0.8.1 GPU LLM Offloading Bekerja Sekarang Dengan Lebih Banyak GPU AMD, semoga bermanfaat. Disadur dari Phoronix.com.

Terbaru

  • Review Aplikasi ClipClaps: Penipuan atau Tidak?
  • Review Aplikasi Wibuku: Alternatif Nonton Anime Gratis untuk Para Wibu Indonesia!
  • Inilah Alat dan Software Phone Farming dengan Samsung Galaxy J7 Prime
  • Cara Cek Paket Internet Telkomsel Kena Pembatasan/Throttling Atau Tidak
  • Cara Mengatasi YMusic APK Error Tidak Bisa Dibuka
  • Cara Memblokir Akun Teman di Mobile Legend: Panduan Lengkap
  • Profil Farida Farichah, Wakil Menteri Koperasi Kabinet Merah Putih Reshuffle 17 September 2025
  • Ini Info Terbaru Pencairan BSU BPJS Ketenagakerjaan 2025!
  • Cara Reset Printer Epson L3110 2025
  • WhatsApp Tiba-tiba Keluar dan Meminta Verifikasi: Apa yang Harus Dilakukan?
  • Bisakah Saldo BNI Kamu Nol? Fakta dan Cara Mengatasinya
  • Inilah Tanda-tanda Chat Audio di Grup WhatsApp Sudah Disadap
  • Cara Mengatasi Tidak Bisa Live Instagram Karena Tidak Memenuhi Syarat
  • 7 Spek Laptop yang Ideal untuk Coding & Ngoding Web/App
  • Keuntungan dan Kerugian Menggunakan PayPal: Panduan Lengkap
  • Cara Menggunakan Stellarium Web
  • Cara Menghapus Data KTP Pribadi di Pinjol yang Belum Lunas
  • Cara Mengganti Nomor TikTok yang Tidak Aktif atau Hilang Tanpa Verifikasi
  • Cara Menggunakan BCA PayLater Terbaru 2025
  • Cara Mendapatkan IMPoint Indosat IM3 Ooredoo Gratis via MyIM3
  • Apa Arti TikTok ‘Shared With You’?
  • Cara Menghapus Data KTP di Pinjol: Panduan Lengkap
  • Cara Download WhatsApp GB Terbaru 2025 – Fitur Lengkap & Aman
  • Review WhatsApp Beta: Apakah Aman? Cara Instal dan Cara Keluar
  • Bebong: Makna, Asal Usul, dan Penggunaan dalam Bahasa Indonesia
  • Spinjam dan Spaylater: Apa yang Terjadi Jika Terlambat Membayar dan Bisakah Meminjam Lagi?
  • Cara Download dan Menonton Dood Stream Tanpa Iklan – Doods Pro
  • Cara Menghentikan dan Mengatasi Pinjol Ilegal
  • Kode Bank BRI untuk Transfer ke PayPal
  • Cara Menyadap WhatsApp Tanpa Aplikasi dan Kode QR
  • Review Aplikasi ClipClaps: Penipuan atau Tidak?
  • Review Aplikasi Wibuku: Alternatif Nonton Anime Gratis untuk Para Wibu Indonesia!
  • Inilah Alat dan Software Phone Farming dengan Samsung Galaxy J7 Prime

©2025 emka.web.id | Design: Newspaperly WordPress Theme