Skip to content

emka.web.id

menulis pengetahuan – merekam peradaban

Menu
  • Home
  • Tutorial
  • Makalah
  • Ke-NU-an
  • Kabar
  • Search
Menu

Llamafile 0.8.1 GPU LLM Offloading Bekerja Sekarang Dengan Lebih Banyak GPU AMD

Posted on April 27, 2024

Beberapa hari yang lalu Llamafile 0.8 dirilis dengan dukungan LLaMA 3 dan Grok serta performa F16 yang lebih cepat. Kini proyek dari Mozilla untuk penerapan model bahasa besar (LLM) yang mandiri dan mudah didistribusikan kembali telah keluar dengan rilis baru.
Hal yang paling signifikan dengan rilis Llamafile 0.8.1 pada hari Jumat adalah mendapatkan dukungan GPU yang berfungsi untuk lebih banyak prosesor grafis/akselerator AMD. Karena beberapa kode offload AMD dalam Llamafile hanya mengasumsikan pengidentifikasi versi IP grafis “GFX” numerik dan bukan alfanumerik, offload GPU secara keliru dipecah untuk sejumlah bagian AMD Instinct / Radeon. Untuk perangkat keras seperti Instinct MI250 dengan IP GFX90A, “A” tidak diuraikan dengan benar dan tidak diteruskan ke kompiler HIP. Pada gilirannya, hal ini akan menyebabkan kesalahan dan merusak akselerasi GPU Llamafile pada GPU AMD yang memiliki karakter non-numerik sebagai bagian dari pengidentifikasi GFX-nya. Hal tersebut kini telah diperbaiki dengan Llamafile 0.8.1 dan dengan demikian akselerasi GPU AMD bekerja pada lebih banyak perangkat keras untuk penerapan model bahasa besar berbasis Llamafile.
Selain itu, Llamafile 0.8.1 kini mengirimkan modul NVIDIA dan AMD ROCk yang telah dibuat sebelumnya untuk pengguna Windows dan Linux untuk lebih memudahkan penerapan LLM file tunggal Llamafile yang mendukung eksekusi CPU dan GPU.
Llamafile 0.8.1 juga menambahkan dukungan untuk model Phi-3 Mini 4k, memperbaiki bug yang menyebabkan model GPU mogok. dukungan untuk Command-R Plus memiliki pengindeksan 64-bit yang tepat, dan perbaikan lainnya.
Unduhan dan detail lebih lanjut tentang rilis Llamafile 0.8.1 baru melalui Mozilla-Ocho di GitHub.

Itulah berita seputar Llamafile 0.8.1 GPU LLM Offloading Bekerja Sekarang Dengan Lebih Banyak GPU AMD, semoga bermanfaat. Disadur dari Phoronix.com.

Terbaru

  • Cara Mengatasi Adapter Jaringan VMware yang Hilang di Windows 11
  • Cara Reset Multi-Factor Authentication (MFA) di Microsoft Entra
  • Cara Mengatasi Masalah Konektivitas VM Hyper-V ke Host
  • Cara Memperbaiki Error 0x8000FFFF Catastrophic Failure Saat Ekstrak Zip
  • Cara Memperbaiki File Explorer Crash Saat Membuka Folder Besar di Windows 11/10
  • Cara Mengatasi Error Login 0x8007003B di Outlook, Microsoft, XBox dll
  • Cara Memulihkan Akun Admin Microsoft 365 Karena MFA Gagal
  • Cara Mengatasi Error “A Conexant audio device could not be found”
  • Cara Memperbaiki Windows Tidak Nyala Lagi Setelah Sleep/Locked
  • Cara Memperbaiki Komputer Crash karena Discord
  • Cara Memperbaiki Error Windows “Failed to update the system registry”
  • Cara Memperaiki LGPO/exe/g
  • Cara Memperbaiki Error Tidak bisa Add Calendar di Outlook
  • Cara Memperbaiki File Transfer Drop ke 0 di Windows 11
  • Cara Memperbaiki Microsoft Copilot Error di Outlook
  • Cara Memperbaiki Error Virtualbox NtCreateFile(\Device\VBoxDrvStub) failed, Not signed with the build certificate
  • Cara Memperbaiki Error “the system detected an address conflict for an IP address, with Event ID 4199”
  • Cara Memperbaiki Password Microsoft Edge yang Hilang
  • Cara Memperbaiki Email Outlook yang Hilang atau Tidak Muncul
  • Cara Menemukan Username dan Password di Windows 11
  • Cara Mengatasi Error Virtualbox not detecting Graphics Card di Windows 11
  • Cara Mengatasi Error Windows MFReadWrite.dll not found or missing
  • Cara Membuat Formulir Menggunakan Zoho Form
  • Pemerintah Ganti Ujian Kesetaraan Dengan TKA 2025
  • Ini Perbedaan TKA vs Ujian Nasional: TKA Lebih Sakti?
  • Daftar TKA Tutup 5 Oktober: Sudah 3.3 Juta Yang Daftar
  • Review Aplikasi ClipClaps: Penipuan atau Tidak?
  • Review Aplikasi Wibuku: Alternatif Nonton Anime Gratis untuk Para Wibu Indonesia!
  • Inilah Alat dan Software Phone Farming dengan Samsung Galaxy J7 Prime
  • Cara Cek Paket Internet Telkomsel Kena Pembatasan/Throttling Atau Tidak
  • Cara Mengatasi Adapter Jaringan VMware yang Hilang di Windows 11
  • Cara Reset Multi-Factor Authentication (MFA) di Microsoft Entra
  • Cara Mengatasi Masalah Konektivitas VM Hyper-V ke Host

©2025 emka.web.id | Design: Newspaperly WordPress Theme