Bagaimana cara menginstal LLaMA 3 di PC Windows 11?

Bagaimana Cara Menginstal Llama 3 Di Pc Windows 11



Llama 3 adalah model bahasa besar terbaru Meta. Anda dapat menggunakannya untuk berbagai tujuan, seperti menyelesaikan pertanyaan Anda, mendapatkan bantuan untuk pekerjaan rumah dan proyek sekolah Anda, dll. Menerapkan Llama 3 di mesin Windows 11 Anda secara lokal akan membantu Anda menggunakannya kapan saja bahkan tanpa akses ke internet. Artikel ini menunjukkan kepada Anda cara install Llama 3 di PC Windows 11 .



  Instal Llama di Windows





Cara menginstal Llama 3 di PC Windows 11

Menginstal Llama 3 di PC Windows 11 melalui Python memerlukan keterampilan dan pengetahuan teknis. Namun, beberapa metode alternatif memungkinkan Anda menerapkan Llama 3 secara lokal di mesin Windows 11 Anda. Saya akan menunjukkan kepada Anda metode-metode ini.





Untuk menginstal Llama 3 di PC Windows 11 Anda, Anda harus menjalankan beberapa perintah di Command Prompt. Namun, ini hanya memungkinkan Anda menggunakan versi baris perintahnya. Anda harus mengambil langkah lebih lanjut jika ingin menggunakan UI webnya. Saya akan menunjukkan kepada Anda kedua metode ini.



Terapkan Llama 3 di PC Windows 11 melalui CMD

Untuk menerapkan Llama 3 di PC Windows 11 Anda, Anda perlu menginstal Ollama di mesin Windows Anda. Langkah-langkahnya adalah sebagai berikut:

  Unduh Ollama di Windows

  1. Mengunjungi Situs web resmi Ollama .
  2. Klik pada Unduh tombol lalu pilih jendela .
  3. Sekarang, klik pada Unduh untuk Windows tombol untuk menyimpan file exe di PC Anda.
  4. Jalankan file exe untuk menginstal Ollama di mesin Anda.

Setelah Ollama terinstal di perangkat Anda, restart komputer Anda. Itu harus berjalan di latar belakang. Anda dapat melihatnya di System Tray Anda. Sekarang, klik opsi Model di situs web Ollama. Anda akan melihat modelnya yang berbeda.



Llama 3.1 tersedia dalam tiga parameter berikut:

  • 8B
  • 70B
  • 405B

Yang terakhir adalah parameter terbesar dan jelas tidak bisa dijalankan di PC low-end. Llama 3.2 memiliki dua parameter berikut:

  • 1B
  • 3B

Klik pada versi Llama yang ingin Anda instal di PC Anda. Misalnya, jika Anda ingin menginstal Llama 3.2, klik Llama 3.2. Di drop-down, Anda dapat memilih parameter yang ingin Anda atur. Setelah itu, salin perintah di sebelahnya dan tempelkan ke Command prompt.

  Perintah model Flame 3.2 1B

Demi kenyamanan Anda, saya telah menulis kedua perintah untuk model Llama 3.2. Untuk menginstal model Llama 3.2 3B, jalankan perintah berikut:

ollama run llama3.2:3b

Untuk menginstal model Llama 3.2 1B, gunakan perintah berikut:

ollama run llama3.2:1b

  Instalasi berhasil

Buka Command Prompt, ketik salah satu perintah yang disebutkan di atas (berdasarkan kebutuhan Anda), dan tekan Memasuki . Diperlukan beberapa waktu untuk mengunduh file yang diperlukan. Waktu pengunduhan juga akan tergantung pada kecepatan koneksi internet Anda. Setelah selesai, Anda akan melihat kesuksesan pesan di Command Prompt.

Sekarang, ketik pesan Anda untuk menggunakan model Llama 3.2. Jika Anda ingin menginstal model Llama 3.1, gunakan perintah yang tersedia di situs Ollama.

Saat berikutnya Anda meluncurkan Command Prompt, gunakan perintah yang sama untuk menjalankan Llama 3.1 atau 3.2 di PC Anda.

toko komponen dapat diperbaiki

Menginstal Llama 3 melalui CMD memiliki satu kelemahan. Itu tidak menyimpan riwayat obrolan Anda. Namun, jika Anda menyebarkannya di host lokal, riwayat obrolan Anda akan disimpan dan Anda akan mendapatkan Antarmuka Pengguna yang lebih baik. Metode selanjutnya menunjukkan cara melakukan itu.

Terapkan UI Web Llama 3 di Windows 11

Menggunakan Llama 3 di browser web memberikan antarmuka pengguna yang lebih baik dan juga menyimpan riwayat obrolan dibandingkan dengan menggunakannya di jendela CMD. Saya akan menunjukkan cara menggunakan Llama 3 di browser web Anda.

Untuk menggunakan Llama 3 di browser web Anda, Llama 3 melalui Ollama dan Docker harus diinstal di sistem Anda. Jika Anda belum menginstal Llama 3, instal menggunakan Ollama (seperti yang dijelaskan di atas). Sekarang, unduh dan instal Docker darinya situs web resmi .

Setelah menginstal Docker, luncurkan dan daftar untuk membuat akun. Docker tidak akan berjalan sampai Anda mendaftar. Setelah mendaftar, masuk ke akun Anda di aplikasi Docker. Minimalkan Docker ke System Tray. Aplikasi Docker dan Ollama harus berjalan di latar belakang. Jika tidak, Anda tidak dapat menggunakan Llama 3 di browser web Anda.

  Jalankan perintah Llama untuk Docker

Sekarang, buka Command Prompt, salin perintah berikut, dan tempel ke Command Prompt:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

  Kontainer Docker untuk Llama 3

Perintah di atas memerlukan waktu untuk mengunduh sumber daya yang diperlukan. Oleh karena itu, bersabarlah. Setelah perintah selesai, buka Docker dan pilih Kontainer bagian dari sisi kiri. Anda akan melihat sebuah container dibuat secara otomatis dengan port 3000:8080.

Klik pada port 3000:8080. Ini akan membuka tab baru di browser web default Anda. Sekarang, daftar dan masuk untuk menggunakan Llama 3 di browser web Anda. Jika Anda melihat bilah alamat, Anda akan melihatnya host lokal:3000 di sana, yang berarti Llama 3 dihosting secara lokal di komputer Anda. Anda dapat menggunakannya tanpa koneksi internet.

  Gunakan Llama 3 di browser web

Pilih model obrolan Llama Anda dari drop-down. Jika Anda ingin menambahkan lebih banyak model obrolan Llama 3, Anda harus menginstalnya melalui Ollama menggunakan perintah yang diperlukan. Setelah itu, model tersebut secara otomatis akan tersedia di browser web Anda.

Semua riwayat obrolan Anda akan disimpan dan dapat diakses di sisi kiri. Saat Anda ingin keluar, keluarlah dari sesi Anda di browser web Anda. Setelah itu, buka aplikasi Docker dan klik Berhenti tombol untuk menghentikan Docker. Sekarang, Anda dapat menutup Docker.

Saat Anda ingin menggunakan Llama 3 di browser web Anda di lain waktu, luncurkan Ollama dan Docker, tunggu beberapa menit, lalu klik port di wadah Docker untuk membuka server localhost di browser web Anda. Sekarang, masuk ke akun Anda dan mulai menggunakan Llama 3.

Semoga membantu.

Bisakah Llama 3 berjalan di Windows?

Tergantung pada konfigurasi perangkat keras komputer Anda, Anda dapat menjalankan Llama 3 di sistem Anda. Model 1B-nya adalah yang paling ringan. Anda dapat menginstal dan menjalankannya di sistem Anda melalui command prompt.

Berapa banyak RAM yang saya perlukan untuk Llama 3?

Model Llama 3 yang paling ringan adalah Llama 3.2 1B. Sistem Anda harus memiliki RAM 16 GB untuk menjalankan model Llama 3.2 1B. Selain itu, sistem Anda juga harus memiliki GPU tugas berat. Model Llama 3 yang lebih tinggi memerlukan lebih banyak sumber daya sistem.

Baca selanjutnya : Cara menggunakan Leonardo Phoenix AI .

Pesan Populer