Cara mengatur localgpt di windows untuk pemula

Jika Anda tidak ingin membayar LLM atau ingin menjaga data Anda tetap aman, Anda harus mengatur localgpt . Ini memungkinkan Anda untuk memiliki kontrol penuh atas bagaimana AI beroperasi dan memproses data. Ini juga memastikan privasi karena semua data tetap pada sistem lokal Anda alih -alih dikirim ke server eksternal.

Siapkan GPT lokal di Windows PC

Localgpt adalah alat open-source yang terinspirasi oleh Privategpt , dirancang untuk menjalankan model bahasa besar (LLM) secara lokal di perangkat pengguna untuk penggunaan pribadi. Tidak seperti Privategpt, yang hanya bergantung pada eksekusi CPU, LocalGPT mendukung akselerasi perangkat keras melalui GPU untuk kinerja yang lebih baik dan berkurangnya latensi. Alih-alih model GPT-4ALL dan llamaembeddings, yang cukup besar, LocalGpt menggunakan Vicuna-7b LLM dan instruktur. Ini bekerja dengan model seperti BlenderBot dan WizardLM-7b memungkinkan kami untuk bertukar model berdasarkan kebutuhan spesifik. Seluruh pipa beroperasi secara lokal, memastikan privasi data sambil memberikan kemampuan NLP canggih tanpa ketergantungan API eksternal, menjadikannya kandidat yang sempurna untuk mode AI yang dioperasikan secara lokal.

Dalam panduan ini, kami akan mengatur GPT lokal di Windows. Anda dapat mengikuti langkah -langkah yang disebutkan di bawah ini.

1. Unduh dan Instal Miniconda
2. Instal Repositori Lokalgpt
3. Instal dependensi
4. Jalankan localgpt

Mari kita bahas secara rinci.

windows 10 menghapus grup start menu

1] Unduh dan instal miniconda

Miniconda adalah distribusi ringan dari Conda Package Manager, yang dirancang untuk mengatur lingkungan Python dengan cepat. Ini hanya memberikan hal -hal penting, yang memungkinkan pengguna untuk menyesuaikan instalasi mereka dengan menambahkan paket tertentu sesuai kebutuhan. Untuk mengunduhnya, buka anaconda.com, gulir ke bawah, pergi ke Installer miniconda,  Dan kemudian unduh untuk Windows karena panduan ini untuk Windows.

Sekarang, jalankan penginstal dan ikuti instruksi di layar untuk menyelesaikan proses instalasi, pastikan bahwa saat Anda berada di  Opsi instalasi lanjutan,  Centang semua kotak, dan akhirnya, selesaikan instalasi.

Untuk memeriksa apakah diinstal atau tidak, cari  “Anaconda prompt”  Di menu start dan buka CLI. Sekarang, Anda dapat menjalankan Daftar Conda Hanya untuk mengonfirmasi bahwa itu diinstal.

2] Instal Repositori Lokalgpt

Sekarang, kita perlu menginstal Repositori LocalGPT di -host di Github oleh Insinyur Prompt. Kita bisa mendapatkannya dari sana. Untuk melakukannya, navigasikan ke github.com . Anda dapat melalui halaman untuk mempelajari lebih lanjut tentang localgpt dan menginstalnya, Anda harus mengklik  Kode> Unduh Zip.  Setelah file zip diunduh, buka  Unduh  Folder, klik kanan pada file zip, pilih Extract, atur lokasi di mana Anda ingin mengekstrak file dan menyelesaikan prosesnya. Buka folder yang diekstraksi, di dalamnya, Anda akan dipanggil folder Localgpt-main. Hanya demi kesederhanaan, kami menempelkan folder di desktop dan menamainya 'LGPT'.

3] Pasang dependensi

Sekarang kita perlu menciptakan lingkungan virtual di mana kita akan menginstal semua dependensi. Untuk melakukannya, buka  “Anaconda prompt”  Dari menu Mulai dan jalankan perintah berikut.

membajak di windows 10

Catatan: Ganti variabel 'Environment_name' dengan nama pilihan Anda.

Jika meminta Anda untuk mengunduh paket apa pun, harap berikan persetujuan Anda dan lanjutkan.

Sekarang, kami perlu menginstal paket yang kami unduh yang diekstraksi sebelumnya. Untuk melakukannya, Anda harus pertama -tama menavigasi ke direktori menggunakan perintah berikut.

cd LGPT

Alih -alih memasang semua komponen satu per satu, kami dapat menggunakan perintah berikut untuk menginstal semuanya sekaligus.

pip install -r requirements.txt

Anda mungkin mengalami dua kesalahan.

• Impor Torch ModuleNotFoundError:  Berlari Pip Instal Torch Torchvision Torchaudio  dan kemudian jalankan perintah yang disebutkan di atas.
• Diperlukan Microsoft C ++:  Klik URL yang disebutkan, dan unduh Visual Studio dengan mengklik  Unduh Build Tools,  Setelah Visual Studio terbuka, Anda harus melalui alat yang tidak Anda miliki dan mengunduhnya.

Setelah menyelesaikan masalah, jalankan perintah penginstal lagi, dan setelah diinstal, lanjutkan ke langkah berikutnya.

PC Anda tidak mendukung miracast

4] Jalankan LocalGpt

Pertama -tama, Anda perlu menjalankan konsumsi Python yang berarti mengimpor data dari dokumen sumber, memproses dokumen Anda, dan menyimpan embedding mereka dalam database vektor (Chroma DB). Untuk melakukannya, Anda perlu menjalankan perintah berikut.

Kami menyarankan Anda mengawasi penggunaan CPU menggunakan Task Manager.

Sekarang, a CCESS File Constants.py dalam direktori LocalGPT Anda. Nonaktifkan model LLAMA 3 dengan menambahkan komentar ke garisnya, dan mengaktifkan model LLAMA 2 (parameter 7B) dengan menghapus komentar dari barisnya.

Setelah selesai, Anda perlu menjalankan localgpt menggunakan perintah berikut.

mengatur ulang izin windows 10

python run_local_gpt.py

Jika Anda mengalami kesalahan yang menyatakan itu panggilan  hilang, lari  Pip Instal Call-CPP-Python.

Mudah -mudahan, Anda akan dapat menjalankan LocalGpt di komputer Anda secara lokal dengan bantuan panduan ini.

Membaca: Cara menggunakan AI kebingungan untuk penelitian

Bagaimana cara menginstal privategpt di windows?

Untuk menginstal Privategpt di Windows, pertama, instal Python dan manajer paket seperti Conda. Kemudian, klon Repositori Privategpt dan atur lingkungan virtual. Anda kemudian harus menginstal dependensi menggunakan puisi atau pip. Unduh model bahasa yang kompatibel. Akhirnya, Anda harus mengkonfigurasi variabel lingkungan, menelan dokumen, dan menjalankan aplikasi untuk mulai menanyakan data Anda secara lokal.

Membaca:  Cara menjalankan deepseek secara lokal di windows 11

Bagaimana cara mengatur WSL di Windows?

Ke Siapkan WSL di Windows , buka PowerShell sebagai administrator dan jalankan WSL - instalasi . Ini memungkinkan WSL, menginstal kernel Linux, dan menetapkan WSL 2 sebagai default. Mulai ulang komputer Anda, lalu pilih distribusi Linux untuk diinstal. Luncurkan distribusi, atur nama pengguna dan kata sandi, dan Anda siap menggunakan Linux di Windows.

Baca juga:  Jalankan klon chatgpt secara lokal di komputer menggunakan gpt4all .