Sintaks:
Memandangkan kami sudah biasa dengan ChatGPT, kami tahu bahawa platform ini dimiliki oleh komuniti AI Terbuka dan ia menyediakan alatan, seni bina, API dan beberapa rangka kerja yang boleh kami gunakan dalam penggunaan aplikasi kami dan model pemprosesan bahasa semula jadi. AI Terbuka menawarkan API yang melaluinya kami boleh menggunakan mana-mana model AI dan NLP yang telah terlatih daripada platform AI Terbuka dan boleh menjadikannya berfungsi untuk aplikasi kami seperti, sebagai contoh, untuk memberikan ramalan pada data masa nyata. Begitu juga, GPT4All juga menyediakan penggunanya untuk menyepadukan model AI terlatihnya dengan aplikasi yang berbeza.
Model GPT4All dilatih pada data terhad berbanding dengan ChatGPT. Ia juga mempunyai beberapa kekangan prestasinya berbanding dengan ChatGPT tetapi ia membenarkan pengguna menggunakan GPT peribadi mereka pada perkakasan tempatan mereka dan ia tidak memerlukan sebarang sambungan rangkaian. Dengan bantuan artikel ini, kita akan mengetahui cara kita boleh menggunakan model GPT4All dalam skrip Python memandangkan GPT4All mempunyai pengikatan rasmi dengan Python yang bermaksud bahawa kita boleh menggunakan dan menyepadukan model GPT4All melalui skrip Python juga.
Semuanya memerlukan arahan dalam talian untuk memasang GPT4All untuk IDE Python. Kemudian, kami boleh menyepadukan seberapa banyak model AI sebagai aplikasi kami. Perintah untuk memasang GPT4All ini dalam Python adalah seperti yang ditunjukkan dalam yang berikut:
$ pip pasang gpt4all
Contoh 1:
Untuk bermula dengan contoh ini, kami perlu memuat turun dan memasang Python dalam sistem kami. Versi Python yang disyorkan ialah 'versi 3.7' atau versi yang datang selepas versi ini. Satu lagi cara untuk bekerja dengan Python untuk mengelakkan proses yang panjang untuk memasang 'persediaan Python' pada sistem kami ialah menggunakan 'Google Colab' yang merupakan persekitaran berasaskan awan untuk Python. Kami boleh menjalankan persekitaran ini pada mana-mana penyemak imbas web dan boleh membina AI dan model pembelajaran mesin. Contoh yang akan kami laksanakan di sini dilaksanakan dalam Google Colab.
Contoh ini merangkumi kaedah untuk memasang GPT4All dalam Python dan cara menggunakan model terlatihnya. Kita mulakan dengan memasang GPT4All terlebih dahulu. Untuk itu, arahan yang kami nyatakan sebelum ini dilaksanakan. Dengan pelaksanaan arahan, GPT4All bersama-sama dengan pakej dan rangka kerjanya dimuat turun dan dipasang.
Sekarang, kita bergerak ke hadapan. Daripada GPT4All, kami mengimport 'GPT4All'. Ini menambahkan semua model pra-latihan daripada GPT4All kepada projek. Kini, kami boleh menggunakan mana-mana model tunggal dan menjadikannya melakukan ramalan untuk aplikasi kami. Sebaik sahaja kami mengimport pakej GPT4All, kini tiba masanya untuk memanggil fungsi ini dan menggunakan model GPT4All yang memberikan output untuk 'penyelesaian sembang'.
Dalam erti kata lain, jika kita meminta apa-apa daripada model itu dalam input, ia mengembalikannya dalam output. Model yang kami gunakan di sini ialah 'ggml-gpt4all-j-v1.3-groovy'. Model ini sudah disimpan dalam cache GPT4All. Kita boleh mendapatkan model ini dari pautan ini ' https://github.com/nomic-ai/gpt4all/tree/main/gpt4all-chat ” untuk muat turun manual. Jika model sudah ada dalam cache GPT4All, kami hanya memanggil nama model dan menentukannya sebagai parameter input kepada fungsi 'GPT4All()'. Jika kami berjaya memuat turunnya secara manual, kami lulus laluan ke folder tempat model itu berada. Memandangkan model ini adalah untuk pelengkapan mesej, sintaks untuk model ini diberikan seperti berikut:
$ Chat_completion (mesej)Mesej ialah senarai kamus dan setiap kamus harus mengandungi kunci 'peranan' dengan nilai pengguna, sistem atau pembantu dan kandungan 'kunci' yang mempunyai nilai sebagai rentetan. Dalam contoh ini, kami menentukan kandungan sebagai 'nama tiga warna' dan kunci peranan sebagai 'pengguna'.
$model= GPT4All('ggml-gpt4all-j-v1.3-groovy')$messages = [{'role': 'user', 'content': 'Namakan 3 bunga'}]
Selepas spesifikasi ini, kami memanggil fungsi 'chat_completion()' dengan model. Kod untuk ini dipaparkan dalam output berikut:
$ !pip pasang gpt4alldaripada gpt4all import GPT4All
model = GPT4All('ggml-gpt4all-j-v1.3-groovy')
messages = [{'role': 'user', 'content': 'Namakan tiga warna'}]
model.chat_completion(message)
Selepas pelaksanaan contoh ini, model mengembalikan tiga warna sebagai tindak balas kepada input.
Contoh 2:
Kami merangkumi contoh lain di mana kami menemui kaedah lain untuk menggunakan GPT4All dalam Python. Ini boleh dilakukan menggunakan pengikatan rasmi untuk Python yang disediakan oleh 'Nomic' yang merupakan komuniti AI sumber terbuka, dan ia menjalankan GPT4All. Menggunakan arahan berikut, kami menyepadukan 'nomik' ke dalam konsol Python kami:
$ pip pasang nomikSetelah ini dipasang, kami mengimport GPT4All daripada 'nomic.gpt4all'. Selepas mengimport GPT4All, kami memulakan GPT4All dengan fungsi 'open()'. Kemudian, kami memanggil fungsi 'prompt()' dan menghantar gesaan kepada fungsi ini. Kemudian, respons segera dijana berdasarkan gesaan yang telah kami berikan sebagai input kepada model gesaan.
!pip pasang nomikdaripada nomic.gpt4all import GPT4All
# Mulakan model GPT4All
mulakan = GPT4All()
initiate.open()
# Menjana respons berdasarkan gesaan
model_response = initiate.prompt('tulis cerita pendek tentang komputer)
# memaparkan respons yang dijana
print(model_response)
Output memaparkan tindak balas segera daripada model yang kami hasilkan menggunakan model GPT4All pra-terlatih dalam Python. Jika kita ingin mengetahui lebih lanjut tentang model dan cara kita boleh menggunakan model ini untuk menjana respons, atau dengan kata mudah, jika kita ingin mendapatkan pengetahuan tentang sintaks untuk menjana respons daripada model ini, kita boleh mengambil bantuan selanjutnya daripada GPT4Semua butiran dokumentasi teknikal.
Kesimpulan
GPT4All masih berusaha untuk mendapatkan ketepatan prestasi. Ia dikendalikan oleh platform AI nomik yang bertujuan untuk menyediakan chatbots pintar buatan kepada penggunanya pada CPU gred pengguna memandangkan GPT4All berfungsi tanpa sebarang sambungan rangkaian dan GPU. Artikel ini menyedarkan kami untuk mahir menggunakan PyGPT4All dalam persekitaran Python dan untuk mencipta interaksi antara aplikasi kami dan model AI GPT4All yang telah terlatih. Kami merangkumi dua kaedah berbeza tentang cara memasang GPT4All dalam Python dalam panduan ini.