Ollama adalah sebuah platform open-source yang memungkinkan pengguna untuk menjalankan Large Language Models (LLM) dan berinteraksi dengan beberapa model AI secara lokal, tanpa harus terhubung ke layanan cloud menggunakan Internet. Platform ini menyederhanakan proses instalasi, konfigurasi, dan pemeliharaan LLM.
Berikut langkah-langkahnya :
A. Memasang Ollama
1. Pastikan curl telah terpasang, jika belum jalankan perintah berikut.
sudo apt install curl
2. menggunakan curl, jalankan perintah berikut untuk mengunduh Ollama dan memasangnya.
curl -fsSL https://ollama.com/install.sh | sh
3. Proses Instalasi Selesai,
Terdapat beberapa model AI yang disediakan oleh ollama, pastikan sebelum memilih model yang diinginkan telah menyediakan perangkat terutama media penyimpanan untuk mengunduhnya, dan Memori serta CPU dan GPU yang sesuai untuk menjalankannya.
Sebagai contoh disini saya akan, memasang model DeepSeek-R1 yang berukuran 4.7GB
ollama run deepseek-r1Kecepatan proses pemasangan, sangat bergantung pada kecepatan Internet yang dimiliki,
/bye
