কম্পিউটার যাচাই করুন
- RAM-ই মূল সংখ্যা: ৮ GB-তে ছোট মডেল, ১৬ GB-তে ভালো মাঝারি মডেল, ৩২ GB+ এ বড় মডেল চলে।
- গ্রাফিক্স কার্ড (বেশি VRAM-সহ NVIDIA) বা Apple Silicon Mac (M1 বা নতুন) থাকলে মডেল অনেক দ্রুত চলে।
- খালি জায়গা: সাধারণ আকারের প্রতিটা মডেলে ২–১০ GB।
পথ A — Ollama (সহজ, কমান্ডভিত্তিক)
- 1
ইনস্টল
ollama.com থেকে আপনার অপারেটিং সিস্টেমের Ollama নামিয়ে ইনস্টল করুন।
- 2
মডেল চালান
টার্মিনাল খুলে লিখুন, যেমন ollama run qwen3:4b , ollama run deepseek-r1:7b , ollama run llama3.2 বা ollama run gemma3 ।
- 3
মডেল ব্যবস্থাপনা
ollama list দিয়ে নামানো মডেল দেখুন, ollama rm <নাম> দিয়ে মুছুন।
- 4
অন্য অ্যাপ থেকে ব্যবহার
Ollama একটা লোকাল সার্ভার চালায় (ডিফল্টে পোর্ট 11434), যার সাথে অনেক চ্যাট ইন্টারফেস, কোড এডিটর আর স্ক্রিপ্ট যুক্ত হতে পারে।
পথ B — LM Studio (সব ক্লিক করে)
- 1
ইনস্টল
lmstudio.ai থেকে LM Studio নামিয়ে ইনস্টল করুন।
- 2
মডেল খুঁজুন
Discover ট্যাবে সার্চ করুন; প্রতিটা ডাউনলোড আপনার মেমরিতে চলবে কিনা LM Studio দেখায়।
- 3
চ্যাট
Chat ট্যাবে মডেল লোড করে লিখতে শুরু করুন।
আরও সুন্দর চ্যাট ইন্টারফেস (ঐচ্ছিক)
Ollama ব্যবহার করলে Open WebUI-এর মতো ফ্রি প্রজেক্ট দিয়ে ChatGPT-এর মতো ইন্টারফেস যোগ করতে পারেন। এটা নিজে থেকে Ollama-র সাথে যুক্ত হয় আর ব্রাউজারে চ্যাটের ইতিহাস, ফাইল আপলোড ও মডেল বদলানোর সুবিধা দেয়।
কোন কাজে কোন মডেল?
- সাধারণ চ্যাট ও লেখা: RAM অনুযায়ী Qwen, Llama বা Gemma।
- গণিত, যুক্তি আর ধাপে ধাপে চিন্তা: DeepSeek-R1-এর distilled মডেল।
- কোডিং: Qwen-এর coder সংস্করণ বা অন্য কোডিং-কেন্দ্রিক মডেল।
- খুব পুরনো বা কম RAM-এর ল্যাপটপ: সবচেয়ে ছোট আকার (প্রায় 1–2b প্যারামিটার)।