Ollama দিয়ে নিজের কম্পিউটারে ফ্রি AI চ্যাটবট চালানোর সম্পূর্ণ গাইড

ইন্টারনেট প্যাকেজ শেষ হয়ে গেলে কি আপনার এআই অ্যাসিস্ট্যান্টের কাজ বন্ধ হয়ে যায়? কিংবা চ্যাটজিপিটি বা জেমিনি-তে নিজের ব্যক্তিগত তথ্য বা পড়াশোনার নোট শেয়ার করা নিয়ে কি আপনি প্রাইভেসির দুশ্চিন্তায় ভোগেন? আপনার এই সব সমস্যার একদম জাদুকরী সমাধান হলো নিজের কম্পিউটারে সম্পূর্ণ অফলাইনে এআই রান করা। আর এই কাজটি অত্যন্ত সহজ করে দিয়েছে "ওলামা" (Ollama)। কোনো সাবস্ক্রিপশন ফি বা ক্লাউড সার্ভারের ঝামেলা ছাড়াই, আপনার সাধারণ পিসিতেই এখন চলবে শক্তিশালী সব এআই মডেল। আজকের গাইডে আমরা একদম সহজ ভাষায় শিখবো কীভাবে কোনো টেকনিক্যাল জটিলতা ছাড়াই আপনি নিজের কম্পিউটারে একটি ফ্রি চ্যাটবট সেটআপ করতে পারেন।

ওলামা (Ollama) কী এবং এটি কেন ব্যবহার করবেন?

সহজ কথায়, Ollama হলো একটি ওপেন-সোর্স সফটওয়্যার যা আপনাকে খুব সহজে আপনার নিজের উইন্ডোজ, ম্যাক বা লিনাক্স কম্পিউটারে বড় ল্যাঙ্গুয়েজ মডেল (LLM) রান করতে সাহায্য করে। সাধারণত আমরা যেসব ক্লাউড-ভিত্তিক সেরা এআই টুলস ব্যবহার করি, সেগুলোর জন্য ইন্টারনেটের প্রয়োজন হয় এবং আমাদের সমস্ত ডেটা তাদের সার্ভারে চলে যায়। কিন্তু ওলামা সরাসরি আপনার প্রসেসর ও গ্রাফিক্স কার্ড ব্যবহার করে কাজ করে।

বিশেষ করে যারা পড়াশোনা করছেন, তাদের জন্য নিজের কম্পিউটারে লোকাল এআই রাখা অত্যন্ত উপকারী। আপনি আপনার থিসিস পেপার, পার্সোনাল নোট কিংবা কোডিংয়ের ফাইলগুলো সম্পূর্ণ নিরাপদে এআই দিয়ে অ্যানালাইসিস করিয়ে নিতে পারবেন, যার একটি অক্ষরও ইন্টারনেটে লিক হবে না।

লোকাল এআই বনাম ক্লাউড এআই চ্যাটবট

আমরা অনেকেই ভাবি, নিজের কম্পিউটারে এআই চালালে কি ক্লাউডের মতো সুবিধা পাওয়া যাবে? বিষয়টি পরিষ্কার করার জন্য নিচের তুলনাটি দেখে নেওয়া যাক:

যেমনটা দেখছেন, আপনি যদি নিজের ডেটার ওপর সম্পূর্ণ নিয়ন্ত্রণ চান এবং কোনো টাকা খরচ করতে না চান, তবে ওলামা-র কোনো বিকল্প নেই।

ওলামা চালানোর জন্য প্রয়োজনীয় সিস্টেম রিকোয়ারমেন্ট

যেহেতু এআই মডেলগুলো অনেক বড় এবং জটিল হিসাব-নিকাশ করে, তাই আপনার পিসিতে ন্যূনতম কিছু হার্ডওয়্যার থাকা প্রয়োজন। আপনার কম্পিউটারে নিচের কনফিগারেশনগুলো আছে কিনা তা মিলিয়ে নিন:

• অপারেটিং সিস্টেম: উইন্ডোজ ১০ বা তার চেয়ে নতুন, ম্যাকওএস (Apple Silicon হলে সবচেয়ে ভালো পারফরম্যান্স পাবেন), অথবা লিনাক্স।
• র‍্যাম (RAM): ন্যূনতম ৮ জিবি (GB) র‍্যাম প্রয়োজন। তবে ১৬ জিবি বা তার বেশি থাকলে ৭ বিলিয়ন বা ৮ বিলিয়ন প্যারামিটারের এআই মডেলগুলো খুব দ্রুত কাজ করবে।
• গ্রাফিক্স কার্ড (GPU): এনভিডিয়া (Nvidia) বা অ্যাপল সিলিকন (M1, M2, M3) চিপসেট থাকলে এআই চোখের পলকে উত্তর দেবে। ডেডিকেটেড গ্রাফিক্স কার্ড না থাকলেও শুধু প্রসেসর (CPU) দিয়ে ওলামা চালানো সম্ভব, তবে সেক্ষেত্রে উত্তর দিতে কিছুটা বেশি সময় লাগতে পারে।
• স্টোরেজ: মডেল ডাউনলোডের জন্য আপনার এসএসডি (SSD)-তে অন্তত ১০ থেকে ২০ জিবি খালি জায়গা থাকা উচিত।

ধাপে ধাপে ওলামা ইনস্টল ও সেটআপ করার নিয়ম

ওলামা ইনস্টল করার প্রক্রিয়াটি অত্যন্ত সহজ। নিচে ধাপে ধাপে গাইড দেওয়া হলো:

ধাপ ১: ওলামা ডাউনলোড করুন

প্রথমে ওলামার অফিশিয়াল ওয়েবসাইট থেকে আপনার অপারেটিং সিস্টেম অনুযায়ী (Windows, macOS, বা Linux) ইনস্টলার ফাইলটি ডাউনলোড করে নিন।

ধাপ ২: সফটওয়্যারটি ইনস্টল করুন

ডাউনলোড করা ফাইলটির ওপর ডাবল ক্লিক করে সাধারণ অন্যান্য সফটওয়্যারের মতোই এটি ইনস্টল করুন। ইনস্টল হয়ে গেলে আপনার পিসির টাস্কবারে (উইন্ডোজের নিচের ডান কোনায়) ওলামার একটি ছোট আইকন দেখতে পাবেন। এর অর্থ ওলামা ব্যাকগ্রাউন্ডে চালু রয়েছে।

ধাপ ৩: টার্মিনাল বা কমান্ড প্রম্পট খুলুন

উইন্ডোজ ব্যবহারকারী হলে সার্চ বারে `cmd` লিখে "Command Prompt" খুলুন। আর ম্যাক ব্যবহারকারী হলে "Terminal" অ্যাপটি ওপেন করুন।

ধাপ ৪: প্রথম এআই রান করুন

এবার কমান্ড প্রম্পটে নিচের কোডটি লিখে কিবোর্ডের এন্টার (Enter) চাপুন:

`ollama run llama3`

এই কমান্ডটি দেওয়ার সাথে সাথে মেটার বিখ্যাত Llama 3 মডেলটি আপনার কম্পিউটারে ডাউনলোড হতে শুরু করবে। প্রথমবার ডাউনলোডে কিছুটা সময় লাগতে পারে (ফাইলের সাইজ প্রায় ৪.৭ জিবি)। ডাউনলোড শেষ হওয়া মাত্রই আপনার টার্মিনালটি একটি চ্যাটবটে রূপান্তরিত হবে এবং আপনি অফলাইনেই প্রশ্ন করা শুরু করতে পারবেন!

ওলামা লাইব্রেরি থেকে সেরা কিছু অফলাইন এআই মডেল

ওলামা-তে আপনি শুধু একটি নয়, বরং আপনার কাজের ধরন অনুযায়ী বিভিন্ন ধরনের ফ্রি এআই মডেল ব্যবহার করতে পারবেন। নিচে বহুল ব্যবহৃত কয়েকটি চমৎকার মডেলের তালিকা দেওয়া হলো:

• Llama 3 (Meta): সাধারণ প্রশ্ন উত্তর, ক্রিয়েটিভ রাইটিং এবং যেকোনো জটিল বিষয় সহজ করে বোঝার জন্য এটি সেরা অলরাউন্ডার মডেল।
• Mistral: ফ্রেঞ্চ স্টার্টআপের তৈরি এই মডেলটি আকারে ছোট হলেও অত্যন্ত বুদ্ধিমান এবং দ্রুত উত্তর দিতে সক্ষম। রান করার কমান্ড: `ollama run mistral`
• Gemma (Google): গুগলের তৈরি এই ওপেন-সোর্স মডেলটি কোডিং এবং লজিক্যাল প্রশ্নের উত্তর দিতে বেশ পটু। রান করার কমান্ড: `ollama run gemma`
• Codegemma: আপনি যদি প্রোগ্রামিং শিখছেন বা কোড জেনারেট করতে চান, তবে এই মডেলটি আপনার জন্য পারফেক্ট অ্যাসিস্ট্যান্ট। রান করার কমান্ড: `ollama run codegemma`

ওপেন ওয়েব-ইউআই (Open WebUI) দিয়ে চ্যাটজিপিটির মতো ইন্টারফেস তৈরি

টার্মিনালে কালো স্ক্রিনে টেক্সট লিখে চ্যাট করা অনেকের কাছেই বোরিং লাগতে পারে। আপনি যদি একদম ChatGPT-এর মতো সুন্দর এবং আকর্ষণীয় ইন্টারফেসে নিজের লোকাল এআই চালাতে চান, তবে আপনাকে ব্যবহার করতে হবে Open WebUI। এটি ব্যবহার করে আপনি মাউসের ক্লিকেই চ্যাট হিস্ট্রি সেভ করা, ফাইল আপলোড করা এবং বিভিন্ন মডেলের মধ্যে তুলনা করার সুবিধা পাবেন।

এটি সেটআপ করার সহজ উপায় হলো ডকার (Docker) ব্যবহার করা। ডকার ইনস্টল করে টার্মিনালে নিচের কমান্ডটি রান করলেই আপনার ব্রাউজারে একটি লোকাল চ্যাট ইন্টারফেস তৈরি হয়ে যাবে:

`docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main`

এরপর আপনার ব্রাউজারে গিয়ে `http://localhost:3000` লিখলেই আপনি চ্যাটজিপিটির মতো সম্পূর্ণ নিজস্ব একটি ড্যাশবোর্ড পেয়ে যাবেন। এটি আপনার প্রযুক্তিগত দক্ষতা বাড়াতে এবং এআই ক্যারিয়ার গাইড হিসেবে ভবিষ্যতের কাজের জন্য নিজেকে প্রস্তুত করতে দুর্দান্ত সাহায্য করবে।

পড়াশোনার কাজে ওলামা চ্যাটবটের কিছু বাস্তব উদাহরণ

শিক্ষার্থী বা গবেষকদের জন্য অফলাইন এআই একটি দারুণ আশীর্বাদ। আপনি এটিকে যেভাবে কাজে লাগাতে পারেন:

১. বই বা আর্টিকেলের সামারি তৈরি: আপনার পড়ার টেবিলের বড় কোনো পিডিএফ ফাইলের টেক্সট কপি করে ওলামা-তে দিয়ে বলুন, "Summarize this in 5 bullet points"। মুহূর্তের মধ্যে আপনি সারাংশ পেয়ে যাবেন।

২. গণিত ও বিজ্ঞানের জটিল থিওরি শেখা: ইন্টারনেট ছাড়াই আপনি যেকোনো কঠিন সূত্র বা থিওরি ওলামাকে বুঝিয়ে দিতে বলতে পারেন। যেমন আপনি প্রম্পট দিতে পারেন: "Explain Quantum Physics like I am 10 years old"।

৩. গ্রামার ও রাইটিং ইমপ্রুভমেন্ট: আপনার অ্যাসাইনমেন্ট বা ইংরেজি রাইটিংয়ের ভুলত্রুটি সংশোধন করতে ওলামাকে বলতে পারেন। এটি কোনো ডেটা লিক ছাড়াই নিখুঁতভাবে আপনার লেখার ব্যাকরণ ঠিক করে দেবে।