টিথার ক্রস-প্ল্যাটফর্ম BitNet LoRA ফ্রেমওয়ার্ক চালু করেছে যা ভোক্তা ডিভাইসে বিলিয়ন-প্যারামিটার AI প্রশিক্ষণ এবং ইনফারেন্স সক্ষম করে

USDT স্টেবলকয়েন ইস্যুকারী Tether ঘোষণা করেছে যে এটি Microsoft BitNet মডেলের জন্য ডিজাইন করা প্রথম ক্রস-প্ল্যাটফর্ম LoRA ফাইন-টিউনিং ফ্রেমওয়ার্ক চালু করছে, যা 1-বিট বৃহৎ ভাষা মডেল আর্কিটেকচারের উপর ভিত্তি করে তৈরি। এই ক্ষমতাটি তার QVAC Fabric সিস্টেমে একীভূত করা হয়েছে এবং রিপোর্ট অনুযায়ী এটি মেমরি ব্যবহার এবং কম্পিউটেশনাল চাহিদা উভয়ই উল্লেখযোগ্যভাবে হ্রাস করে। কোম্পানির মতে, এই উন্নয়ন বৃহৎ আকারের ভাষা মডেলগুলি, যার মধ্যে বিলিয়ন প্যারামিটারসহ মডেলও রয়েছে, ব্যাপকভাবে উপলব্ধ ভোক্তা হার্ডওয়্যার যেমন ল্যাপটপ, স্ট্যান্ডার্ড গ্রাফিক্স প্রসেসিং ইউনিট এবং আধুনিক স্মার্টফোন ব্যবহার করে ফাইন-টিউন করার সুযোগ দেয়।

কৃত্রিম বুদ্ধিমত্তা সিস্টেমের উন্নয়ন এবং রক্ষণাবেক্ষণে ঐতিহ্যগতভাবে এন্টারপ্রাইজ-গ্রেড হার্ডওয়্যার প্রয়োজন হয়েছে, বিশেষত বিশেষায়িত NVIDIA অবকাঠামো বা ক্লাউড-ভিত্তিক পরিবেশ। এই প্রয়োজনীয়তাগুলি উচ্চ পরিচালন খরচে অবদান রেখেছে, যা উন্নত AI উন্নয়নে প্রবেশাধিকার প্রধানত বড় সংস্থাগুলির মধ্যে সীমাবদ্ধ করেছে যাদের যথেষ্ট আর্থিক সম্পদ এবং বিশেষায়িত কম্পিউটিং সিস্টেমে প্রবেশাধিকার রয়েছে।

Tether জানিয়েছে যে নতুন প্রবর্তিত BitNet-ভিত্তিক ফ্রেমওয়ার্ক দ্বারা উন্নত তার QVAC Fabric বৃহৎ ভাষা মডেল, ক্রস-প্ল্যাটফর্ম LoRA ফাইন-টিউনিং সমর্থন করে এবং বিভিন্ন ধরনের ভোক্তা GPU-তে ইনফারেন্স ত্বরান্বিত করে এই সীমাবদ্ধতাগুলি সমাধান করে। এর মধ্যে Intel, AMD, এবং Apple Silicon সহ অন্যান্য হার্ডওয়্যার অন্তর্ভুক্ত রয়েছে। ফলস্বরূপ, ব্যবহারকারীরা কেন্দ্রীভূত অবকাঠামোর উপর নির্ভর না করে সাধারণত উপলব্ধ ভোক্তা ডিভাইসে সরাসরি AI মডেল প্রশিক্ষণ এবং কাস্টমাইজ করতে সক্ষম।

কোম্পানি রিপোর্ট করেছে যে তার প্রকৌশল দল প্রথমবারের মতো মোবাইল গ্রাফিক্স প্রসেসিং ইউনিটে BitNet ফাইন-টিউনিং সফলভাবে প্রদর্শন করেছে, যার মধ্যে Adreno, Mali, এবং Apple Bionic GPU-এর মতো প্ল্যাটফর্ম রয়েছে। অভ্যন্তরীণ পরীক্ষায় দেখা গেছে যে একটি 125 মিলিয়ন-প্যারামিটার BitNet মডেল Adreno GPU সহ একটি Samsung S25 ডিভাইসে প্রায় 300টি ডকুমেন্ট বা প্রায় 18,000 টোকেন সমন্বিত একটি বায়োমেডিকেল ডেটাসেট ব্যবহার করে প্রায় দশ মিনিটে ফাইন-টিউন করা যেতে পারে। 1 বিলিয়ন-প্যারামিটার মডেলের জন্য, একই ডেটাসেটের জন্য Samsung S25-এ প্রায় এক ঘন্টা আঠারো মিনিট এবং iPhone 16-এ এক ঘন্টা পঁয়তাল্লিশ মিনিট প্রয়োজন হয়েছে। কোম্পানি আরও রিপোর্ট করেছে যে এটি সর্বোচ্চ ডিভাইস ক্ষমতার শর্তে iPhone 16-এ 13 বিলিয়ন প্যারামিটার পর্যন্ত বড় মডেলে পরীক্ষা সম্প্রসারিত করতে সক্ষম হয়েছে।

এজ-ভিত্তিক AI প্রশিক্ষণ এবং পারফরম্যান্স অপটিমাইজেশনে অগ্রগতি

আরও ফলাফলগুলি পরামর্শ দেয় যে ফ্রেমওয়ার্কটি এজ ডিভাইসে Q4 কোয়ান্টাইজেশনের অধীনে পরিচালিত তুলনীয় নন-BitNet মডেলের দ্বিগুণ আকার পর্যন্ত মডেলের ফাইন-টিউনিং সমর্থন করতে পারে। এই ফলাফলটি BitNet আর্কিটেকচারের সাথে সম্পর্কিত হ্রাসকৃত মেমরি ফুটপ্রিন্টের জন্য দায়ী।

প্রশিক্ষণে উন্নতির পাশাপাশি, ফ্রেমওয়ার্কটি উন্নত ইনফারেন্স পারফরম্যান্সও প্রদর্শন করে। মোবাইল ডিভাইসে পরিচালিত পরীক্ষাগুলি নির্দেশ করে যে BitNet মডেলগুলি GPU-তে কার্যকর হলে যথেষ্ট দ্রুততর সম্পাদন করে, প্রসেসিং গতি CPU-ভিত্তিক কার্যকরণের তুলনায় দুই থেকে এগারো গুণ বেশি। এই ফলাফলগুলি নির্দেশ করে যে মোবাইল GPU-গুলি ক্রমবর্ধমানভাবে এমন ওয়ার্কলোড পরিচালনা করতে সক্ষম যা পূর্বে বিশেষায়িত হার্ডওয়্যার বা ডেটা সেন্টার-স্তরের সংস্থান প্রয়োজন করত।

সিস্টেমটি মেমরি দক্ষতায় উল্লেখযোগ্য লাভও দেখায়। বেঞ্চমার্ক ডেটা পরামর্শ দেয় যে TQ1_0 কনফিগারেশন ব্যবহার করা একটি BitNet-1B মডেল ইনফারেন্স এবং LoRA ফাইন-টিউনিং প্রক্রিয়ার সময় 16-বিট Gemma-3-1B মডেলের তুলনায় 77.8 শতাংশ পর্যন্ত কম VRAM এবং 16-বিট Qwen3-0.6B মডেলের তুলনায় 65.6 শতাংশ কম প্রয়োজন। এই হ্রাসগুলি বৃহত্তর মডেল চালানো এবং এমন হার্ডওয়্যারে ব্যক্তিগতকরণ বৈশিষ্ট্য সক্ষম করার জন্য অতিরিক্ত ক্ষমতা প্রদান করে যা পূর্বে অপর্যাপ্ত বলে বিবেচিত হত।

Tether আরও নির্দেশ করেছে যে ফ্রেমওয়ার্কটি প্রথমবারের মতো নন-NVIDIA হার্ডওয়্যারে 1-বিট বৃহৎ ভাষা মডেলের জন্য LoRA ফাইন-টিউনিং ক্ষমতা প্রবর্তন করে, AMD, Intel, Apple Silicon, এবং মোবাইল GPU প্ল্যাটফর্মে সামঞ্জস্যতা বিস্তৃত করে। বিশেষায়িত অবকাঠামো এবং ক্লাউড পরিষেবার উপর নির্ভরতা হ্রাস করে, পদ্ধতিটি সংবেদনশীল ডেটা ব্যবহারকারী ডিভাইসে স্থানীয়ভাবে সংরক্ষিত থাকতে দেয়। কোম্পানি উল্লেখ করেছে যে এই দক্ষতা ফেডারেটেড লার্নিং সিস্টেমের উন্নয়নকেও সমর্থন করতে পারে, যেখানে মডেলগুলি ডেটা গোপনীয়তা বজায় রেখে এবং কেন্দ্রীভূত সিস্টেমের উপর নির্ভরতা হ্রাস করে বিতরণকৃত ডিভাইস জুড়ে সহযোগিতামূলকভাবে প্রশিক্ষিত হতে পারে।

পোস্টটি Tether ক্রস-প্ল্যাটফর্ম BitNet LoRA ফ্রেমওয়ার্ক চালু করেছে যা ভোক্তা ডিভাইসে বিলিয়ন-প্যারামিটার AI প্রশিক্ষণ এবং ইনফারেন্স সক্ষম করে প্রথম প্রকাশিত হয়েছে Metaverse Post-এ।