MicroLLM Lab يشغّل نماذج لغة صغيرة داخل المتصفح عبر WebGPU دون حساب أو خادم
المغزى: قيمة النماذج الصغيرة ليست في جودة الإجابة، بل في أن تقرر محليًا أي الطلبات يستحق أن يصل إلى النموذج المدفوع، فلا يصل جزء منها إلى الفاتورة أصلًا.
وسم
المغزى: قيمة النماذج الصغيرة ليست في جودة الإجابة، بل في أن تقرر محليًا أي الطلبات يستحق أن يصل إلى النموذج المدفوع، فلا يصل جزء منها إلى الفاتورة أصلًا.
حدود الـ sandbox في المتصفح تتوقف عند الـ GPU، وWebGPU مفعّلة افتراضيًا، فصار بإمكان رابط واحد أن يوقف جهاز العمل حتى إعادة التشغيل.