لماذا نماذج الذكاء الاصطناعي لا تعطي نفس المخرجات دائمًا حتى عند استخدام temperature = 0
أظهرت دراسة حديثة من Thinking Machines Lab أن الفرضية الشائعة – أن السبب هو “توازي العمليات على وحدات المعالجة + أخطاء الـ floating points” – ناقصة، فعلى الخوادم المعزولة تكون النماذج متكررة وموثوقة؛ المشكلة تظهر عندما يخدم السيرفر مستخدمين متعددين ويُجمِّع الطلبات في دفعات Batch !! السبب الحقيقي :: غياب ثبات شكل الدفعات (Batch Invariance) […]