مساعد تصميم يعمل على جهازك - لا حساب -
مساعد (بي جي تي إكس) في (ديفيسي) (بي بي جي 1X) يتحول إلى مشهد حقيقي ها هو الهيكل، نداءات الأدوات المقيدة، اثنين من مقدمي الخدمات، وحساب صادق ما يمكن أن نموذج صغير ولا يمكن القيام به.
الفرضية
معظم أدوات تصميم " بي جي تي إكس " ترسل سرعتك إلى خادم وتدير نموذجاً كبيراً هذا يحتاج إلى حساب، وشبكة ذهابا وإيابا، وثقة أن عملك في المستقبل عبور البنية الأساسية لشخص آخر.
أردنا أن نعرف إلى أي مدى يذهب المتطرف الآخر: ** مساعد تصميم حيث يعمل النموذج على آلة الخاص بك**. لا حساب لا تحميل. العجلة لا تترك المنظف هذا هو الآن يعيش في محرر PPinePaper على أنه تجريبي PG1X / خط / رمز مساعد.
لماذا لا تسأل فقط النموذج للرمز؟?
النهج الواضح هو أن نطلب من نموذج (الدايفيز) أن يكتب (جافاسكريبت) ضد (بي بي جي إكس) حاولنا ذلك انها تفشل بشكل سيء.
النماذج الصغيرة التي تناسب حاسوب محمول لا تعرف شيئا عن تطبيق محدد إسألي نموذجاً يتراوح بين 0.5 و2B ليتصل بـ PinePaper.create() وهو يرتجل: مفتاح لا يقرأه المنهج (بصيغة SVG-style fill) حيث تتوقع شركة API color)، وهي طريقة تتخيلها، حجج في الشكل الخاطئ. الناتج يسقط* مثل الرمز و صامتة يفعل الشيء الخطأ.
لذا نحن لا نطلب الشفرة نطلب قائمة مشبوهة بمكالمات الأدوات**
[
{ "name": "pinepaper_set_background_color", "arguments": { "color": "#0F0F1A" } },
{ "name": "pinepaper_create_item", "arguments": { "itemType": "star", "x": 400, "y": 300, "radius": 90, "color": "#E74C3C", "animationType": "pulse" } }
]
نفس البرمجيات المتحركة (بي بي جي تي إكس) تعرض للعملاء الخارجيين.
جعل الناتج غير الصحيح مستحيل
The key move is constrained decoding. بدلاً من أن نأمل أن يُنتج النموذج شكلاً صالحاً، نحن نُقيّد... ما يُسمح له حتى أن يُطلق عليه:
- على (كروم) مبنية في ** "برومبست بي جي 1X** (غيمين نانو)، نمرّر "إكس شيما" كقيد للرد النموذج يمكن أن ينتج الأشياء فقط الرخصة الكيماوية مع
additionalProperties: false، أي حجّة لا يعرّفها الشيميا هو حرفياً غير قابل للتمثيل. - On WebLM (an open model running on WebGPU), we أرفق غراماً من طراز EBNF عبر XGrammar. ويقضي الغرامار بالهيكل؛ ولا يملأ النموذج إلا القيم.
كلاهما ينتجان نفس شكل مجموعة الأدوات ومن ثم فإن تمرير إصلاحي صغير ينقذ النموذج الصغير الذي لا يزال يقوم به - وهو عبارة عن قسائم مخفضة، وحجج دون ملفها - بإنتاج الأداة من شكل الحجة. النتيجة هي أن "سحب البطولة الخضراء" تصبح مكالمة حقيقية من "إكس كي 1Q" بدلا من الخطأ.
موردان، عقد واحد
ليس هناك شيء واحد يعتمد على المنظف
- زهرة AI** السفن النموذجية مع المصفح لا يوجد شيء لتحميله منا وهذا هو أكثر الطرق الموثوقة في المستقبل اليوم، لأن قيود JSON-schema رخيصة ومدعمة جيدا.
- ** PinePaper AI** - WebLM، تشغيل نموذج Qwen2.5 في أي بروزر من طراز WebGPU. It downloads a model once (cached thereafter), then run offline.
- ترجمة غير إنجليزي إلى الإنجليزي أولاً (عن طريق مترجم البروزر المبني) لأن النماذج الصغيرة ذات المنحى الرمزي هي اللغة الإنكليزية المركزة المشهد المتولد هو نفسه بغض النظر عن اللغة الفورية.
ويختار المستخدم المحرك؛ وكل شيء في أسفل المجرى - القيد، والمنفذ، والزجاج - متطابق.
الإصغاء، ليس فقط توليد
المولد ذو الطلقة الواحدة ليس مساعدا لدعم "اجعل النجم الأحمر" يجب أن يعرف النموذج ما هو موجود بالفعل على الكنز لذا فكل منعطف نطعمه صورة مدمجة للبنود الحالية - أي أعراضها وأنواعها وألوانها - تماما مثل دردشة جانب الخادم. "اجعل النجمة حمراء" ثم تصمم على اتصال حقيقي بـ "إكس كي كي" ضد الصنف و لأن نموذج صغير يشير أحياناً إلى "السيركل" عندما يعني النجم، المنفذ يسوي إشارات زائفة ضد الكتف الحي
سجل المُحادثة يُبقي على جهازك** في المخزن المحلي لا شيء حوله يتم إرساله إلى أي مكان - إلا إذا اخترت صراحة المشاركة في العجلات الفاشلة، مما يساعدنا على تحسين العجلات والغرام.
عندما يكون النموذج الصغير غير كافٍ
هذا هو الجزء الصادق: ضمانات التزيين المكثفة * هيكل معتمد * لكن النموذج مازال يجب أن يلتقط الأداة الصحيحة والقيم المعقولة إسأل عن البنتاغون و نموذج غير محدد يعطيك هكساغون و اطلب مرتين من "ريد".
إذاً فالهيكل يتعامل مع "الدرجة الأولى" ليست الوحيدة بعد بعض المحاولات الفاشلة عرض المساعد لإخفاء المحادثة بأكملها إلى نموذج الكلاود** - نفس النية، نفس الشموع، نموذج أكثر قدرة بكثير - وتستمرين بالضبط حيث غادرتِ. الإخلاص الضئيل، الحرّة والخاصّة، مَع a طريق البقعة الواحدة إلى الإخلاص العالي عندما تَحتاجُه.
ما تعلمناه
- ** تعرض المقاتلون للضرب بالإكراه**. فالنظام المرتكز يساعد على نحو سريع؛ فالغرام/الكيميائي الذي يجعل الناتج غير الصحيح مستحيلا يساعد كثيرا. القفزة الوحيدة الأكثر موثوقية جاءت من الزينة المقيدة وليس من أسرع.
- ** لا يزال حجم النموذج يهيمن عليه**. الانتقال من 0.5B إلى نموذج 1.5B بشكل ملحوظ كم مرة يختار المساعد الأداة المناسبة. ليس هناك حافز يحول نموذج صغير إلى واحد ذكي.
- ** يمكن للغرام الكامل أن يكون كبيرا جدا**. أول جرام لنا تم تشفيره * كل عملية ممكنة - بما في ذلك فتحة هروب مُقيدة من أجل رمز سحب تعسفي. كان كبيراً جداً لدرجة أن التزيين المقيد أوقف الصفحة والغرامات المدمجة التي تغطي العمليات المشتركة هي التخلف الصحيح؛ والسطح الكامل هو الخيار.
- ** أخرجه من الخيط الرئيسي** نموذج يقوم بالإستطلاع على خيط (يو آي) يجمّد الصفحة ويب ليم يعمل في شبكة ويب كي يبقى المحرّر مستجيباً في حين أنّه يولّد نماذج.
ما التالي
وهذا أمر تجريبي وتحسن. على خريطة الطريق:
- التغطية بالأدوات الغريبة في الطريق المقيد.
- ** نماذج متطورة**، مع نمو فهرس نموذجي لنموذج PWebGPU، وحجم التحميل التجاري للموثوقية.
- ** حلقة مرور أكثر تشددا** - تستخدم تقارير الفشل المرتأى لقياس ما يؤدي إلى تعثر نماذج التذاكر وتقويض الغرام ضدها.
- ** أكثر سلاسة عند تسليم كلود**، لذا فإن التصعيد يبدو وكأنه رفع الاتصال الجيد بدلاً من تغيير الأدوات.
The throughline: the same declarative tool vocabulary drives a model on either side of the browser boundary. وهناك وكيل خارجي يسمي هذه الأدوات على MCP؛ ويسمي نموذج التليفزيون نفس الأشكال محليا. عقد واحد وكلاء أينما كانوا.
- جربه في المحر ِّر - مفتوح PG0X/رمز مساعد. انها مجانية، تشغيل على جهازك، ولا تحتاج إلى حساب
Ready to create?
Start making animated GIFs, videos, and graphics — free, no signup.
Open PinePaper Editor