ایک ایسی اختراع جو آپ کی ڈیوائس پر سوار ہے — کوئی اکاؤنٹ، سرور نہیں

جواب

زیادہ تر AI ڈیزائن آلات کسی سرور کو بھیجتے ہیں، ایک بڑا ماڈل چلاتے ہیں اور کوڈ واپس بھیج دیتے ہیں۔. کہ ایک اکاؤنٹ کی ضرورت ہے، ایک نیٹ ورک راؤنڈ. اور اعتماد کہ آپ کے کام میں.

ہم یہ جاننا چاہتے تھے کہ دوسرے انتہائی آگے کتنا آگے بڑھ رہا ہے: سرکش ڈیزائن معاون جہاں ماڈل آپ کی مشین پر چلتا ہے۔ کوئی حساب نہیں. کوئی اپلوڈ. فوری طور پر براؤزر کو کبھی نہیں چھوڑتا. یہ اب PinePaper کے ایڈیٹر کے طور پر ایک تجرباتی طور پر PPGGX / Code Force Asconstant table میں رہ رہا ہے اور یہ پوسٹ ایک دیانتدارانہ اکاؤنٹ ہے کہ کس طرح کام کرتا ہے اور کہاں وہ کم گرتا ہے۔.

کیوں نہ صرف کوڈ کے لئے ماڈل پوچھیں؟?

ظاہری طریقہ کار سے پی پی جی جی0X کے خلاف JavaScrip لکھنے اور اسے چلانے کے لیے ویکی ماڈل پر سوال کرنا ہے۔. ہم نے اس کی جانچ کی. یہ بُری طرح ناکام ہوتا ہے ۔.

چھوٹے ماڈل — جو لیپ ٹاپ پر مبنی ہوتے ہیں – ایک مخصوص ایپ کے پی جی0X.Use کا غیر مصدقہ علم ہے۔ 0.5–2B ماڈل سے رابطہ کریں جسے PinePaper.create() کہا جاتا ہے اور اس کا خلاصہ: ایک کلیدی طریقہ نہیں پڑھا جاتا (ایک SVG-style fill جہاں API سے مراد ہے وہ طریقہ جس میں اس نے color کی توقع کی ہے)، غلط صورت میں بحث کی ہے۔. برآمد * نگاہیں* جیسے کوڈ اور خاموشی سے غلط کام کرتی ہیں۔.

لہذا ہم کوڈ کے لئے درخواست نہیں کرتے. ہم آلات کی ایک فہرست کے لئے درخواست کرتے ہیں:

[
  { "name": "pinepaper_set_background_color", "arguments": { "color": "#0F0F1A" } },
  { "name": "pinepaper_create_item", "arguments": { "itemType": "star", "x": 400, "y": 300, "radius": 90, "color": "#E74C3C", "animationType": "pulse" } }
]

اسی لفظ PPGX's PG1X سرور بیرونی ایجنٹ کو ظاہر کرتا ہے — لیکن مقامی طور پر دوڑنے والے ایک ماڈل نے اسے ختم کر دیا اور ایک چھوٹے سے کارنر کے ذریعے اسے ہلاک کر دیا ۔.

غیر متصل برآمد کرنا ناممکن ہے

بنیادی نقل‌مکانی غیرقانونی ہے ۔ نمونے کی توقع کرنے کی بجائے ہم نے * زور دیا ہے کہ وہ کس بات کی اجازت دیتا ہے:*

• Chrome کی تعمیر کردہ-indept API County (Gemini Nano) پر ہم جوابی رکاوٹ کے طور پر ایک FresiPG1X Schema County عبور کرتے ہیں۔. ماڈل صرف چیز تیار کر سکتا ہے اسکیم اجازت دے سکتا ہے — additionalProperties: false کے ساتھ، کوئی بھی دلیل جس کی وضاحت نہیں کرتی اصل میں غیر نمائندہ ہے.
• پرویز مشرف (WebGPU پر ایک کھلا ماڈل چلانے والا) پر ہم نے XGammar کے ذریعے ایک ہنگامی بی این ایف گرائمر کو جوڑ دیا۔. یسوع مسیح نے اپنے شاگردوں سے کہا : ” تُم . . .

دونوں ایک ہی آلے کی شکل پیدا کرتے ہیں۔. ایک چھوٹا سا مرمت گزرتا ہے اس کے بعد قریبی مدوجزر کو ایک چھوٹا سا ماڈل بنا دیتا ہے — ایک گراوٹ name، مباحثہ ان کے بغیر — دلیلہ کی شکل سے اوزار کو تیز کرتے ہوئے۔. نتیجہ یہ نکلتا ہے کہ "ایک سبز پنوں کو کھینچ کر" ایک اصلی create_item کو غلطی کی بجائے دعوت دیتا ہے۔.

مندرجہ ذیل تین کے درمیان سوئیچ۔. دو ناقابل برداشت اختیارات ایک جیسے نظر آتے ہیں۔ مقصد: یہی دعویٰ ہے۔. ان دونوں کے درمیان جو تبدیلیاں واقع ہوتی ہیں، وہ نہیں، نتیجہ ۔.

دو فراہم کنندہ، ایک معاہدہ

On-device AI ایک چیز — اس کا انحصار براؤزر پر ہے:

• ITISBrowser AIU — کروم کا بنایا ہوا انفنٹریپی جی0X* (window.LanguageModel)۔. براؤزر کے ساتھ ماڈل جہاز؛ ہم سے ڈاؤن لوڈ کرنے کے لئے کچھ نہیں ہے. یہ آج تک سب سے زیادہ قابل اعتماد راستہ ہے، کیونکہ JSON-schema تنازعات سستا اور خوب صورت ہوتے ہیں۔.
• ISBPG0X AI* کسی بھی Qwen2.5 براؤزر میں ایک Qwen2.5 ماڈل چلاتا ہے۔. اِس میں ایک مرتبہ ( اِس کے بعد شروع ہونے والے واقعات ) کے بارے میں بتایا گیا ہے ۔.
• ضلع لاڑکانہ — غیر انگریزی مفروضے کا انگریزی میں ترجمہ سب سے پہلے (via the Berroser's on-device) کیا جاتا ہے، کیوں کہ چھوٹے کوڈ پیشہ ورانہ ماڈلز انگریزی-device -. یہ بات خاص طور پر لوگوں کی زبان سے تعلق رکھتی ہے ۔.

صارف انجن کا انتخاب کرتا ہے؛ سب کچھ نیچے والےم — حدیث، حدیث، حدیث — برابر ہے.

تدوین، صرف تدوین نہیں کی جا رہی

ایک شوگر ایجنٹ معاون نہیں ہے۔. " ستارے کو سرخ بنانا" کی حمایت کرنے کے لیے ماڈل کو یہ جاننے کی ضرورت ہے کہ پہلے سے کیا ہو رہا ہے۔. لہٰذا ہم اِسے موجودہ چیزوں کے ایک ٹکڑے‌شُدہ نقش‌ونگار بناتے ہیں — ان کے جد، اقسام اور رنگ — بالکل ویسے ہی سرور پہلوی چیٹ کی طرح. " ستارے کو سرخ کر دو" پھر ایک حقیقی modify_item کو آئٹم کے ایڈ کے خلاف حل کرتا ہے۔. (اور چونکہ ایک چھوٹا سا ماڈل بعض اوقات "دی کرکل" کا حوالہ دیتا ہے اس لیے جب اس کا مطلب ستارہ ہوتا ہے تو جینے والی کہکشاں کے خلاف فلکیات دانوں کے حوالے سے حل کرتا ہے۔

آپ کے کمپیوٹر کو مقامی ذخیرہ میں محفوظ رکھا جاتا ہے. اس کے بارے میں کہیں بھی نہیں بھیجا جاتا — جب تک آپ دوسروں کی مدد کرنے کے قابل نہیں ہوتے ، جس سے ہمیں ترغیب ملتی ہے کہ ہم اِس میں بہتری لائیں ۔.

جبکہ چھوٹے ماڈل کافی نہیں — مصر

یہاں دیانت دار حصہ: حدیث 0.5–2B ماڈل سب سے کمزور ٹائیگر ہے۔ Concerved de coding ضمانتیں * settlement settlement* لیکن ماڈل کو اب بھی درست اوزار اور شعوری اقدار لینا پڑے گا اور یہ ہمیشہ نہیں کرے گا۔. ایک پنجابی اور ذیلی ماڈل کے لئے سوال کریں، آپ کو "رد" کے لئے دو بار طلب کرتے ہیں اور یہ آپ کے لئے ایک ایجنٹ چلا سکتا ہے.

لہٰذا آرکیٹیکٹ پر بطور * پہلا* ٹائیگر، واحد نہیں۔. چند ناکام کوشش کے بعد معاون کی کوشش کی گئی کہ وہ ساری گفتگو کو کلاؤڈ ماڈل بورڈ تک محدود کر دے — اسی مقصد کے مطابق، ایک بہت زیادہ قابل ماڈل — اور آپ بالکل وہاں سے چھوڑ گئے. کم سے کم، مفت اور نجی، آپ کو ضرورت پڑنے پر ایک بہترین راستے کے ساتھ.

ہم نے جو سیکھا ہے

• ایس . ایک بنیادی نظام فوری طور پر مدد کرتا ہے ؛ ایک گرائمر/schema جو غیر منافع بخش پیداوار کو ناممکن بناتا ہے۔. سب سے بڑی دھماکا کسی بہتر فوری کارروائی کی بجائے ناقابلِ‌برداشت ڈی کوڈ سے پیدا ہوا ۔.
• [ صفحہ ۱۰ پر تصویر ] ایک 0.5B سے 1.5B ماڈل تک جانے سے اِس بات کو بہتر طور پر سمجھا جاتا ہے کہ اُس کا مددگار کتنی بار صحیح آلات کو استعمال کرتا ہے ۔. ایک چھوٹا سا ماڈل ایک ہوشیار شخص میں تبدیل کرنے والا کوئی محرک نہیں ہے ۔.
• مکمل گرائمر بہت بڑا ہو سکتا ہے. ہمارا پہلا گرائمر ان کوڈ * ہر ممکنہ عمل — جن میں ایک پابند پناہ گزین فرار. یہ اتنا بڑا تھا کہ اس صفحے کو توڑ کر رکھ دیا گیا ۔. عام عمل کو ڈھانپنے والا ایک مربوط گرائمر درست طے شدہ ہوتا ہے، مکمل سطح کو ترجیح دی جاتی ہے۔.
• اسے بنیادی دھاگے سے دور پھینک دیا. اِس سلسلے میں ایک مثال پر غور کریں ۔. پی‌جی‌جی‌ٹی‌ٹی‌ایس ایک ویب‌سائٹ میں چلتی ہے ۔.

اب کیا ہے؟

یہ تجربہ اور بہتری ہے. راستے میں:

• ناقابل استعمال راستے میں رکاوٹی آلات — زیادہ سے زیادہ PinePaper کے آپریشنز نے بغیر آزاد فارم فرار کے اظہارات کیے۔.
• ممنوعہ Larg on-device ماڈلز جن میں WebGPU ماڈل کیٹلاگ کے طور پر شامل ہیں، ترقی کرتے ہیں، قابل اعتماد کے لیے فروخت شدہ حجم۔.
• ضلع لاڑکانہ — مطلوبہ ناکام اطلاعات کا استعمال کرتے ہوئے اس بات کا اندازہ لگانے کے لیے کہ کس طرح پریڈ ماڈل پر سفر کرتا ہے اور ان کے خلاف گرائمر کو سخت کرتا ہے۔.
• [device on-device Cloud handoff cells]، تو ایسکلیشن ایسا محسوس کرتی ہے جیسے آلات کو تبدیل کرنے کی بجائے خوبی کا دیال بدل جائے۔.

لائن کے ذریعے: وہی Declarative ٹول ورڈ ایک ماڈل چلاتا ہے. ایک بیرونی ایجنٹ ان آلات کو پی پی جی0X پر پکارتے ہیں؛ ایک آن-ڈیویس ماڈل کو مقامی طور پر اسی شکل کہتے ہیں۔. ایک معاہدہ، جہاں وہ جاتے ہیں ایجنٹ.

ایڈیٹر میں کوشش کریں — کھلے TVPGX / Code Construction معاون ثابت ہوا۔. یہ مفت ہے، آپ کے ڈیوائس پر چلتا ہے اور کوئی اکاؤنٹ کی ضرورت نہیں ہے.