· 7 min read

کوئی بھی خادم

PinePaper پر on-device AI معاونت زبان کے نمونے کو استعمال کرتے ہوئے ایک حقیقی منظر میں تبدیل کر دیتا ہے یہاں آرکیٹیکٹ — بے قابو آلات کال، دو فراہم کنندے اور ایک دیانتدار اکاؤنٹ ہے کہ ایک چھوٹا سا ماڈل کیا کر سکتا ہے اور نہیں کر سکتا.

جواب

زیادہ تر AI ڈیزائن آلات کسی سرور کو بھیجتے ہیں، ایک بڑا ماڈل چلاتے ہیں اور کوڈ واپس بھیج دیتے ہیں۔ کہ ایک اکاؤنٹ کی ضرورت ہے، ایک نیٹ ورک راؤنڈ. اور اعتماد کہ آپ کے کام میں.

ہم یہ جاننا چاہتے تھے کہ دوسرے انتہائی آگے کتنا آگے بڑھ رہا ہے: سرکش ڈیزائن معاون جہاں ماڈل آپ کی مشین پر چلتا ہے۔ کوئی حساب نہیں. کوئی اپلوڈ. فوری طور پر براؤزر کو کبھی نہیں چھوڑتا. یہ اب PinePaper کے ایڈیٹر کے طور پر ایک تجرباتی طور پر PPGGX / Code Force Asconstant table میں رہ رہا ہے اور یہ پوسٹ ایک دیانتدارانہ اکاؤنٹ ہے کہ کس طرح کام کرتا ہے اور کہاں وہ کم گرتا ہے۔.

کیوں نہ صرف کوڈ کے لئے ماڈل پوچھیں؟?

ظاہری طریقہ کار سے پی پی جی جی0X کے خلاف JavaScrip لکھنے اور اسے چلانے کے لیے ویکی ماڈل پر سوال کرنا ہے۔ ہم نے اس کی جانچ کی. یہ بُری طرح ناکام ہوتا ہے ۔.

چھوٹے ماڈل — جو لیپ ٹاپ پر مبنی ہوتے ہیں — ایک خاص ایپ کے پی‌جی‌ٹی‌سی‌ٹی‌سی‌سی‌اے کا علم نہیں رکھتے ایک 0.5–2B ماڈل سے رابطہ کریں جسے XQQ کہا جاتا ہے اور اس کی پیمائش کی جاتی ہے: ایک کلیدی طریقہ یہ نہیں پڑھا جاتا (ایک SVG-style fill جہاں API color)، ایک طریقہ کار، تصور کیا، غلط صورت میں دلیلیں۔ برآمد * نگاہیں* جیسے کوڈ اور خاموشی سے غلط کام کرتی ہیں۔.

تو ہم کوڈ کے لیے درخواست نہیں کرتے۔ ہم آلات کی ایک فہرست کے لئے درخواست کرتے ہیں:

[
  { "name": "pinepaper_set_background_color", "arguments": { "color": "#0F0F1A" } },
  { "name": "pinepaper_create_item", "arguments": { "itemType": "star", "x": 400, "y": 300, "radius": 90, "color": "#E74C3C", "animationType": "pulse" } }
]

اسی لفظ PPGX PG1X سرور بیرونی ایجنٹوں کو ظاہر کرتا ہے مگر مقامی طور پر چلنے والے نمونے سے ٹکرا کر ایک چھوٹے سے ٹرانسمیٹر کے ذریعے اس پر عمل کیا جاتا ہے۔.

غیر متصل برآمد کرنا ناممکن ہے

بنیادی نقل‌مکانی غیرقانونی ہے ۔ نمونے کی توقع کرنے کی بجائے ہم نے * زور دیا ہے کہ وہ کس بات کی اجازت دیتا ہے:*

  • کروم کی تعمیر کردہ انفنٹری پر API* (Gemini Nano) پر ہم بطور جوابی رکاوٹ عبور کرتے ہیں۔ ماڈل صرف چیزوں کو بنا سکتا ہے — additionalProperties: false کے ساتھ، کوئی بھی دلیل، اصل میں اسکیم کی وضاحت نہیں کی جا سکتی۔.
  • [ صفحہ ۱۰ پر تصویر ] ایکس گراہم کے ذریعے ایک فحش‌نگاری کے نیچے رکھی گئی ہے ۔ یسوع مسیح نے اپنے شاگردوں سے کہا : ” تُم . . .

دونوں ایک ہی آلے کی شکل پیدا کرتے ہیں۔ ایک چھوٹی سی مرمت پھر بھی ایک چھوٹا سا ماڈل بنا دیتی ہے ۔ نتیجہ یہ ہوتا ہے کہ "ایک سبز پنوں کو کھینچ کر" ایک اصلی create_item کال بن جاتا ہے ایک غلطی کی بجائے.

دو فراہم کنندہ، ایک معاہدہ

انٹرنیٹ مووی ڈیٹابیس (IMDb) پر AI ایک چیز نہیں ہے — یہ براؤزر پر منحصر ہے:

  • THIBrowser AIU — Chrome's settlement-inside Gemini Nanoce (window.LanguageModel)۔ براؤزر کے ساتھ ماڈل جہاز؛ ہم سے ڈاؤن لوڈ کرنے کے لئے کچھ نہیں ہے. یہ آج کے دور میں سب سے زیادہ قابل اعتماد راستہ ہے، کیونکہ JSON-schema تنازعات سستا اور قابل اعتماد ہیں۔.
  • [ فٹ‌نوٹ ] اِس میں ایک مرتبہ ( اِس کے بعد شروع ہونے والے واقعات ) کے بارے میں بتایا گیا ہے ۔.
  • [حوالہ درکار] Languagessence — غیر انگریزی اصطلاحات کا انگریزی میں ترجمہ اول (via the Berroser's on-device) سے کیا جاتا ہے، کیوں کہ چھوٹے کوڈ پیشہ ورانہ ماڈل انگریزی-device - یہ بات خاص طور پر لوگوں کی زبان سے تعلق رکھتی ہے ۔.

وہ انجن استعمال کرتا ہے ؛ سب کچھ سستا — رکاوٹ ، ڈی‌پی‌اے — یکساں ہے ۔.

تدوین، صرف تدوین نہیں کی جا رہی

ایک شوگر ایجنٹ معاون نہیں ہے۔ " ستارے کو سرخ بنانا" کی حمایت کرنے کے لیے ماڈل کو یہ جاننے کی ضرورت ہے کہ پہلے سے کیا ہو رہا ہے۔ لہٰذا ہر موڑ ہم اسے موجودہ چیزوں کی ایک آمیزش کرتے ہیں — اُن کے آئی‌ڈی ، اقسام اور رنگ — بالکل ویسے ہی سرور سے متعلق گفتگو ۔ " ستارے کو سرخ کر دو" پھر ایک حقیقی modify_item کو آئٹم کے ایڈ کے خلاف فون کرنے پر حل کرتا ہے۔ (اور چونکہ ایک چھوٹا سا ماڈل بعض اوقات "دی کرکل" کا حوالہ دیتا ہے اس لیے جب اس کا مطلب ستارہ ہوتا ہے تو جینے والی کہکشاں کے خلاف فلکیات دانوں کے حوالے سے حل کرتا ہے۔

آپ کے کمپیوٹر کو مقامی ذخیرہ میں محفوظ رکھا جاتا ہے. اِس میں کوئی بھی چیز ایسی نہیں ہے جب تک کہ آپ اُس میں شریک نہ ہو جائیں ۔.

جبکہ چھوٹا سا ماڈل کافی نہیں ہے —

یہاں دیانت دار حصہ: حدیث 0.5–2B ماڈل سب سے کمزور ٹائیگر ہے۔ Concerved de coding ضمانتیں * settlement settlement* لیکن ماڈل کو اب بھی درست اوزار اور شعوری اقدار لینا پڑے گا اور یہ ہمیشہ نہیں کرے گا۔ ایک پنجابی اور ذیلی ماڈل کے لئے سوال کریں، آپ کو "رد" کے لئے دو بار طلب کرتے ہیں اور یہ آپ کے لئے ایک ایجنٹ چلا سکتا ہے.

لہٰذا آرکیٹیکٹ پر بطور * پہلا* ٹائیگر، واحد نہیں۔ چند ناکام ہونے کے بعد مددگار ساری گفتگو کو روکنے کی پیشکش کرتا ہے۔ اِس کے علاوہ آپ اُس جگہ بھی جاتے ہیں جہاں سے آپ جاتے ہیں ۔ کم سے کم، مفت اور نجی، آپ کو ضرورت پڑنے پر ایک بہترین راستے کے ساتھ.

ہم نے جو سیکھا ہے

  • ایس . ایک بنیادی نظام فوری طور پر مدد کرتا ہے ؛ ایک گرائمر/schema جو غیر منافع بخش پیداوار کو ناممکن بناتا ہے۔ سب سے بڑی دھماکا کسی بہتر فوری کارروائی کی بجائے ناقابلِ‌برداشت ڈی کوڈ سے پیدا ہوا ۔.
  • [ صفحہ ۱۰ پر تصویر ] ایک 0.5B سے 1.5B ماڈل تک جانے سے اِس بات کو بہتر طور پر سمجھا جاتا ہے کہ اُس کا مددگار کتنی بار صحیح آلات کو استعمال کرتا ہے ۔ ایک چھوٹا سا ماڈل ایک ہوشیار شخص میں تبدیل کرنے والا کوئی محرک نہیں ہے ۔.
  • مکمل گرائمر بہت بڑا ہو سکتا ہے. ہمارا پہلا گرائمر encode * ہر ممکنہ عمل — جن میں ایک پابند پناہ گزین ڈرائنگ کوڈ بھی شامل ہے۔ یہ اتنا بڑا تھا کہ اس صفحے کو توڑ کر رکھ دیا گیا ۔ عام عمل کو ڈھانپنے والا ایک مربوط گرائمر درست طے شدہ ہوتا ہے، مکمل سطح کو ترجیح دی جاتی ہے۔.
  • اسے بنیادی دھاگے سے دور پھینک دیا. اِس سلسلے میں ایک مثال پر غور کریں ۔ ویب‌LM ایک ویب‌سائٹ میں چلتی ہے ۔.

اب کیا ہے؟

یہ تجربہ اور بہتری ہے. راستے میں:

  • بے قابو راستوں میں رکاوٹی آلات — زیادہ سے زیادہ PPGX کے آپریشنز نے بغیر آزادانہ طور پر مظاہرے کیے۔.
  • ممنوعہ Larg on-device ماڈلز جن میں WebGPU ماڈل کیٹلاگ کے طور پر شامل ہیں، ترقی کرتے ہیں، قابل اعتماد کے لیے فروخت شدہ حجم۔.
  • [حوالہ درکار] محکمہ خارجہ جات — مریخ پر موجود ماڈلز کا سفر کرنے اور ان کے خلاف گرائمر کو سخت کرنے کا طریقہ.
  • [device on-device Cloud handoff cells]، تو ایسکلیشن ایسا محسوس کرتی ہے جیسے آلات کو تبدیل کرنے کی بجائے خوبی کا دیال بدل جائے۔.

لائن کے ذریعے: وہی Declarative ٹول ورڈ ایک ماڈل چلاتا ہے ایک بیرونی ایجنٹ ان آلات کو پی پی جی0X پر پکارتے ہیں؛ ایک آن-ڈیویس ماڈل کو مقامی طور پر اسی شکل کہتے ہیں۔ ایک معاہدہ، جہاں وہ جاتے ہیں ایجنٹ.

  • اسے ایڈیٹر میں منتقل کریں — ⁠ کھلے فحش‌نگاری سے متعلقہ مددگار / کوڈ معاون ثابت ہوا ۔ یہ مفت ہے، آپ کے اوزار پر چلتا ہے، اور کوئی اکاؤنٹ کی ضرورت نہیں*

Ready to create?

Start making animated GIFs, videos, and graphics — free, no signup.

Open PinePaper Editor