ผู้ ช่วย ที่ ออก แบบ ซึ่ง ใช้ อุปกรณ์ ของ คุณ — ไม่ มี บัญชี, ไม่ มี เครื่องแม่ข่าย

สมมุติฐาน

เครื่องมือสําหรับออกแบบ AI ส่วนใหญ่จะส่งการแจ้งเตือนของคุณไปยังเซิร์ฟเวอร์, เรียกรุ่นขนาดใหญ่, และส่งรหัสกลับ นั่นต้องการบัญชี เครือข่ายเที่ยวรอบ ๆ และไว้ใจว่า การทํางานแบบรุกของคุณ.

เราอยากรู้ว่า อีกโลกหนึ่งไปได้ไกลแค่ไหน ไม่มีบัญชี ไม่มีการอัพโหลด สัญญาณไม่เคยออกจากเบราว์เซอร์ ปัจจุบันนี้อยู่ในบรรณาธิการของ PinePaper เป็นการทดลอง -- AI / Code Charlice) แท็บ และโพสต์นี้ยังเป็นบัญชีที่ซื่อสัตย์ว่ามันทํางานยังไง และตรงไหนที่มันตกมาสั้น.

ทําไมไม่ถามโมเดลรหัสล่ะ?

วิธีการที่ชัดเจนคือขอให้รุ่น On-device เขียนจาวาสคริปต์กับ PinePaper ของ API และเรียกใช้งานมัน เราลองแล้ว มันล้มเหลวมาก.

รุ่นเล็ก — ตัวที่พอดีกับแล็ปท็อป -- ไม่มีข้อมูลเกี่ยวกับ API ของแอป ถามรุ่น 0.5-12B เพื่อเรียก PinePaper.create() และปรับรูปแบบ: คีย์ที่วิธีการไม่ได้อ่าน (an PGP2X Street fill) โดย API คาดว่าจะใช้ color) เป็นวิธีจินตนาการของมัน, การโต้แย้งในรูปแบบที่ผิด ผลที่ออกมา * ลักษณะเหมือนรหัส และเงียบทําสิ่งที่ผิด.

เราไม่ได้ขอรหัส เราถามสําหรับรายการของเครื่องมือที่ได้รับการฝึก: ~

[
  { "name": "pinepaper_set_background_color", "arguments": { "color": "#0F0F1A" } },
  { "name": "pinepaper_create_item", "arguments": { "itemType": "star", "x": 400, "y": 300, "radius": 90, "color": "#E74C3C", "animationType": "pulse" } }
]

คําศัพท์เดียวกัน PinePaper [เครื่องแม่ข่าย MCP] (/api/guides/mcp-integration) เปิดเผยกับตัวแทนภายนอก แต่ปล่อยออกมาโดยโมเดลที่ทํางานในท้องถิ่น และดําเนินการบนผ้าใบผ่านผู้ส่งสารขนาดเล็ก.

ทําให้การแสดงผลไม่ถูกต้อง

การย้ายคีย์คือ... ....... แทนที่จะหวังว่าแบบจําลองสร้างรูปร่างที่ถูกต้องเราบังคับ * สิ่งที่สัญลักษณ์มันได้รับอนุญาตให้ปล่อย:*

• On Chorome's build-in". Prompt API" (GEmini Nano) เราผ่าน "PPUGX Schema" เป็นเงื่อนไขการตอบโต้ โมเดลนี้ผลิตเฉพาะวัตถุที่วัดได้เท่านั้น -- ด้วย additionalProperties: false ข้อโต้แย้งใด ๆ ที่ตัวเชมาไม่ได้นิยามไว้.
• On ~ WebLLM ~ (โมเดลเปิดให้บริการ WebGPU) เรา ติด ไวยากรณ์ EBNF ผ่าน XGrammar ไวยากรณ์ กําหนด โครง สร้าง; แบบ นี้ จะ บรรจุ เฉพาะ ใน ค่า.

ทั้งสองสร้างรูปทรงเครื่องมือเดียวกัน การ ซ่อมแซม แบบ เล็ก ๆ แล้ว ก็ กู้ แบบ เล็ก ๆ ซึ่ง ยัง คง ทํา อยู่ — คือ การ อ้าง เหตุ ผล ที่ ตก โดย ไม่ มี ผ้า ห่อ — โดย การ ตรวจ สอบ เครื่อง มือ จาก รูป แบบ การ โต้ เถียง. ผลก็คือ "วาดห้าเหลี่ยมสีเขียว" กลายเป็น create_item แทนข้อผิดพลาด.

สองผู้จัดหา สัญญาหนึ่ง

On-device AI ไม่ใช่สิ่งหนึ่ง มันขึ้นอยู่กับเบราว์เซอร์:

• Browser AI ~ — Chorome's build-inGEME Nanano~ (window.LanguageModel). เรือจําลองกับเว็บเบราว์เซอร์ ไม่มีอะไรให้ดาวน์โหลดจากเรา นี่เป็นเส้นทางสําหรับมือใหม่ที่เชื่อถือได้มากที่สุดในปัจจุบัน เพราะข้อจํากัดของ JSON-schema นั้นถูกและสนับสนุนอย่างดี.
• PPUG0X AI — WebLLM เปิดโปรแกรม QWenn 2.5 ในเว็บเบราว์เซอร์ WebGPU ใดๆ มันดาวน์โหลดโมเดลหนึ่ง (หลังจากนั้นเสร็จ) แล้ววิ่งออฟไลน์.
• ~Languages ~ - ตัวกระตุ้นที่ไม่ใช่ภาษาอังกฤษจะถูกแปลเป็นภาษาอังกฤษ up-device มาก่อน (ผู้แปลของเบราว์เซอร์) เพราะแบบจําลองโค้ดเล็ก ๆ ที่ใช้ในภาษาอังกฤษนั้นมีความชัดเจน เหตุ การณ์ ที่ เกิด ขึ้น เป็น เรื่อง เดียว กัน ไม่ ว่า จะ เป็น ภาษา ใด ก็ ตาม.

ผู้ ใช้ จะ หยิบ เครื่อง ยนต์; ทุก สิ่ง ที่ ลง ไป ตาม กระแส — ข้อ จํากัด, ผู้ บังคับ การ, ผ้า ใบ — ก็ เหมือน กัน.

การแก้ไข, ไม่ใช่แค่สร้าง

เครื่องกําเนิดไฟฟ้าหนึ่งช็อต ไม่ใช่ผู้ช่วย เพื่อสนับสนุน "สร้างดาวสีแดง" โมเดลต้องรู้ว่าอะไรอยู่บนผ้าใบ ดัง นั้น แต่ ละ ครั้ง เรา ก็ จะ ให้ ของ ที่ ใช้ อยู่ ใน ปัจจุบัน ซึ่ง มี การ ถ่าย ภาพ อย่าง ละเอียด — แบบ พิมพ์, พิมพ์, และ สี — เหมือน กับ การ พูด คุย ที่ อยู่ ข้าง เครื่องแม่ข่าย. "ทําให้ดาวเป็นสีแดง" แล้วแก้ไขเพื่อจริง modify_item เรียกกับรายการ (และเนื่องจากแบบจําลองขนาดเล็กบางครั้งหมายถึง "The circle" เมื่อหมายถึงดาว executer แก้ไขความคมชัดกับผ้าใบสด.)

บันทึกการสนทนาถูกเก็บไว้... บนอุปกรณ์ของคุณ ในห้องเก็บของท้องถิ่น ไม่ มี การ ส่ง สัญญาณ ใด ๆ เกี่ยว กับ เรื่อง นี้ ไป ที่ ใด ที่ หนึ่ง นอก จาก ว่า คุณ เลือก ที่ จะ บอก สัญญาณ ที่ ไม่ ได้ รับ คํา ตอบ โดย ตรง ซึ่ง ช่วย เรา ปรับ ปรุง คํา กริยา และ ไวยากรณ์ ให้ ดี ขึ้น.

เมื่อรุ่นเล็กไม่พอ เพิ่มขึ้น

นี่คือส่วนที่ซื่อสัตย์ : ~ โมเดล 0.5-12B คือตัวผูกที่อ่อนแอที่สุด ~ ถูกฝึกมาอย่างดี รับประกัน * โครงสร้างไม่สมบูรณ์* แต่โมเดลนี้ยังคงต้องเลือก เครื่องมือที่เหมาะสม และคุณค่าที่เหมาะสม ถามห้าเหลี่ยม และโมเดลที่ไม่โดดเด่น ให้คุณมีรูปหกเหลี่ยม ถามสองรอบว่า "สีแดง" และมันอาจใช้เครื่องกําเนิดไฟฟ้าแทน.

ดังนั้นสถาปัตยกรรมจึงถือเป็น คนแรก ไม่ใช่คนเดียว หลังจากที่ล้มเหลวสองสามความพยายามผู้ช่วยเสนอที่ ~จัดการการสนทนาทั้งหมดขึ้น สําหรับเมฆโมเดล -- ความตั้งใจเดียวกัน, ผ้าใบเดียวกัน, แบบจําลองที่มีประสิทธิภาพมากขึ้น -- และคุณยังคงตรงที่คุณลืมออก ความซื่อสัตย์ต่ํา อิสระและความเป็นส่วนตัว มีเส้นทางหนึ่งคลิ๊ก สู่ความซื่อสัตย์สูง เมื่อคุณต้องการมัน.

สิ่งที่เราได้เรียนรู้

• ทหารม้าเอาชนะการกระตุ้น การ กระตุ้น จาก ระบบ ที่ ถูก จํากัด ช่วย ได้; ไวยากรณ์/ schema ที่ ทํา ให้ การ ส่ง ออก ไม่ มี ประโยชน์ จะ ช่วย ได้ มาก กว่า นี้. การกระโดดที่น่าเชื่อถือที่สุดเดียว มาจากการถอดรหัส ไม่ใช่การกระตุ้นที่ดี.
• ขนาดเครื่องยังครองอยู่ จาก 0.5B เป็นโมเดล 1.5B ที่สังเกตได้ดีขึ้นว่าผู้ช่วยเลือกเครื่องมือที่เหมาะสมบ่อยแค่ไหน ไม่ มี สัญญาณ เตือน ที่ จะ เปลี่ยน แบบ จําลอง เล็ก ๆ ให้ กลาย เป็น แบบ ที่ ฉลาด.
• ไวยากรณ์เต็มรูปแบบอาจจะใหญ่เกินไป ไวยากรณ์ แรก ของ เรา มี รหัส * ทุก อย่าง ที่ อาจ เป็น ไป ได้ — รวม ถึง การ ฟัก ออก แบบ แบบ แบบ มัด แน่น สําหรับ การ วาด รหัส. มันมีขนาดใหญ่ดังนั้นที่บังคับ การถอดรหัส standed หน้า ไวยากรณ์ คอม แพ กต์ ซึ่ง ครอบ คลุม การ ดําเนิน งาน ร่วม นั้น เป็น การ จัด การ ตาม ปกติ; พื้น ผิว เต็ม ส่วน เหมาะ ที่ สุด.
• ไล่มันออกจากเส้นด้ายหลัก นางแบบทําการอนุมานบนด้ายยูไอ ทําให้หน้าแข็ง WebLLM ทํางานในเว็บเวิร์ค ดังนั้นบรรณาธิการยังคงตอบสนอง ในขณะที่รุ่นโหลดและผลิต.

อะไรต่อไป

นี่คือการทดลองและปรับปรุง บนถนน:

• ** รายงานเครื่องมือ Wider ในเส้นทางบังคับ ~ — การดําเนินงานของ PinePaper มากขึ้นโดยไม่ได้ฟักฟรีฟอร์ม.
• .
• วงจรการวินิจฉัยที่เข้มงวด -- โดยใช้รายงานที่ล้มเหลวที่สุด เพื่อวัดซึ่งจะกระตุ้นให้โมเดลทดลองทํางาน.
• ความราบรื่นของสัญญาณบนเมฆ ~ดังนั้นการเพิ่มความรู้สึก เหมือนการเปิดสัญญาณคุณภาพ แทนที่จะสลับเครื่องมือ.