liqiang
b119135836
Build latest book artifacts / build (push) Canceled after 0s
dependency resolution / resolve (3.11) (push) Canceled after 0s
dependency resolution / resolve (3.13) (push) Canceled after 0s
deploy-pages / build (push) Canceled after 0s
deploy-pages / deploy (push) Canceled after 0s
i18n consistency check / check (push) Canceled after 0s
provider adoption tests / test (chapter2/context-compression) (push) Canceled after 0s
provider adoption tests / test (chapter2/prompt-injection) (push) Canceled after 0s
provider adoption tests / test (chapter2/system-hint) (push) Canceled after 0s
provider adoption tests / test (chapter3/log-sanitization) (push) Canceled after 0s
web-search-agent tests / test (push) Canceled after 0s
web-search-agent tests / agentbook (push) Canceled after 0s
7.7 KiB
7.7 KiB
الفصل السادس · التفاعل: توسيع فضاء الملاحظة وفضاء الفعل
يوسع الإدراك والفعل من النص إلى الصوت والواجهات الرسومية والعالم المادي. ويتناول ثلاثة أنماط للبنية الصوتية، والإدراك الصوتي المتدفق وتركيب الكلام، واستخدام الحاسوب، والتحكم الروبوتي.
← العودة إلى الملف التمهيدي الرئيسي · 📖 قراءة نص الفصل
كيفية قراءة التجارب
يستخدم النص هياكل آلية قصيرة لشرح تدفق التحكم؛ ويحتوي دليل التجارب على محولات SDK الكاملة والسجلات والاختبارات وأدلة القبول. لا حاجة لقراءة كل ملف سطرًا سطرًا.
- Starter: ابدأ بالهدف والأمر الأدنى وشروط القبول؛ وابدأ من live-audio;
- Builder: تتبّع نقطة الدخول والحلقة الأساسية ومخطط الحالة/الرسائل والأدوات وأداة التحقق.
- Maintainer: ثم اقرأ الاختبارات وmanifest الأدلة ومعالجة الأعطال ومسارات التراجع ومحولات المزوّد.
في القراءة الأولى يمكنك تجاوز بيانات الاعتماد وطبقة العرض وتوافق المزوّد؛ عُد إليها عند إعادة إنتاج رقم.
المشاريع المصاحبة
| التجربة | المشروع | النوع | الوصف |
|---|---|---|---|
| 6-1 | الوكيل مع مشغل الحدث | ✅ | وكيل حديث يعتمد على الأحداث تم تصميمه باستخدام FastAPI، ويدمج جميع الأدوات من خوادم MCP الثلاثة الأولى بشكل افتراضي. يستخدم بنية أصلية غير متزامنة لتحميل أداة MCP النظيفة ويستقبل أحداث متعددة المصادر (الويب، والمراسلة الفورية، GitHub، والمؤقتات، وما إلى ذلك) عبر HTTP API. يوفر وثائق API التلقائية (Swagger UI) وقدرات مراقبة الخلفية. |
| 6-2 | وكيل غير متزامن | ✅ | ينفذ نواة إطار Flux للوكلاء غير المتزامنين القائمين على الأحداث، باستخدام نموذج أحادي الخيط. وتوزع قائمة الأحداث الواردة المهام بحسب السياسة المناسبة، مثل المقاطعة أو التنفيذ الفوري أو الاصطفاف، كما تدعم تشغيل الأدوات بالتوازي، ومقاطعة الجولة الحالية، وإلغاء المهام الطويلة والاستعلام عن حالتها. ويتخذ نموذج لغوي حقيقي القرارات عبر استدعاء الدوال. |
| 6-3 | صوت حي | ✅ | عرض توضيحي للدردشة الصوتية في الوقت الفعلي يدمج تحويل الكلام إلى نص وحوار الذكاء الاصطناعي وتحويل النص إلى كلام. يدعم العديد من موفري خدمات الذكاء الاصطناعي (OpenAI، OpenRouter، ARK، Siliconflow)، مما يوفر تجربة محادثة منخفضة زمن الوصول. |
| Add-on | وكيل الهاتف | 🚧 | نُفّذ مسارا direct/ReAct في SDK الرسمي pine-voice، لكن لم يُقدَّم رقم E.164 مخوّل وبموافقة صاحبه. يسجل preflight عدم الاتصال وعدم وجود transcript، ولا يُعد test double قبولًا. |
| 6-4 | خطاب متدفق | ✅ | يوضح المفاضلة الأساسية لإدراك الكلام المتدفق: تقطيع الصوت المستمر إلى مقاطع ذات طول متزايد وإدخالها إلى ASR. ينتج عن كل مقطع مستلم "نتيجة التعرف الجزئي الحالية" لتحقيق زمن استجابة منخفض للغاية للجزء الأول لإخراج النص المبكر. والتكلفة هي أن المقاطع المبكرة، التي تفتقر إلى سياق النصف الأخير من الجملة، قد تكون خاطئة، وتتقارب تدريجياً مع تراكم الصوت. وهذا يتناقض مع النهج عالي الدقة/زمن الوصول العالي المتمثل في "انتظار الجملة بأكملها قبل التعرف عليها". |
| 6-5 | الكلام من نهاية إلى نهاية | ✅ | شُغّل MiniCPM-o 4.5 بإصدار مثبّت محليًا على بطاقة RTX PRO 6000 واحدة؛ حقق مسارا end-to-end وself-cascade نتيجة 3/4 مع أخطاء دلالية وشبه لغوية متكاملة، وحُفظ خرج صوتي حقيقي 24kHz ودليل القبول. |
| 6-6 | تحويل النص إلى كلام قابل للتحكم | 🚧 | تمر مكتبة Fish Audio S1 الحقيقية 4×3×2 ووسائط A/B/C بوابات البنية؛ ما زالت دراسة الاستماع النوعية وتقييم «قريب من موظف بشري» ناقصين. |
| 6-7 | claude-quickstarts/computer-use-demo/ |
📖 | المستودع الخارجي anthropics/claude-quickstarts مثبت عند 9bcc95e…؛ المقصود هو Computer Use demo بسطح Ubuntu وحلقة Claude agent داخل container، لا مجموعة quickstarts كلها. |
| 6-8 | browser-use/ |
📖 | المستودع الخارجي browser-use/browser-use مثبت عند ec9277c…؛ يستخدم visual CLI مع use_vision=True للبحث في Google عن طقس San Francisco وحفظ مسار الأفعال/الصور. |
| 6-9 | xlerobot-teleoperation | 📖 | تشغيل XLeRobot الحقيقي عن بُعد لمهمة واحدة لترتيب المكتب: ضع الكوب الأحمر في الصينية، والورقة الصفراء في سلة المهملات، ثم أعد الملاحظة وتحقق من الحالة. |
| 6-10 | gemini-xlerobot-navigation | 📖 | قياس الحد الأعلى للتحكم المثالي في المهمة نفسها داخل المحاكي؛ ولا يعني ذلك تشغيل الروبوت الحقيقي. |
| 6-11 | gemini-xlerobot-navigation | 📖 | يتحكم Gemini Robotics-ER 1.5 ذاتيًا في XLeRobot الحقيقي لتنفيذ مهمة ترتيب المكتب نفسها. |
| 6-12 | gemini-xlerobot-navigation | 📖 | مقارنة التنفيذ المفتوح، والتحقق خطوة بخطوة، والحلقة المغلقة التنبؤية للمهمة نفسها داخل المحاكي. |
| 6-13 | rgb-sim2real-grasping | 📖 | اختبار RGB عبر البيئات للمهمة نفسها مع تغيير الخلفية ومظهر الأشياء والإضاءة والضجيج البصري. |
أنواع المشاريع
| الأيقونة | النوع | المعنى |
|---|---|---|
| ✅ | مستقل | شفرة كاملة قابلة للتشغيل في هذا المستودع بعد إعداد مفتاح API |
| 📖 | دليل إعادة الإنتاج | وثائق تفصيلية تعتمد على مستودع خارجي يُجلب باستخدام git clone |
| 🚧 | قيد الإنجاز | يوجد تنفيذ، لكن التشغيل الحي أو التفويض أو العتاد أو أدلة قبول متطلبات النص لم تكتمل |