עוזר קול פשוט בינה מלאכותית, On A Pi

פרסומת
MAGNEZIX מגנזיקס


פרסומת

כשבינה מלאכותית היא זועם כרגע, זה היה קצת מעצבן ששימוש במודל שפה גדול (LLM) ללא כמויות משמעותיות של כוח מחשוב פירושו כניעה לשירות מקוון המנוהל על ידי חברה גדולה. אבל כמו שקורה עם כל חידוש טכנולוגי, מצב האומנות עבר הלאה, עכשיו עד כדי כך שמחשב קטן כמו Raspberry Pi יכול להצטרף לכיף. [Nick Bild] יש אחד שרץ על Pi 4, ו הוא התרחק יותר מסתם צ'אט בוט בכך שהוא הפך לעוזר קולי.

המוח של הניתוח הוא טינלמה LLM, ארוז כמו א llamafile, כלומר קובץ הפעלה המספק גישה קלה שלב אחד ל-LLM מקומי כמו שאפשר להשיג כרגע. מערכת זיהוי הקול הלחישה מספקת תמלול טקסט של הוראת הקלט, בעוד שסינתיסייזר הדיבור eSpeak יוצר פלט קולי עבור התוצאה. יש סרטון הדגמה קצר שהצבנו מתחת להפסקה, שמראה שהוא עובד, אם כי לאט.

אולי החלק החשוב ביותר בפרויקט הזה הוא שקל להתקנה ו הוא סיפק הוראות מלאות במאגר GitHub. אנחנו יודעים שהאיכות והמהירות של דגמים אלה במחשבי לוח יחיד רק יגדלו עם הזמן, אז היינו מדרגים את זה כצעד חשוב לקראת LLMs מקומיים טובים וזולים באמת. עם זאת, ייתכן שיעבור זמן עד שזה יכול לעזור לך להכין ארוחת בוקר.



קישור לכתבת המקור – 2024-02-20 14:00:07

Facebook
Twitter
LinkedIn
Telegram
WhatsApp
Email
פרסומת
תכנון תשתיות רפואיות

עוד מתחומי האתר