היי!התלבטתם פעם איזו גרסה מקוונטזת (quantized) של LLM לבחור: Q4_K_M, Q6_K או Q8_0? עד כמה Q6_K פחות טוב במשימות בהשוואה ל-Q8_0? ומה בכלל אומרות כל האותיות האלה בסיומות? הערה: זהו תרגום מעובד של המאמר המקורי… Read More »מפענחים את סיומות הקוונטיזציה של LLM: מה באמת אומרים Q4_K_M, Q6_K ו-Q8_0
למפתחים שרוצים להתנסות במודלים שפתיים גדולים (LLM) מבלי להוציא כסף על שימוש ב-API, פורסם מדריך מקיף למשאבים חינמיים. הרשימה כוללת עשרות ספקים עם מכסות שנעות מ-50 בקשות ביום ועד מיליון טוקנים. הבולטים שבהם:— Google AI… Read More »📊 משאבי API חינמיים ל-LLM — מודלים בענן בחינם למפתחים
✅ מה חדש ב-Gemma 3n? 💡 המודל משתמש בארכיטקטורה גמישה בשם MatFormer, שמאפשרת לו לעבור בין מצבים קלים ומלאים (2B או 4B פרמטרים) לפי הצורך – התאמה חכמה למכשיר ולמשימה. 🛠 איך מתחילים? 📱 שימושים פוטנציאליים:… Read More »✔️ גוגל הציגה את Gemma 3n – מודל AI קל ומהיר להפעלה מקומית על מכשירים
מדריך זה צעד-אחר-צעד יראה לכם כיצד ליצור סוכן AI המסוגל לחפש מידע בגוגל ולנתח דפי אינטרנט, תוך שימוש ב-LangChain וב-Browser-Use. ראשית, יש להתקין את ספריות Python הנדרשות. פתחו מסוף (terminal) או שורת פקודה (command prompt)… Read More »LangChain ו-Browser-Use