המודל DeepSeek R1, שפותח על ידי צוות סיני, מטלטל את עולם ה-AI. המודל המהפכני עבר את ChatGPT והגיע למקום הראשון בחנות האפליקציות של ארה"ב. בנוסף, DeepSeek יצר סערה בשוק המניות הטכנולוגי בארה"ב עם ביצועים מרשימים שמתחרים ב-ChatGPT o1. למרות ש-DeepSeek R1 זמין בחינם באתר הרשמי, משתמשים רבים חוששים מנושא הפרטיות, שכן הנתונים נשמרים בסין. למרבה המזל, ניתן להפעיל את DeepSeek R1 מקומית במחשב האישי או במק באמצעות LM Studio ו-Ollama. הנה מדריך צעד-אחר-צעד שיעזור לכם להתחיל.
הפעלת DeepSeek R1 מקומית עם LM Studio
הורדה והתקנה של LM Studio
הורידו והתקינו את הגרסה 0.3.8 או גרסה חדשה יותר של LM Studio (בחינם) למחשב האישי, מק או לינוקס שלכם.פתיחת התוכנה וחיפוש המודל
הפעילו את LM Studio ועברו לחלון החיפוש בצד השמאלי.
תחת "Model Search" תמצאו את המודל "DeepSeek R1 Distill (Qwen 7B)" הזמין דרך Hugging Face.הורדת המודל
לחצו על "Download". שימו לב: כדי להשתמש במודל, עליכם לוודא שיש לכם לפחות 5GB שטח אחסון פנוי ו-8GB של זיכרון RAM.
לאחר שהמודל DeepSeek R1 הושלם והורד למחשב, עברו לחלון "Chat" בתוכנה.
כעת, טענו את המודל כדי להתחיל לעבוד איתו.
בחרו את המודל מהרשימה ולחצו על הכפתור "Load Model" כדי לטעון אותו.
במקרה של שגיאה, נסו להפחית את הערך של "GPU offload" ל-0 והמשיכו בתהליך.
כעת תוכלו לשוחח עם DeepSeek R1 ישירות מהמחשב שלכם באופן מקומי.
תהנו מחוויה פרטית ונוחה!
הפעלת DeepSeek R1 מקומית עם Ollama
הורדה והתקנה של Ollama
התקינו את Ollama (בחינם) על מחשב Windows, macOS או Linux שלכם.הרצת המודל דרך הטרמינל
פתחו את הטרמינל במחשב והזינו את הפקודה הבאה כדי להפעיל את DeepSeek R1 באופן מקומי:
אם יש לכם חומרה חזקה וזיכרון רב, תוכלו להפעיל מודלים גדולים יותר שנגזרו מ-DeepSeek R1, כולל גרסאות 7B, 14B, 32B, ו-70B.
הרצת מודל 7B
כדי להפעיל את מודל 7B של DeepSeek R1, השתמשו בפקודה הבאה בטרמינל:
כעת תוכלו לשוחח עם מודל DeepSeek R1 ישירות מהמחשב שלכם, דרך הטרמינל, באופן מקומי ונוח.
יציאה מהמודל
כדי להפסיק את השיחה עם המודל ולצאת, השתמשו בקיצור המקלדת:Ctrl + D.
אלו שתי הדרכים הפשוטות להתקנת DeepSeek R1 על המחשב האישי שלכם ולהתחיל שיחה עם מודל הבינה המלאכותית, אפילו ללא חיבור לאינטרנט.
מסקנות מהבדיקה:
במהלך הבדיקה הקצרה שלי, שמתי לב ששני המודלים, 1.5B ו-7B, נטו ל"הזיות" (Hallucinations) ולשגיאות בעובדות היסטוריות.
עם זאת, המודלים הללו מצוינים לכתיבה יצירתית ולפתרון בעיות מתמטיות. אם יש לכם חומרה חזקה, אני ממליץ לנסות את מודל DeepSeek R1 32B, שהוא מדויק יותר, בעל יכולות קידוד טובות יותר, ומשיב עם יכולות נימוק מעמיקות.
