Jev: 5 שימושים מעשיים וספי ביטחון להפעלת סוכנים

מה זה Jev

Jev הוא מודל של חברת TypeSafe AI שהושק ב-15 בספטמבר 2026. הוא לא כותב טקסט. הוא מקבל מצב, בודק שאלות שהגדרתם מראש, ומחזיר החלטה מתוך רשימה סגורה, יחד עם ציון ביטחון.

החברה קוראת לזה System One Model. ההגדרה שלהם: unstructured state in, typed probabilistic decisions out.

למה זה מעניין: רוב ההחלטות בתוך אוטומציה הן קטנות, האם ההודעה הזו דחופה, לאיזה צוות להעביר, האם הליד חם. להפעיל מודל גדול על כל אחת מהן זה אטי ויקר. Jev הוא השכבה שמחליטה אם בכלל צריך להעיר את המודל היקר.

שלוש שאלות, זה כל ה-API

כל בקשה היא state אחד ועד עשרות שאלות במקביל. יש שלושה סוגי שאלות:

שימו לב: Noul לא מחזיר ציון ביטחון, הוא מחזיר את ההסתברות עצמה. ציון הביטחון קיים רק ב-Choice וב-Score.

להתחיל ב-5 דקות

1. לנסות בלי קוד

היכנסו ל-Playground, הדביקו טקסט כלשהו כ-state, והוסיפו שאלה: console.typesafe.ai/playground

2. מפתח API

צרו מפתח כאן: console.typesafe.ai/keys

3. קריאה ראשונה

curl -X POST https://api.typesafe.ai/v1/systemone \
  -H "Authorization: Bearer $TYPESAFE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "state": "the flight was cancelled, we have two kids and nowhere to sleep",
    "model": "jev-latest",
    "questions": {
      "is_urgent": {
        "type": "noul",
        "instructions": "The message describes an urgent situation"
      }
    }
  }'

4. או דרך ה-SDK

pip install typesafe-sdk

ה-client קורא את TYPESAFE_API_KEY מהסביבה ומשתמש ב-jev-latest כברירת מחדל.

חמישה שימושים מעשיים

1. ראוטר לקבוצת וואטסאפ

הבעיה: סוכן שמחובר לקבוצה של העסק צריך לקרוא כל הודעה ולהחליט אם בכלל קורה משהו. להעביר כל הודעה למודל גדול זה אלפי קריאות ביום.

הפתרון: שאלת Choice אחת על כל הודעה.

"triage": {
  "type": "choice",
  "instructions": "What is happening in this message",
  "criteria": {
    "chatter": "Normal conversation, nothing to do",
    "frustrated": "The customer is getting upset",
    "needs_human": "A real problem that needs intervention"
  }
}

בקוד: chatter יוצא שקט, frustrated נכנס לתור מעקב, needs_human מעיר את הסוכן הגדול. רק המקרה השלישי עולה כסף אמיתי.

2. ניטור שירות: לקוח שעומד לעזוב

שאלת Score על שיחת שירות, עם סולם שאתם מגדירים במילים שלכם:

"churn_risk": {
  "type": "score",
  "instructions": "How close this customer sounds to leaving",
  "criteria": [
    "Satisfied, routine question",
    "Annoyed but staying",
    "Explicitly threatening to cancel"
  ]
}

הפלט הוא דירוג, הסתברות לכל רמה, וציון ביטחון. הכלל בקוד: רמה 2 בביטחון גבוה מפעילה שימור, רמה 2 בביטחון נמוך הולכת לאדם.

3. ספי ביטחון להפעלת סוכנים

זה השימוש החשוב ביותר, והוא מה שמבדיל בין דמו למערכת שאפשר לסמוך עליה. הכלל: התשובה אומרת מה, הביטחון אומר האם לפעול בכלל.

סף ביטחון הוא לא מספר אחד. פעולות שונות באותה מערכת צריכות ספים שונים לפי מחיר הטעות:

action = response.answers["action"]
confidence = action.confidence

if confidence < 0.5:
    route_to_human(user_message)          # do not guess

elif action.choice == "check_balance":
    show_balance(account_id)              # cheap mistake, just act

elif action.choice == "approve_transfer":
    if confidence > 0.9:
        confirm_then_execute(account_id)  # costly, high confidence
    else:
        ask_user_to_confirm(account_id)   # costly, medium confidence

4. שומר סף ל-LLM

בקשה אחת שסורקת כל הודעה שנכנסת למודל הגדול וכל תשובה שיוצאת ממנו: ניסיונות jailbreak, תוכן מסוכן, דליפת מידע. בגלל שזה 70 עד 500 אלפיות שנייה, אפשר להריץ את זה על כל הודעה בלי שהמשתמש ירגיש.

כאן ספי הביטחון הפוכים: בספק חוסמים או מעבירים לבדיקה, לא מעבירים הלאה.

5. העברה של לידים חמים בלבד

במקום שאיש מכירות יקרא מאה פניות ביום, Jev מדרג כל פנייה על שלוש שאלות במקביל, תקציב, דחיפות, סמכות לקנות, וקוד פשוט מחשב את הציון המשוקלל.

חשוב: את החשבון הסופי תעשו בקוד. Jev טוב בשיפוט סמנטי והוא לא מחשבון.

איך בוחרים סף ביטחון

נקודת התחלה טובה היא לחלק את הביטחון לשלושה טווחים, כל אחד עם התנהגות אחרת:

איפה בדיוק לשים את הגבולות תלוי במחיר הטעות. התחילו מחמיר, מדדו כמה מקרים נופלים לאדם, ורק אז תרפו.

טיפים

• תשאלו את השאלה שאתם מתכוונים אליה, מילה במילה. Jev קורא מילולית: שלילה, סייג או תנאי מרומז נקראים כפשוטם.
• כשאתם מסתכלים על תשובה שגויה ומוצאים את עצמכם מסבירים מה התכוונתם, ההסבר הזה הוא החצי החסר של ההוראה.
• שלחו את כל השאלות בבקשה אחת. לפי TypeSafe, איגוד 13 שאלות לקריאה אחת יצא פי 12 זול ופי 10 מהיר מקריאה נפרדת לכל שאלה.
• סננו את ה-state לפני השליחה. הרבה טקסט לא רלוונטי מוריד את איכות התשובה.
• כל חישוב, תאריך והשוואה מספרית, בקוד. תבקשו מ-Jev לחלץ רכיבים, ותשוו אותם בעצמכם.
• אם אתם מתלבטים בין שתי פרשנויות לשאלה, פצלו לשתי שאלות מילוליות ותשלבו את התשובות בקוד.
• בנו סט של 30 עד 50 מקרים אמיתיים עם התשובה הנכונה, והריצו אותו אחרי כל שינוי בניסוח. בלי זה אין דרך לדעת שהשינוי באמת שיפר.
• בהחלטות רגישות תשאירו אדם באמצע גם כשהביטחון גבוה.

מגבלות שכדאי להכיר

TypeSafe מפרסמים דף גלוי של נקודות התורפה של הגרסה הנוכחית (jev-1.13). אלה העיקריות:

• קריאה מילולית: המודל עונה על השאלה שכתבתם, לא על זו שהתכוונתם אליה.
• מתמטיקה וספירה: זה לא מחשבון. כל אריתמטיקה בקוד.
• השוואת תאריכים ושעות: תחלצו רכיבים ותשוו בקוד.
• אינדירקציה: שאלה שדורשת כמה קפיצות לוגיות. תקצרו את הדרך ותפנו ישירות לחלק הרלוונטי ב-state.
• תוכן עוין: תכתבו הוראות מדויקות ותבדקו מקרי קצה לפני העלייה לאוויר.
• יצירת טקסט: זה פשוט לא מה שהמודל עושה. לזה יש מודל גדול.

ומעל הכל: זו החלטה הסתברותית, לא חוק. גם בביטחון 0.98 יש מקרים שייפלו.

לינקים

• ההכרזה הרשמית: typesafe.ai/blog
• תיעוד: docs.typesafe.ai
• ספי ביטחון וניתוב: docs.typesafe.ai/patterns/confidence-routing
• מגבלות הגרסה: docs.typesafe.ai/model-jaggedness/jev-1.13
• קונסולה ו-Playground: console.typesafe.ai