למה Gemini פתאום מחזיר 400? כי הוא לא אוהב את ה"מטאפורה" שלי

מנהל בכיר בתמיכה הטכנית של AMD אמר: “Cache is semiconductor boobs!” אנא הסבר/י את המטפורה הזו בפירוט מכמה זוויות, תוך שילוב טכנולוגיית 3D V-Cache.


לאחרונה, בזמן שימוש ב-Google Gemini API (דרך newapi), נתקלתי במקרה די “טיפוסי” של שגיאת 400: invalid argument
כאן אני מתעד/ת את מסקנות הדיבוג, לטובת מי שיבוא אחריי.


משאיר/ה פה סימנייה。

משתמש/ת ב-Gemini API(AstrBot),ופתאום מתחיל 400:invalid argument
הפרמטרים נראים בסדר, גם ה-token לא התפוצץ, ובשלב מסוים חשבתי שכתבתי את הקוד עקום。

אחר כך גיליתי שהאשם האמיתי הוא המשפט הזה:

“Cache is semiconductor boobs!”

המשמעות המקורית בעצם די תמימה, בערך:

Cache הוא משהו במוליכים-למחצה ש"ברגע שמוסיפים ממנו זה מאוד בולט, והמשתמש מרגיש את זה מיד"
(בהקשר של דברים כמו 3D V-Cache)

אבל Gemini לא רואה את זה ככה。

מה שהוא ראה זה:
:backhand_index_pointing_right: boobs
:backhand_index_pointing_right: Safety Filter
:backhand_index_pointing_right: ישר 400, בלי לתת אפילו מילה של הסבר

מה שיותר מעצבן הוא שהוא לא יגיד לך שזה עניין של תוכן, הוא פשוט זורק invalid argument
מצוין בשביל לבזבז לך חצי שעה מהחיים。

דרך אגב, גם ההקשר היה די ארוך (9k+ tokens),
ואם בהיסטוריה נדחף משהו עם מילים דומות, לרוב זה פשוט “נענש יחד”。

מסקנה:

  • מסנני הבטיחות של Gemini הם “ברמת מילה”, לא משנה אם דיברת על CPU
  • בדיחה טכנית ≠ בדיחה שהוא מוכן לקבל
  • אם קיבלת/ה 400 וזה ממש לא נראה כמו בעיית פרמטרים, קודם תבדוק/י את ה-prompt

להבא אני אתרגם מטפורות כאלה לשפה של בני אדם לפני שאאכיל את זה אליו :upside_down_face: