הכתבה של דניאלה גינזבורג "ידיעות אחרונות" וב-Ynet מתארת בעיה קשה ב-Claude ה-Chatbot של Anthropic.
כותרת הכתבה בגרסה המקוונת: שאלו את קלוד שאלות פשוטות ומה שיצא ממנו הפתיע גם את החוקרים.
הכותרת של אותה כתבה ב"ידיעות אחרונות" רחוקה מהליות מדויקת.
הכותרת: "הפרצה של קלוד: מודל ה-AI הפופולרי שיכפל תעמולה רוסית וחזר על טענות שקריות".
החלק הלא מדויק הוא המונח פרצה. טענה כאילו יש Bug בתוכנה שבגללו נוצרה פרצה.
מי שקרא פוסטים שלי על אימון (Training) של Chatbots או על מקורות בהם עושים Chatbots שימוש מבין שזה לא Bug, אלא Feature.
Feature הוא משהו מהותי שהוא חלק ממוצר.
במקרה זה השימוש במקורות מוטים, מקורות לא אמינים ומקורות זדוניים המנסים להטות את ה-Chatbots הוא חלק אינהרנטי מהמודל של Claude וגם של Chatbots אחרים כמו ChatGPT.
קראו למשל: הזיות: כשל לוגי מהותי ב-Chatbots מבוססי מודל שפה גדול.
אין תגובות:
הוסף רשומת תגובה