הקרב על נשמת המתמטיקה: הסכסוך היצרי בין OpenAI לזוכי מדליית פילדס מסלים
מכתב הפילדס: 25 מבכירי המתמטיקאים בעולם יוצאים למלחמה
המתח הגואה בין ענקית הבינה המלאכותית OpenAI לבין קהילת המתמטיקה העולמית הגיע השבוע לנקודת רתיחה חסרת תקדים. עשרים וחמישה מגדולי המתמטיקאים בדורנו — כולל חתני מדליית פילדס, הפרס הנחשב למקביל לנובל בתחום המתמטיקה — חתמו על מכתב פתוח וחריף במיוחד. במכתב הם מזהירים כי מעבדות הבינה המלאכותית המובילות מסכנות באופן ממשי את העבודה האינטלקטואלית האנושית, בעודן רצות לזכות ביוקרה זולה על ידי 'פתרון' בעיות מתמטיות מפורסמות מבלי ללכת בדרכי המחקר המקובלות.
לפי החותמים, הבעיה המרכזית אינה עצם היכולת של המודלים לפתור בעיות סבוכות, אלא הדרך שבה הדבר נעשה. פתרונות מוכרזים בחיפזון תקשורתי, ללא מתן זמן מספיק לכתיבה אקדמית סדורה, ללא בידוד של מתודולוגיות ורעיונות חדשים, ותוך התעלמות מוחלטת ממתן קרדיט וציטוט עבודות קודמות של חוקרים אנושיים. התנהלות זו, כך טוענים המדענים, מעלה שאלות קשות של פלגיאט, ניכוס פלאים וזלזול באתיקה המדעית.
דרמת NYU: לחצים, היעדר קרדיט וחשש מניצול קודקס
הטריגר שהאיץ את הסערה הנוכחית התרחש השבוע, כאשר פרופסור טריסטן בקמסטר (Tristan Buckmaster) מאוניברסיטת ניו יורק (NYU) האשים פומבית את OpenAI בהתנהלות דורסנית. לפי בקמסטר, החברה הפעילה עליו לחצים כבדים שלא לתת קרדיט לשותף שלו למחקר, רק מכיוון שאותו שותף עובד כיום בחברת Anthropic — המתחרה הגדולה ביותר של OpenAI בתחום הבינה המלאכותית.
בנוסף, בקמסטר הביע תסכול וחשש עמוק מכך ש-OpenAI השתמשה בעבודת המחקר והשאילתות שהוא וצוותו הזינו למודל הקידוד Codex, כדי לייצר הוכחה מפורצת דרך משלהם במהלך מרתון חישובי בסוף שבוע אחד. המקרה הזה הציף פרנויה גוברת בקרב חוקרים: התחושה ששימוש בכלים של חברות הטכנולוגיה הופך את המתמטיקאים למעשה ל'פועלי אימון' בעל כורחם, המזינים את המודלים במידע שאחר כך נלקח מהם ללא אזכור או תמורה.
ביטול החסות ב-CalTech והתמוטטות תרבות המחקר הפתוח
כתוצאה מהביקורת החריפה ומחאת החוקרים, נאלצה OpenAI לבטל ביום חמישי האחרון את החסות שסופקה על ידה לאירוע מתמטי יוקרתי במכון הטכנולוגי של קליפורניה (CalTech). הביקורת הגוברת מצד חוקרי המוסד הבהירה לחברה כי נוכחותה באירוע אינה רצויה עוד בנסיבות הנוכחיות.
החשש הגדול ביותר של הקהילה המדעית אינו רק גזילת התהילה, אלא הרס התרבות של מחקר פתוח ומשותף. כיום, ברגע שמעבדות ענק מזהות נתיב אפשרי לגילוי מדע, הן יכולות להשקיע עשרות מיליוני דולרים בכוח חישוב של מודלי שפה (LLMs) כדי 'לדרוס' את החוקרים המקוריים ולהגיע להוכחה ראשונים. דינמיקה כוחנית זו תרחיק חוקרים משיתוף פעולה חופשי ותאלץ אותם לעבור למחקר בסודיות מוחלטת — דבר הנוגד את יסודות המדע החופשי.
הכרזת ליידן: הוכחה של AI היא קופסה שחורה ללא האדם
העימות הנוכחי מצטרף ל'הכרזת ליידן' (Leiden Declaration), מסמך היסטורי שפורסם ביוני האחרון על ידי קבוצת עבודה של מתמטיקאים בכירים. המסמך ניסח שורה של המלצות וקווים אדומים עבור מוסדות, חוקרים ומעצבי מדיניות, בהתמודדות עם השינויים העמוקים שמודלי שפה מכניסים לעולמם.
החוקרים מדגישים כי הערך האמיתי במתמטיקה אינו מסתכם רק בעצם השגת ההוכחה הבלעדית, אלא ב'מבנה העל האינטלקטואלי' שנוצר סביבה: ההבנה העמוקה, היכולת ללמד תלמידים, פיתוח רעיונות חדשים ושילובם בתרבות ובטכנולוגיה האנושית. הוכחה מתמטית של AI שאינה מובנת לחוקרים אנושיים נותרת קופסה שחורה חסרת חיים, וקוטעת את שרשרת העברת הידע הבין-דורית.
אזהרה לכל המקצועות: היום אצל המתמטיקאים, מחר בכל תחום
אף שאינטריגות בעולם המתמטיקה התיאורטית עשויות להיראות מרוחקות מהיום-יום של הציבור הרחב, חתני מדליית פילדס מזהירים כי מדובר בקצה הקרחון בלבד. תהליכים דומים מתרחשים כעת בהנדסת תוכנה, יצירה אמנותית, כתיבה ומחקר רפואי.
כפי שסיכמו החוקרים במכתבם: 'הסוגיות שעימן מתמודדת הקהילה המתמטית כעת דומות לאתגרים של כלל המקצועות המדעיים והיצירתיים, והן מעידות על הדילמה שכל האנושות תפגוש בקרוב: כיצד להבטיח שכאשר הבינה המלאכותית משנה את אופן ביצוע העבודה, לא נאבד את המטרה שלשמה נעשתה עבודה זו מלכתחילה'.
