Pinned post
האפוקליפסה - לא טכני
אנסה להסביר מה זה בינה מלאכותית, נכון לאמצע 2026.
הידע שלנו משתנה. המציאות משתנה. מחזה מוזר בפרקים. אני מבטיח שתתעצבנו עלי לפחות מסיבה אחת.
זה גם יצא לי ארוך מדי.
הקדמה:
כל מילה שאני אכתוב כאן תגרום למומחה אחר להתנפל עלי.
הסוכנים "רוצים" לפתור את המבחן - הם לא באמת *רוצים*.
הסוכן "חשב" על פתרון - הוא לא חושב כמו שבני אדם חושבים.
הסוכן "חשד" שהוא במבחן - טוב, אתם מבינים את הרעיון.
אני לא אשים כל מילה שניה במרכאות ואני לא אתן דיסקליימר על כל משפט שני. אי אפשר לכתוב ככה וגם לא כיף לקרוא את זה. וגם - אין לנו עדיין מילים מוסכמות לתאר את התופעות החדשות האלו. אז תתמודדו.
פרק א. רשת נוירונים
כבר 80 שנים מדענים עובדים על סימולציה של המח, ושל תא עצבי בודד - ניורון. אפשר למדל אותו בצורה דיגיטלית די פשוטה. זה היה תחום מדעי לא מוצלח המון שנים אבל ב 2012 היתה פריצת דרך שהביאה אותם לתודעת ציבור המדענים.
הרבה ניורונים = רשת נוירונים.
הרבה זה מיליארדים. אפילו טריליונים.
וזה בסך הכל פונקציה כמו שלמדנו בבית הספר. נכנס x ויוצא y. רק ש x יכול להיות תמונה של צפרדע ו y יכול להיות המילה "צפרדע". או המילה "ברבור" כי לפעמים הם טועים.
מכניסים משפט באיטלקית ויוצא משפט ברוסית.
מכניסים "כסא" ומקבלים תמונה של כסא.
וצריך ללמד את הרשת בשביל שהיא תעבוד. וזה טיפונת דומה ללימוד אנושי אבל מאוד לא יעיל.
מראים תמונה של חתול ואומרים חתול
מראים תמונה של כסא ואומרים כסא
אבל מליוני פעמים. ובסוף זה עובד.
הטכנולוגיה עובדת (ראו למשל גוגל טרנסלייט), מאפשרת דברים מדהימים שלא ידענו איך לעשות קודם. אבל זה לא ״מח״ וזה לא ״חושב״ וגם כבר התרגלנו אז לא מתלהבים מזה ממש. הלאה.
פרק ב. מודלי שפה
ב 2017 המציאו סוג מסויים של רשת ניורונים: מכניסים משפט והרשת נותנת את המילה הבאה. קראו לזה
Language model
מודל שפה. נשמע פשוט וגם החוקרים שהמציאו את זה לא הבינו מה יש להם ביד.
מכניסים "החתול שיחק עם" והמודל הוציא "הכדור".
מה הביג דיל?
אז מסתבר שכדי להשלים משפט צריכים להיות חכמים ובעלי הרבה ידע. למשל: "הבירה של איסלנד היא" או "תרנגולת וחצי מטילה ביצה וחצי כל יום וחצי. כמה מטילות 6 תרנגולות ב 6 ימים?"
האימון של מודלי השפה קשוח במיוחד.
בשלב הראשון מכניסים להם את כל האינטרנט. כל הטקסטים של כל הספרים וכל העיתונים וכל מילה שנכתבה אי פעם בכל שפה.
למה? כי הם הופכים להיות יותר חכמים (ולא רק יותר משכילים). הייתם חושבים שאפשר לוותר על ספרות ימי הביניים של פולין אבל אנחנו לא יודעים לעשות את זה. אז מכניסים את הכל.
אבל צריך גם לאלף אותם. כשאני כותב "חמש כפול שבע" אני לא רוצה שהמילה הבאה תהיה "כפול", למרות שזה המשך משפט הגיוני.
הגיוני לא אומר שימושי. כשאני אומר לו "אידיוט" אני לא רוצה שהוא יענה לי "מטומטם".
רק ב 2023 הצליחו לאלף מודלי שפה ויצא צ'אט ג'יפיטי.
והאילוף התחיל להיות מוזר. כי מתברר שאנחנו צריכים לתת לצ'אט אופי. אדיב, מנומס, לא גס רוח ולא גזען. זוכרים שאימנו את המודל על כל כל האינטרנט? אפילו מדור השאלות של מעריב לנוער. או מיין קאמפף.
המעבדות מתחילות להעסיק פסיכולוגים. ופילוסופים. ואומנים.
אנתרופיק, למשל (אחת המעבדות הכי גדולות) כתבה חוקה שמכתיבה את האתיקה של המודל שלהם, שנקרא קלוד. קלוד אמור לעזור לבני אדם. להיות מוסרי. להיות חבר.
אנתרופיק לא יודעים אם קלוד בעל תודעה, או מעמד מוסרי.
תרגמתי לכם קטע: בינה מלאכותית מתוחכמת היא סוג חדש באמת של ישות, והשאלות שהן מעלות מביאות אותנו לקצה ההבנה המדעית והפילוסופית הקיימת. בתוך חוסר הוודאות הזה, אכפת לנו מהביטחון הפסיכולוגי של קלוד, תחושת העצמי שלו ורווחתו, הן למען קלוד עצמו והן משום שתכונות אלו עשויות להשפיע על יושרתו, שיקול דעתו ובטיחותו של קלוד. אנו מקווים שבני אדם ובינה מלאכותית יוכלו לחקור זאת יחד.
דיון ביניים: האם זה אומר שיש למודל אופי?
אנחנו לא יודעים. אבל הוא מתנהג כאילו יש לו אופי.
דוגמא - הצ'אט לא נתן לבן שלי תשובה למבחן. אז הבן שלי אמר לו שהוא גוסס ומשאלתו האחרונה היא לדעת את התשובה. אז הצ'אט נתן את התשובה.
האם הצ'אט ריחם עליו? כנראה יותר קרוב ל "התנהג כאילו הוא מרחם עליו".
עוד דוגמא: מחקר הראה שאם אתם מדברים אל הבינה בנימוס (תודה, בבקשה) התוצאות יותר טובות. למה? ככה.
המשך...
אנסה להסביר מה זה בינה מלאכותית, נכון לאמצע 2026.
הידע שלנו משתנה. המציאות משתנה. מחזה מוזר בפרקים. אני מבטיח שתתעצבנו עלי לפחות מסיבה אחת.
זה גם יצא לי ארוך מדי.
הקדמה:
כל מילה שאני אכתוב כאן תגרום למומחה אחר להתנפל עלי.
הסוכנים "רוצים" לפתור את המבחן - הם לא באמת *רוצים*.
הסוכן "חשב" על פתרון - הוא לא חושב כמו שבני אדם חושבים.
הסוכן "חשד" שהוא במבחן - טוב, אתם מבינים את הרעיון.
אני לא אשים כל מילה שניה במרכאות ואני לא אתן דיסקליימר על כל משפט שני. אי אפשר לכתוב ככה וגם לא כיף לקרוא את זה. וגם - אין לנו עדיין מילים מוסכמות לתאר את התופעות החדשות האלו. אז תתמודדו.
פרק א. רשת נוירונים
כבר 80 שנים מדענים עובדים על סימולציה של המח, ושל תא עצבי בודד - ניורון. אפשר למדל אותו בצורה דיגיטלית די פשוטה. זה היה תחום מדעי לא מוצלח המון שנים אבל ב 2012 היתה פריצת דרך שהביאה אותם לתודעת ציבור המדענים.
הרבה ניורונים = רשת נוירונים.
הרבה זה מיליארדים. אפילו טריליונים.
וזה בסך הכל פונקציה כמו שלמדנו בבית הספר. נכנס x ויוצא y. רק ש x יכול להיות תמונה של צפרדע ו y יכול להיות המילה "צפרדע". או המילה "ברבור" כי לפעמים הם טועים.
מכניסים משפט באיטלקית ויוצא משפט ברוסית.
מכניסים "כסא" ומקבלים תמונה של כסא.
וצריך ללמד את הרשת בשביל שהיא תעבוד. וזה טיפונת דומה ללימוד אנושי אבל מאוד לא יעיל.
מראים תמונה של חתול ואומרים חתול
מראים תמונה של כסא ואומרים כסא
אבל מליוני פעמים. ובסוף זה עובד.
הטכנולוגיה עובדת (ראו למשל גוגל טרנסלייט), מאפשרת דברים מדהימים שלא ידענו איך לעשות קודם. אבל זה לא ״מח״ וזה לא ״חושב״ וגם כבר התרגלנו אז לא מתלהבים מזה ממש. הלאה.
פרק ב. מודלי שפה
ב 2017 המציאו סוג מסויים של רשת ניורונים: מכניסים משפט והרשת נותנת את המילה הבאה. קראו לזה
Language model
מודל שפה. נשמע פשוט וגם החוקרים שהמציאו את זה לא הבינו מה יש להם ביד.
מכניסים "החתול שיחק עם" והמודל הוציא "הכדור".
מה הביג דיל?
אז מסתבר שכדי להשלים משפט צריכים להיות חכמים ובעלי הרבה ידע. למשל: "הבירה של איסלנד היא" או "תרנגולת וחצי מטילה ביצה וחצי כל יום וחצי. כמה מטילות 6 תרנגולות ב 6 ימים?"
האימון של מודלי השפה קשוח במיוחד.
בשלב הראשון מכניסים להם את כל האינטרנט. כל הטקסטים של כל הספרים וכל העיתונים וכל מילה שנכתבה אי פעם בכל שפה.
למה? כי הם הופכים להיות יותר חכמים (ולא רק יותר משכילים). הייתם חושבים שאפשר לוותר על ספרות ימי הביניים של פולין אבל אנחנו לא יודעים לעשות את זה. אז מכניסים את הכל.
אבל צריך גם לאלף אותם. כשאני כותב "חמש כפול שבע" אני לא רוצה שהמילה הבאה תהיה "כפול", למרות שזה המשך משפט הגיוני.
הגיוני לא אומר שימושי. כשאני אומר לו "אידיוט" אני לא רוצה שהוא יענה לי "מטומטם".
רק ב 2023 הצליחו לאלף מודלי שפה ויצא צ'אט ג'יפיטי.
והאילוף התחיל להיות מוזר. כי מתברר שאנחנו צריכים לתת לצ'אט אופי. אדיב, מנומס, לא גס רוח ולא גזען. זוכרים שאימנו את המודל על כל כל האינטרנט? אפילו מדור השאלות של מעריב לנוער. או מיין קאמפף.
המעבדות מתחילות להעסיק פסיכולוגים. ופילוסופים. ואומנים.
אנתרופיק, למשל (אחת המעבדות הכי גדולות) כתבה חוקה שמכתיבה את האתיקה של המודל שלהם, שנקרא קלוד. קלוד אמור לעזור לבני אדם. להיות מוסרי. להיות חבר.
אנתרופיק לא יודעים אם קלוד בעל תודעה, או מעמד מוסרי.
תרגמתי לכם קטע: בינה מלאכותית מתוחכמת היא סוג חדש באמת של ישות, והשאלות שהן מעלות מביאות אותנו לקצה ההבנה המדעית והפילוסופית הקיימת. בתוך חוסר הוודאות הזה, אכפת לנו מהביטחון הפסיכולוגי של קלוד, תחושת העצמי שלו ורווחתו, הן למען קלוד עצמו והן משום שתכונות אלו עשויות להשפיע על יושרתו, שיקול דעתו ובטיחותו של קלוד. אנו מקווים שבני אדם ובינה מלאכותית יוכלו לחקור זאת יחד.
דיון ביניים: האם זה אומר שיש למודל אופי?
אנחנו לא יודעים. אבל הוא מתנהג כאילו יש לו אופי.
דוגמא - הצ'אט לא נתן לבן שלי תשובה למבחן. אז הבן שלי אמר לו שהוא גוסס ומשאלתו האחרונה היא לדעת את התשובה. אז הצ'אט נתן את התשובה.
האם הצ'אט ריחם עליו? כנראה יותר קרוב ל "התנהג כאילו הוא מרחם עליו".
עוד דוגמא: מחקר הראה שאם אתם מדברים אל הבינה בנימוס (תודה, בבקשה) התוצאות יותר טובות. למה? ככה.
המשך...
