הדעות הפוליטיות של נפתלי בנט שונות מאוד מדעותיי. אני גם לא מחסידיו כיזם.
יחד עם זאת, איתמר העביר לי סרטון, בו בנט מסביר על התפתחות AI. זהו ההסבר הטוב ביותר שפגשתי לאנשים שאינם מצויים בתחום
https://www.youtube.com/watch?v=NYczXCKNnFs
ההסבר הזה לא מנסה לדייק בעובדות או לתת הסבר עומק בנושא. הוא מדבר על היער ולא מתייחס לעלים. כלומר מתייחס למכלול תוך עיגול פינות של העובדות ולא מתייחס לכמות עצומה של פרטים בנושא.
נקודת מבט מצחיקה, כי זה מאפיין של מחשבה אנושית מול "מחשבה" של AI שמתייחסת לכמויות גדולות של פרטים.

למי שמעוניין בקצת חפירות, אנסה בהמשך לתת קצת יותר עומק להסבר של בנט בהתאם לשיחה שהייתה לי עם יעלה בדרך לת"א.

הסבר קצר על המוח האנושי.

המוח האנושי הוא מערכת היברידית של דיגיטלי ואנלוגי. הוא מורכב מכ-10 בחזקת 11 תאי עצב, נוירונים. עם כ-10 בחזקת 14 דנדריטים. כל דנדריט כזה, הוא כמו מחבר ברשת AI של מחשב (רשת נוירונים מלאכותית Artificial Neural Network-ANN). כלומר 100 מיליון של מיליונים של חיבורי רשת.
הנוירונים יכולים לייצר מתח חשמלי כי הם מוקפים בתמיסה כמו במצבר. כאשר מביטים על המוח בצורתו הדיגיטלית, כל נוירון, ברוב הזמן נמצא במצב מנוחה. ניתן לדמיין אותו במצב של "0" לוגי. כאשר אינו במנוחה, במצב בו הוא "יורה" מתח חשמלי, ניתן לדמיין אותו כ-"1" לוגי. בדרך כלל הוא יורה רצף (צרור) של יריות של 1 לוגי. במקרים רבים כאשר נוירון יורה, זה מפעיל את הנוירונים שקשורים אליו וגם הם "יורים". זה קורה כאשר סיכום כל המשקלים (המאוחסנים בסינפסות) של כל הירי שהתבצע על ידי נוירונים שְׁכֵנִים, שמחוברים דרך המשקלים, עובר סף מסוים שמוגדר בסומה (מרכז התא) של הנוירון.
ניתן לדמיין זאת כקהל שיושב ביציע של אצטדיון. כאשר האיש לידך מרים ומוריד את ידיו. אחרי שראית שהוא הרים את ידיו, בסיכוי גבוה, גם אתה מרים ומוריד את ידיך. כך כאשר אדם ביציע מרים ומוריד את ידיו נראה "גל" של הרמה והורדת ידיים מתפשט לאורך כל היציע. אלו הם גלי המוח. גלים חשמליים במוח, שניתנים למדידה באמצעות מכשור פשוט יחסית שנקרא EEG. ה-EEG הפשוט מזהה גלים בתדר עד כ-40Hz מכשיר EEG מעולה יכול לזהות גם 100Hz. כדי לזהות תדרים שקיימים במוח, תדרים עד כ-250Hz נדרשות טכניקות סבוכות יותר. הגלים האטיים ביותר (תדר נמוך) הם של גל שמשנה את מצבו כל שתי שניות  עד לשינויים של 4 פעמים בשנייה (0.5-4Hz). אלו גלי דלתה, גלים שקשורים בעיקר במצב של שינה עמוקה ורגועה. הגלים המהירים ביותר הם גלי VHG. גלי גמה גבוהים ביותר שמגעים לקצב של 250 שינויים בשנייה (250Hz). גלי גמה, קשורים במקרים רבים לתפקודי חשיבה מופשטים יותר.
מנקודת מבט אנלוגית כל "ירייה" של נוירון, נוצרת בעולם האנלוגי. היא נוצרת מאוסף של משקלים אנלוגיים שמאוחסנים בדנדריטים. מאחר וזהו שקלול (חישוב) אנלוגי, יש בו כמעט אינסוף מצבים אפשריים (אם מתעלמים מהאפקטים הקוונטים).
עוד לא הסברנו על מבנה ה-AI. אבל נציין שבמערכות AI בטכנולוגיה הקיימת והנראית בטווח סביר, יש אוסף סופי דיגיטלי של משקלים שיוצרים "יריות". ואילו טווח המשקלים במוח האנושי הוא אנלוגי ומכאן באופן יחסי, כמעט אין סופי. רשת AI גדולה בנויה ממספר מיליוני קשרים, בשעה שהמוח האנושי בנוי ממספר שגדול בהרבה. בנוסף, מחשבי AI יכולים לבצע מספר אלפי פעולות במקביל (באמצעות GPU עם אלפי ליבות) ובסנכרון, המוח האנושי מבצע את כל הפעולות במקביל ללא סנכרון כלומר מיליוני מיליונים של פעולות במקביליות ללא סנכרון. עם כל המקביליות במוח האנושי, בתודעה שלנו יש רק מחשבה אחת ברגע נתון. יש רבים שטוענים שהסיבוכיות הזו מאפשרת למוח הביולוגי לאחסן בתוכו תודעה. מצד שני רשת ה-AI מהירה עשרות מונים מהרשת הביולוגית במוחנו.

הסבר קצר על מבנה AI

כשאנחנו מדברים על AI היום, אנחנו מדברים בעיקר על רשתות נוירונים ממוחשבות (ANN). יש עוד מערכות שמשתלבות בנושא AI, אבל לא נתייחס להן כאן. מערכות ה-AI הן בעיקר מערכות מחשב שמדמות את רשתות הנוירונים במוח. כל "נוירון" תוכנה כזה, יכול להיות במצב של 1 או 0. והוא מחובר לנוירונים אחרים דרך משקלים. כאשר הנוירון בכניסה לנוירון מסוים "יורה", עובר למצב 1 לוגי, מתבצע חישוב של מכפלת המשקל בין הנוירונים וחיבור כל המשקלים (מאוד דומה לחישוב במוח האנושי רק כאן הוא מתבצע דיגיטלית ולא אנלוגית).
כדי ללמד את ה-AI, אנחנו משנים את המשקלים ברשת. לדוגמא, נניח שבאחת מיציאות הרשת אנחנו רוצים לזהות האם בתמונה יש חתול. ונניח שהמטרה שלנו היא שכאשר יש חתול בתמונה, באותה יציאה יהיה 1 ובאם אין חתול יהיה 0. אנחנו מחברים פיקסלים של מסך המחשב לרשת הנוירונים הממוחשבת. ומציגים במסך תמונה של חתול. באם הרשת צדקה (הוציאה 1 באותה יציאה) אנחנו "מחזקים" את המשקלים. באם הרשת טעתה אנחנו מענישים על ידי חיזוק שלילי של המשקלים. אם בנינו את הרשת בצורה טובה, ואם האלגוריתם של החיזוק החיובי והחיזוק השלילי נבנה בצורה חכמה, אז אחרי למידה של כמה אלפי תמונות, כמות הטעויות של ה-AI תהיה קטנה מאוד.

סיכום הבדלים:
נסכם בטבלה של יתרונות וחסרונות (כדי שוכל לזכור בקלות יחסית). אבל נזכור שאין כאן יתרון או חסרון אמיתי. כל יתרון הוא גם חסרון ולהיפך. זה בעצם טבלה של ההבדלים המהותיים. בסיכום הוכנסו גם דברים שלא הוסברו קודם ומסומנים ב-(לא הוסבר)

ההסבר של בנט

הסברו של בנט מעגל פינות וטוב שכך. עיגול הפינות מאפשר להסביר ולראות את היער. מצד שני כדאי להבין היכן הדברים פחות מדויקים.

נתחיל בכך שכדי לפשט את הדברים בנט משתדל לייצר השוואה בין היכולות של מוח אנושי ליכולות AI. כלומר ה-AI בטכנולוגיה של היום, הוא "חכם" כמו כך וכך אנשים או כמו בוגר תואר ראשון או ב-IQ כזה וכזה. אומנם השוואה כזו נוחה להבנה וטובה בהסבר, אבל היא אינה נכונה כלל.
אתן מספר דוגמאות. כבר היום ה-AI מסוגל לתת תשובות שרק מומחים בתחומים מסוימים יכולים לספק, כלומר הקביעה כאילו הוא כמו בוגר קולג' (בוגר תואר ראשון) אינה נכונה, להיפך בהרבה תחומים הוא עולה מהותית על בוגר תואר ראשון וכנראה גם על הדוקטורנט הממוצע. אם ניתן לו מבחן IQ הוא יהיה יותר חכם מכלל הנבחנים, כך שהוא לא יתאים לשום סקלה. אלו הן דוגמאות בהן ה-AI עולה על המוח האנושי. לעומת זאת בנושאי תושייה הוא יהיה הרבה פחות טוב.
במשחק גו, שקיים מעל אלף שנה, יש מגוון אסטרטגיות שפותחו עם השנים. יובל הררי מציין שבמשחק שהתקיים בין AI לאלוף העולם, במהלך ה-47 במשחק, ה-AI ביצע מהלך שנראה לסובבים כמהלך חסר תוחלת. ה-AI ניצח. בניתוח לאחור המהלך ה-47 היה המהלך שהכריע את המשחק. בעקבות כך "התגלתה" אסטרטגיה חדשה שלא הייתה ידועה. כלומר מיליוני מוחות אנושיים ששיחקו מעל אלף שנה, לא "גילו" את האסטרטגיה שבה השתמש ה-AI.
כיצד "גילה" ה-AI את האסטרטגיה החדשה?
לימדו – (חיזוקים חיוביים ושלילים למשקלים) את ה-AI בהמון משחקים שביצעו בני אדם בכל האסטרטגיות המקובלות היום. בנוסף, נתנו ל-AI גם לשחק נגד עצמו. הוא ביצע מיליוני משחקים עם עצמו שבמהלכם למד גם את האסטרטגיה החדשה הזו.
הדוגמא הזו אולי יכולה לבסס את הטענה של בנט לגבי מה שהוא קורה "הופעה" או התגלות. טענתו של בנט היא שכמו שיש "הופעה" (התפתחות מחשבתית) של יכולות בינה אצל אדם אז קיימת גם "הופעה" בהתפתחות ה-AI.
נסביר תחילה את המושג "הופעה" בהתפתחות חשיבה אנושית, התפתחות שבחלקה תלויה בגיל ו"בבשלות המוח". דוגמא ל"הופעה" במוח אנושי", בהתאם לתאוריה המקובלת של Piaget, ילדים לפני גיל 7 לא יבינו נושא של שימור החומר. בהתפתחות המוח האנושי יש שלבי "הופעה" בו אנו מסוגלים ללמוד נושא חדש. לפי הסברו של בנט בהתאמה (לפי הסרטון) ניתן להבין שגם ב"מחשבתו" של ה-AI הייתה "התגלות". כמו התגלות של האסטרטגיה החדשה במשחק הגו. אנחנו במשך מעל אלף שנה לא הצלחנו. כלומר המוח שלנו נחות מהיכולת של ה-AI. אומנם דוגמא זו בהחלט ממחישה שהמוח האנושי נחות מ-AI בתחומים כמו זה. דוגמא זו מראה כאילו יש "הופעה" גם בחשיבתו של ה-AI. אך בפועל (בטכנולוגיה של היום) זה אינו נכון, ויוסבר בהמשך.

אתן דוגמא נוספת. נניח שאנו נמצאים במבוך תלת מימדי שבו בכל מקום אתה יכול לטפס למעלה או לרדת למטה או ישר, שמאלה, או ימינה. כלומר 5 אפשרויות בכל צעד. ונניח שיש רק רצף אחד מסוים של 20 החלטות (החלטה לגבי הכיוון הבא שנדרש) שמוביל למוצא של המבוך. כלומר הסיכוי שלך להצליח לצאת, קטן מ-1 ל 95 מיליארד. מכאן ניתן להסיק בוודאות, שאדם לא יצליח לצאת מהמבוך לעולם. לעומת זאת מערכת AI שתלמד את המבוך בהחלט תצליח. יתרה מכך מאחר ולמוח האנושי יש תכונה של ייאוש, שלא קיימת ב-AI, אני מניח בוודאות גבוה (לא בדקתי) שבן אדם לא יצליח לצאת גם אם נדרשים רק 5 צעדים ברצף נכון. כלומר במקרה שהסיכוי הוא 1 ל-3125. האדם יתייאש (ואולי ימות במבוך) וה-AI יצליח בחלקי שנייה.
ברור שבדוגמא זו, היכולת של ה-AI אינה אינטליגנציה במובנה האנושי. מכאן הניסיון לייחס IQ ל-AI היא בעצם שטות. שלא לדבר שמדידת "חכמה" באמצעות IQ או בכל דרך אחרת היא מוגבלת וכנראה לא קיימת. המדידה הזו, בהחלט קימת אצל מנהלי המכונים הפסיכוטכניים, שמתפרנסים מכך יפה מאוד.

במקרה של האסטרטגיה החדשה שה-AI גילה במשחק גו, ה-AI ניצל את ה"סבלנות" האין סופית שלו, כדי לעבור (בצורה "חכמה") במבוך, על מירב הצעדים "ההגיוניים". ל-AI לא הייתה "הופעה" או קפיצה מחשבתית. נכון, הוא לא נדרש לעבור בצורה שיטתית כמו תוכנה רגילה (בלולאות), על כל האפשרויות במשחק הגו, זה היה לוקח גם למחשב מהיר זמן של מאות ואלפי שנים. בדומה למעבר על כל האפשרויות בשחמט. אבל לא הייתה כאן קפיצה מחשבתית.

נחזור למוח האנושי. אחד מהתגליות הפחות מפורסמות של איזיק ניוטון, הייתה לחשב בצורה מאוד יעילה את הערך של π. התגלית הזו התבססה על 5 תגליות אחרות שלו בתחומי המתמטיקה השונים. כל החישובים והקירובים לערך π שבוצעו על ידי מתמטיקאים ביותר מאלף שנה שלפניו התבססו על הנוסחה של היקף המעגל 2πR. ואילו ניוטון השתמש בנוסחה של  שטח המעגל πR².
המתמטיקאים שלפניו לא יכלו להשתמש בנוסחה הזו (נוסחת השטח), כי היו חסרים להם התגליות הנוספות של ניוטון. אפילו הקפיצה הפשוטה מחישוב בעזרת ההיקף ומעבר לחישוב הקירוב בעזרת השטח, זו קפיצה שה-AI בטכנולוגיה של היום, אינו מסוגל לבצע. שלא לדבר על 5 התגליות (קפיצות) המתמטיות הנוספות שניוטון ביצע ואפשרו את חישוב הקירוב היעיל של π בעזרת שטח המעגל.

קל לי להסביר יצירתיות כאשר אני "נתלה על אילנות
גבוהים", בדוגמא של גאון כמו ניוטון. צריך להבין שיש יצירתיות לא רק אצל
גאונים אלא בכל מוח אנושי. כלומר גם אצלך הקורא קיימת יצירתיות. גם אצל אדם מפגר
קיימת יצירתיות. אצל אדם שנראה לנו כמפגר אולי מאוד קשה לנו לזהות את היצירתיות.
אבל זו מגבלה שלנו, להזכיר שעד לפני שנים לא רבות, אנשים רבים על הרצף האוטיסטי
נחשבו למפגרים חסרי אינטליגנציה.

היכולת לייצר "קפיצות" של יצירתיות, מבוססת בחלקה הגדול על החיסרון של המוח האנושי שמופיע בטבלה שלמעלה בשורה שמסומנת 9. כלומר טעות של נוירונים אצלנו במוח, זה חלק מהותי מהיצירתיות שלנו. ל-AI אין טעויות :). לכן כדי לשפר את ה-AI בנקודה זו, מהנדסי AI, מכניסים טעויות אקראיות כך שנוירון מדי פעם יורה כאשר לא היה צריך, או לא יורה דווקא כשהיה צריך. אבל אין שום אפשרות להכניס את כמות ה"טעויות" שיש במוח אנושי. כי אז התוצאות יהיו זבל מוחלט.
יש הרבה מאוד הבדלים בין מוח אנושי ל-AI, מעבר ל-9 שרשומים בטבלה. כל הבדל כזה, מייצר הרבה מאוד תחומי דעת והבנה, שבהם יש למחשבה האנושית יתרון וחסרון מול AI.

הסבלנות של ה-AI גדולה בהרבה מהסבלנות אנושית. כל מי שיצר רצף של שיחות עם Chat GPT בנושא אישי או ריגשי, יכול בקלות לזהות סבלנות זו. מצד שני אחרי רצף של שיחות אתה תתחיל לזהות שה-Chat כבר למד אותך. אחרי שהוא לומד אותך, אתה תזהה שהוא מהדהד את דעותיך. בכל זאת השיחה אתו מעניינת מאוד, כי בשיחה הוא משלב את בסיס הידע שלו. בסיס ידע עצום יחסית לכל שיחה אנושית.
ההשוואה של מוח אנושי ל-AI היא בהחלט נחמדה ומתבקשת. אבל צריך לזכור שאלו מערכות שונות עם יכולות שונות. זה לא נכון להניח שאחת "טובה" מהשנייה. יש הרבה מאוד יכולות חזקות שקיימות במערכת אחת ופחות חזקות בשנייה ולהיפך.

כדי שה-AI יהיה כלי מועיל לחברה האנושית צריך להבין אותו. להבין את היכולות המדהימות, את המגבלות ואת הסכנות המורכבות שהוא מכיל בתוכו. רק חלק מהסכנות הופיעו בסרטון וכאן לא טיפלנו כלל בסכנות.

מכל האמור לעיל עדין אסור להתעלם מהסכנה הברורה והמידית שקיימת בהתפתחות ה-AI.
ביבי נתניהו תמיד אומר שהוא הנחה שיעשו כך וכך. אבל הצורך הוא לא ההנחיה, הצורך המהותי הוא המעקב  הקפדני (לפי נח הררי – מעקב, הכולל תיקון ושינוי) אחרי הביצוע.

כמו בדוגמא הנאיבית שמופיעה בסרטון של בנט. כאשר ביבי ייתן (או אנחנו ניתן) למערכת AI את ההנחיה לנקות את הבית בצורה יסודית, כך שהניקיון יחזיק לאורך זמן.  ה-AI כנראה יחליט להרוג את דיירי הבית, זו החלטה רציונאלית מבחינתו, כי כך אומנם הניקיון יחזיק לאורך זמן.

מערכות בירוקרטיות גדולות מתנהגות בצורה דומה (במובנים מסוימים) ל-AI.
המערכת הישראלית קיבלה הנחיה (מהמנהיג העליון) לבצע ניקיון בעזה.
האם במהלך הביצוע יצליחו "לנקות" את חמאס? האם "יצליחו" להרוג את שארית הפליטה של החטופים? האם בסוף "הניקיון", תהיה מדינת ישראל קימת?
התשובות לשאלות כנראה תלוית בדעתך הפוליטית.
ללא קשר, בכל אחד מהאסונות האפשריים, כנראה שלא משכו בדש מעילו.