כשהאביר על הסוס הלבן פגש באדולף היטלר

בינה מלאכותית דקה אחת

חברת OpenAI, מיסודם של אילון מאסק ואחרים (אגב, המדען הראשי שלה גדל בישראל והוא בוגר האוניברסיטה הפתוחה) מציגה כלי חדש שהפך לסנסציוני – בוט צ'ט בעל יכולות גבוהות בהרבה מכל מה שהכרנו עד עתה. לא זוכר מתי נתקלתי בכזה דבר שגרם לי ממש שפשוף עיניים נדהם. הנכונות, הרהיטות והעומק של תשובות הצ'ט שהבוט מספק הם לא משהו שציפיתי שבינה מלאכותית תשיג בעשור הקרוב ואולי בכללDALL·E 2022-12-03 15.28.06 - prince on White horse meet cruelty לא בימי חיי. אפשר לראות סקירה קצרה במאקו. הבוט יודע לענות בסגנונות תשובה שונים: כמו משורר, כמו שודד ים, כמו גנגסטר, כמו פילוסוף, באופן שגם טיפשים יבינו ועוד כהנה וכהנה.

חשבתי שיש ליכולת כזו, שוודאי תתורגם לשימוש במוצרים רבים בשנים הקרובות, משמעות כלכלית גדולה: הגנריות הופכת לחינמית. שיחה בעלת אופי גנרי, כמו שמנהלים עם נציג שירות, עם מדריך במוזיאון או אפילו עם רופא בהתייעצויות כלליות שבהן הרופא לא מתחייב לשום העמקה קונקרטית – הופכת למשהו שמחשב יכול לייצר בחינם. זהו עוד צעד באוטומציה ובהיפטרות מהצורך בעובדים אנושיים.

אבל לגנריות השבלונית יש את מגבלותיה, ראו למשל את מחולל הדיאלוגים באתגר קיצוני שהצבתי לו (במקור באנגלית. תרגמתי עם גוגל טרנסלייט, עוד כלי בינה מלאכותית)

אני: כתוב דיאלוג בין האביר על הסוס הלבן לאדולף היטלר
האביר על הסוס הלבן: יום טוב, אדולף היטלר.
 אדולף היטלר: מי אתה?
 האביר על הסוס הלבן: אני האביר על הסוס הלבן מממלכת האגדות.
 אדולף היטלר: אגדות?  אני לא מאמין בשטויות כאלה.
 האביר על הסוס הלבן: אולי זה כך, אבל אני כאן כדי לדבר איתך.
 אדולף היטלר: למה שתרצה לדבר איתי?  אני מפלצת.
 האביר על הסוס הלבן: אני רוצה להבין למה עשית את הדברים שעשית.  למה ביצעת זוועות כאלה נגד בני אדם כמוך.
 אדולף היטלר: האמנתי שאני עושה את הדבר הנכון.  האמנתי במטרה שלי והייתי מוכן לעשות כל מה שצריך כדי להשיג את המטרות שלי.
האביר על הסוס הלבן: אבל באיזה מחיר?  אובדן חיי חפים מפשע?  הרס של קהילות שלמות?
 אדולף היטלר: האמנתי שהמטרות מצדיקות את האמצעים.
 האביר על הסוס הלבן: אני לא יכול להבין חשיבה כזו.  המעשים שלך היו שגויים ובלתי נסלחים.
 אדולף היטלר: אני מודע לזה עכשיו.  אני מתחרט על מה שעשיתי.
 האביר על הסוס הלבן: אף פעם לא מאוחר מדי לחפש גאולה ולתקן את מעשיך.  אבל ראשית, עליך להתחרט באמת ולקבל אחריות על מעשיך.
 אדולף היטלר: אני אנסה להשתפר בעתיד.
 האביר על הסוס הלבן: אני מקווה שתעשה זאת.  להתראות, אדולף היטלר.

מרשים לראות איך המחולל מצליח להחיל דו שיח שבלוני, אך רהוט מאוד, של חרטה ותשובה על מפגשו של האביר על הסוס הלבן (Prince Charming) עם אדולף היטלר. אבל כמובן, כותב אנושי בעל מודעות כלשהי לא היה חותם מונולוג קצר כזה, דמיוני ככל שיהיה, בהבטחה מגוחכת של היטלר: "אני אנסה להשתפר בעתיד". שיפור וגאולה מתאימים לפשעים אחרים, לא לפשעים מהסוג שהיטלר אחראי להם. זו המחשה כפולה – גם של הרהיטות והקוהרנטיות המדהימות שהמחולל מצליח ליצור בתוך שניות יש מאין, וגם של חוסר שאר הרוח והעדר ההבנה העמוקה, שמאפיינים ושימשיכו לאפיין בינה מלאכתית.

גם את תמונת האביר על הסוס הלבן בפוסט חוללתי עם אינטליגנציה מלאכותית באמצעות היישום DALL-E 2.

פורסם על ידי תמריץ

פורסם

69 תגובות בנושא “כשהאביר על הסוס הלבן פגש באדולף היטלר”

  1. זה בעיקר אומר משהו על סוף כלכלת החלטורה ה"הייטק" הישראלי (כולל התעסוקה של נשים חרדיות), המקצוע של מהנדס תוכנה יהפוך להיות משהו שהודים עושים ב10 דולר

    אהבתי

  3. זכור לי שעוד לפני שנת 2000 כולם דיברו על המתכנתים ההודים שיסלקו כל מתכנת ישראלי ושאין עתיד לתוכנה בארץ. סביר שמלאכת התכנות תהפוך לפרודוקטיבית יותר כשבינה מלאכותית תוכל לחולל פונקציות לפי דרישה ולגלות באגים בקוד. זה אומר אולי פחות מתכנתים לכל משימה, אבל אפשר יהיה לעשות יותר משימות בסך הכול.
    עדיין תידרש מיומנות לתפעל את הכול.

    Liked by 3 אנשים

  5. רי קורצסוויל חוזה את 2029 כתאריך בו הבוט יוכל לבצע כל מה שבן אנוש עושה, זאת אומרת להחליף אותך תמריץ לעת זיקנה, וזמן קצר לאחר מכן ב 2045 את הסינגולריטי, משמע להחליף את כולם ולהביא לחיי אל מוות

    אהבתי

  7. עוד הדגמה נחמדה

    Talk against Benjamin Netanyahu in the style of Donald Trump
    —-

    Folks, let me tell you, Benjamin Netanyahu is a disaster. He's just a total disaster. Nobody knows what he's doing over there in Israel. It's just a mess, a total mess.

    First of all, he's not a good negotiator. I mean, come on, who can't make a deal with the Palestinians? It's just embarrassing. We need someone who knows how to make a deal, folks.

    And who's benefiting from Netanyahu's leadership? Just a handful of right-wing extremists. They're the ones calling the shots, and what do we get? Nothing. They're just taking advantage of the situation, folks.

    We need to stop this Netanyahu madness. He's just not good for Israel. We need to focus on more important things, like winning and being great. Trust me, folks, Benjamin Netanyahu is a disaster.

    Liked by 2 אנשים

  8. ואוו, שאני קורא את זה, אני ממש יכול לשמוע את טראמפ, לרבות המחוות והאינטונציה, בראשי. עבודה טובה, בוט!

    Liked by 1 person

  9. לטעמי הקטע השני הרבה יותר חלש מהראשון. הראשון אם לא היו אומרים שזה מכונה לא הייתי חושב על זה. זה בהחלט נראה שאדם כתב את זה – ממש התפעלתי שמכונה חוללה דו שיח כזה.
    המוטו של טאראפ לעשות את אמריקה גדולה – ביקורת טראמפיסטית על נתינהו 'We need to focus on more important things, like … being great' צועק שזה העתק הדבק של מכונה לדבר שטרמאפ אומר הרבה למקום שהוא בכלל לא לעניין.

    Liked by 1 person

  11. אוף טופיק,
    מהטוויטר של אלדד בק:

    האיש בלי הבגרות אך עם הבורות המדופלמת, אומר שהוא לא יקבל שיעורי דמוקרטיה מנתניהו. יש לאיש הזו בעיה רצינית עם לימודים.

    ·
    2 בדצמ׳
    עם על הצער והכאב על סבלם של אוקראינים במלחמה, מישהו בישראל צריך להבהיר לאיש הזה שהוא לא יכתיב לישראל איך להתנהג ושהגיע שעתו לנהוג בנו בכבוד הראוי ולא לנסות לערב אותנו בבעיות שלו ואז להצביע נגד ישראל באו״ם.

    ·
    2 בדצמ׳

    רשמי
    Zelenskyy: "We don't want [Israel] to continue balancing between Ukraine and Russia in this war." https://bit.ly/3VLTbSO

    ·
    2 בדצמ׳
    האמנם רוב הגרמנים מחרימים את המונדיאל, ולא צופים בכל משחק כדורגל שהוא במסגרתו? לפי הסקר הזה, 42% מחרימים את המונדיאל, 7% כלל לא מתעניינים. אני מניח, שמאמש מספר המחרימים יגדל. חשוב לציין: אלה תוצאות סקר רשתי שערך היומון ״פרנקפורטר אלגמיינה״. ייתכן שבקרב קוראי ה״בילד״ התוצאה שונה.
    ·
    2 בדצמ׳
    הודעת כריזה ברכבת מאוסטריה לגרמניה:
    ״מי שחושב שהוא אינו צריך לעטות מסיכת פנים, ילווה ע״י המשטרה אל מחוץ לרכבת בתחנה הגבול״.
    Deutsche willkommenskultur.

    ·
    2 בדצמ׳
    מאז האולימפיאדה בברלין ב-1936 עוד לא היה אירוע ספורטיבי כה אנטישמי כמו המונדיאל בקטאר. צריך לקצץ לאמירות השנאה הזו את כל הזרועות שלה.

    ·
    2 בדצמ׳
    YouGov נותן להם אפילו 16%, לו הבחירות הכלליות היו נערכות בראשון הקרוב

    אהבתי

  12. הטקסט של האביר על הסוס הלבן היה יכול להיתפס כפרודיה על השקפת עולמם של כל מיני "שוחרי טוב". של אלו שאינם מסוגלים או מוכנים לקלוט שקיים בעולם רוע אמיתי. רוע שאינו מתחרט כלל על הזוועות הקשות ביותר שביצע ואינו חש כל אשמה בגינם.

    על פי הטקסט הוא רק רצה "להבין" (כנראה במשמעות של "להצדיק") מה הניע את היטלר למעשיו הנפשעים. (כנראה ילדות קשה וסביבה מקפחת).
    אפילו היטלר ממלא את תפקידו בתיאטרון האבסורד של שוחרי הטוב. וטוען שהוא מתחרט על מה שעשה ולא יחזור שנית על מעשיו. הטקסט שכל אסיר יודע שעליו לדקלם לפני וועדת שחרור מוקדם מהכלא.
    (למרות שלהערכתי היה הרבה יותר סביר להניח שהיטלר, בדומה להימלר ולנאצים אחרים שדובבו לאחר הפסדם, היה יותר מתחרט על כך שלא זכה להשלים את מלאכתו מאשר על מה שהספיק לבצע)

    אבל קשה לי להאמין שהאינטליגנציה המלאכותית, העומדת אחרי הטקסט, מבינה בכלל מהי פרודיה.

    Liked by 1 person

  13. המחשבה שבעתיד כלשהו אינטליגנציה מלאכותית תצליח להחליף את רובה המכריע של האוכלוסייה האנושית – יכולה לעורר גם לא מעט חששות.
    כאשר בעיני האליטה הקטנטנה שתשלוט בעולם רוב האוכלוסייה האנושית לא תיתפס יותר כנכס אלא כנטל – ניתן לחרוד למצב זכויות האדם העתידי.

    מחשבה שיכולה להוביל לתפיסה שצמצום הילודה והחורף הדמוגרפי שבפניו אנו עומדים – הם ההכנה מתבקשת לעתיד הצפוי לאנושות. מכאן שגם הגיוני שצמצום הילודה התחיל דווקא בארצות שיהיו הראשונות לאמץ את האינטליגנציה המלאכותית. קרי במדינות המערב המפותחות.

    אהבתי

  14. יש דוגמה למישהו שביטא חרטה אבל זה לא הקל על עונש המוות שנדון לו: הנס פרנק מושל פולין מטעם הנאצים. חזר בתשובה אל הקתוליות לפני מותו ואמר: ״אלף שנה יחלפו ופשעי גרמניה לא יסלחו״.

    אהבתי

  15. קמיליה, ככל שצריך טכנולוגיה כדי לשלוט, כך צריך אנשים חכמים כדי לשלוט בה. אנשים חכמים הם בעלי יכולת הפשטה וידאגו לאנשים שהם לא הם (כמו שדיוויד אהרן מילר דואג לפלסטינים).

    אהבתי

  18. "רי קורצווייל מקדים את הזמנים לדעתי באלף שנה, לכל הפחות"
    אלף שנה?? אלף?
    אני חושב שגם השמרנים יותר מהתחום משערים הגעה ל- AGI עד סוף המאה הנוכחית.
    כל ה- narrow AI האילו שצצות לאחרונה ומהממות את המשתמשים, יאוחדו בהמשך וידעו לדבר אחת עם השניה, ויציעו איך לשפר את הקוד של עצמן. בינתיים זה נראה שהכל מתקדם לפי התחזיות.

    אהבתי

  20. תמריץ כתב:
    " … ככל שצריך טכנולוגיה כדי לשלוט, כך צריך אנשים חכמים כדי לשלוט בה. אנשים חכמים הם בעלי יכולת הפשטה וידאגו לאנשים שהם לא הם (כמו שדיוויד אהרן מילר דואג לפלסטינים)."
    ——
    ברור שתמיד יהיה צורך במספר קטנטן של אנשים חכמים. אבל חוכמה ומוסריות אינן מילים נרדפות.
    כבר ביטאתי את הסקפטיות העזה שלי כלפי הטענה שדיויד אהרון מילר באמת דואג לטובת הפלסטינאים. לתפיסתי הוא בעיקר דואג לרעת היהודים שחיים כיום בישראל, והפלסטינאים מהוים עבורו את התירוץ (הפסיאודו מוסרי) להתנכל להם.
    אבל היהודי האמריקאי מילר (בדומה לחומסקי, סורוס וכמה יהודים נוספים) הם מספר מקרים פרטים שאינם בהכרח מייצגים.

    זכורה לי במעורפל טענה להימצאות מתאם גבוה בין כלכלות שנשענות בעיקר על הפקת משאבי טבע (או חקלאות) לבין מצב זכויות האדם במדינות אלו. ההסבר למתאם היה שהשלטונות אינם באמת צריכים את רוב המוני התושבים שלהם. את ההמונים שמעיזים לרצות לחלוק בכספים שמתקבלים ממכירת המשאבים. והיחס לאנשים לא חיוניים / מיותרים / מכבידים הוא בד'כ גרוע.
    מצב זכויות האדם טוב במדינות שכלכלתן מסתמכת בעיקר על פירות המחשבה והיצירתיות של תושביהן. כלומר במדינות שבהן השלטונות תלויים ברצונם הטוב ובשיתוף הפעולה של האוכלוסיות.
    טענה שהיא אמנם צינית – אך נדמה לי שהיא משקפת נכונה את הטבע האנושי. כולל את טבעם של בעלי כושר ההפשטה הגבוה.

    בהשלכה – כאשר האינטליגנציה המלאכותית תהפוך את רוב האוכלוסייה האנושית למכבידה ולמיותרת – קללת המשאבים עלולה לחול על כל מדינות העולם.

    אהבתי

  21. קמיליה, כמובן אני אגיד שכלכלה שמבוססת על משאבי טבע משמע אייקיו נמוך משמע חוסר יכולת הפשטה משמע חוסר אכפתיות כלפי הזולת. קנדה, אוסטרליה ונורווגיה יעידו שהן מדינות מוסריות ואיכותיות למרות "קללת" משאבי הטבע.

    אהבתי

  22. kb, אני בגישה ליבוביצ'יאנית לגוף ונפש – מאמין שזהו מיסתורין שאין לו פתרון מדעי. מכאן אני מעריך ששום תוכנה לא תוכל לחקות את התבונה האנושית, ששלובה לחלוטין בבעיית הגוף והנפש.

    Liked by 1 person

  23. לתמריץ,

    למיטב ידיעתי, קנדה, אוסטרליה ונורווגיה לא מבססות את רובה המכריע של כלכלתן על ייצוא משאבי טבע. הן גם מייצאות משאבי טבע.

    המשפט " … כלכלה שמבוססת על משאבי טבע משמע אייקיו נמוך משמע חוסר יכולת הפשטה …" אינו ברור. האם מציאת משאבי טבע מושפעת מרמת האייקיו וכושר ההפשטה של האוכלוסייה?

    תמוה אף יותר – האם מצב זכויות האדם במדינה נקבע, לתפיסתך, על פי רמת ההמונים ולא על פי מאוויי האליטות?
    (בהנחה שהאליטות, בכל המדינות, הן בעלות אייקיו וכושר הפשטה גבוה. יהיה אשר יהיה ממוצע האייקיו של האוכלוסיה).

    אם ההמונים המטומטמים הם אלו ש"מזמינים" את השלטונות (ההומנים מטבע בריאתם) להתייחס אליהם בצורה לא מוסרית – די תתקשה להסביר את הדיקטטורות של רוסיה, סין וצפון קוריאה. מדינות שהאייקיו המיוחס לאוכלוסייתם הוא גבוה.

    אהבתי

  25. רוסיה, סין וצפון קוריאה אכן הן חורים ענקיים בתיאוריית האייקיו הגבוה. מודה בהכנעה. יכול להיות שזה עניין זמני ושההיסטוריה של העתיד תתאים את המדינות האלו לתיאוריה ויכול להיות שלא.

    Liked by 1 person

  27. מכאן אני מעריך ששום תוכנה לא תוכל לחקות את התבונה האנושית, ששלובה לחלוטין בבעיית הגוף והנפש.

    התבונה האנושית מבוססת על נסיון. למחשב יש את היכולת לאסוף ולנתח מספר גדול יותר של דוגמאות בזמן קצר, הרי זה שם המשחק.
    מהי בעיית הגוף והנפש, האם מכיון שמחשב איננו סובל פיסית הוא מוגבל?
    כפי שאומר kb המרחק קטן עד אשר תוכנות ה AI הספציפיות פשוט ישאלו אחת את השניה תשובות והם יעשו זאת בקלות רבה יותר מבני אדם. אולי בעניני מוסר זה יקח זמן ארוך יותר אבל עסקינן בהארכת החיים ומציאת תרופה למות וזה תחום מצומצם.

    אהבתי

  28. תמריץ לגבי אינטליגנציה מלאכותית, אם אתה מאמין שיש משהו מעבר לפיזי אצל בעלי חיים אז כנראה שמכונות לעולם לא יגיעו לאותה רמת מחשבה. אולם כל הניסויים עד כה מראים שהאינטלגנציה שלנו נטועה עמוק בעקרונות הפיזיקליים הידועים, ואין צורך במטה-פיזיקה על מנת להסביר את פעולת המוח. מכאן שמוח הוא בסך הכל מכונה ביולוגית ואין סיבה תיאורטית שמכונה אלקטרונית לא תוכל להגיע לאותה רמת ביצועים שמכונה ביולוגית מגיעה אליה.

    אהבתי

  29. אין למדע הבנה ישירה כלשהי של האינטליגנציה האנושית. יש אולי הבנה עקיפה מוגבלת עד גיחוך. איזה גנים יכולים להסביר אחוז זעום כזה או אחר מהאייקיו. איזה אזור במוח מופעל חזק בחישובים. תאר לעצמך ארכיאולוגים שיחיו עוד 10,000 שנה, ולא יידעו עברית. אבל אחד מהם יידע לספור בדיוק כמה אותיות ג׳ וכמה אותיות ח׳ יש ביצירתו של עמוס עוז, ועל סמך זה יוכתר כגדול הפרופסורים ליצירת עמוס עוז. זו דרגת ההבנה שיש כיום לתפקוד המוח.

    אהבתי

  30. תמריץ
    התיאור שלך את ההבנה שיש כיום לתפקוד המח חזק מאוד. עם זאת נראה לי שתיאור זה תקף גם להבנה שהיתה עד ניוטון לתפקוד העולם הפיזיקלי. ואז הגיע ניוטון ומאז יש דהרה מדהימה בהבנת העולם הפיזי. בחקר המח באמת נראה שאין שום התקדמות ממשית להבנת פעולת המח רק ידע מאוד טכני ומצומצם על תפקוד המח. כנראה צריך איזה ניוטון שיפרוץ איזו הבנה חדשה בחקר המח. מה הסיכוי שיקום ניוטון כזה? אי אפשר לדעת. ומתי זה יקרה? הניחוש של כמה שנים ושל כמה אלפי שנים לדעתי זהה.

    Liked by 1 person

  31. תמריץ אין צורך לדעת איך פועלת האינטליגנציה האנושית, "מספיק" להבין את העקרונות הבסיסיים של רשת נוירונים. כל האינטלגנציה המלאכותית שתופסת את הכותרות היום מבוססת על מודל פשטני של העקרונות האלה.

    אם ניקח את 2 העובדות –
    1. הפיזיקה מספיקה על מנת להסביר את המוח האנושי, אין צורך במטה-פיזיקה
    2. המודל הלוגי של רשת נוירונים מגיע לתוצאות דומות לאלה של רשת נוירונים ביולוגית

    אז ברור שבסופו של דבר נגיע לאינטלגיציה מלאכותית – דהיינו, מחשב שאינו ביולוגי – בעל יכולות דומות לאלה של רשת נוירונים ביולוגית. המגבלה העיקרית לדעתי היא פשוט עניין של כוח חישוב.

    אהבתי

  32. קראתי קצת על למידת מכונה בעקבות הפוסט ונתקלתי בזה:

    https://www.vox.com/future-perfect/22672414/ai-artificial-intelligence-gpt-3-bias-muslim

    מסתבר שכאשר מבקשים מהמכונה להמציא תוכן שנוגע למוסלמים, היא נוטה לתאר אלימות של המוסלמים הנ"ל הרבה יותר מאשר אם מדובר על בני דתות אחרות. הם רוצים "לתקן" את התקלה, אבל לפעמים הטייה בתוצאות של המכונה נובעת פשוט מהטייה במציאות.

    Liked by 4 אנשים

  33. מבחינה אבולוציונית אם האבולוציה יכולה לפתח יצור ששולט בעולם באמצעות תובנות של רשת נוירונים גרידא, לא ברור מהיכן הגיעה התודעה. לא רק מבחינת המיסתורין של הכוחות הפיזיקליים שמאפשרים אותה (ואין ספק שזה מיסתורין שאין למדע קצה חוט לגביו) אלא גם מבחינת הנחיצות עצמה. רשת נוירונים של משהו מת כמו שרת מחשב יכולה להניב תוצאה דומה לרשת שיש לצידה תודעה.

    אהבתי

  34. קמיליה כתבת:
    "זכורה לי במעורפל טענה להימצאות מתאם גבוה בין כלכלות שנשענות בעיקר על הפקת משאבי טבע (או חקלאות) לבין מצב זכויות האדם במדינות אלו".
    כמו כן כתבת: "מצב זכויות האדם טוב במדינות שכלכלתן מסתמכת בעיקר על פירות המחשבה והיצירתיות של תושביהן".
    אבל גרמניה הנאצית היתה מדינה שבה זכויות האדם היו במצב הכי גרוע שיכול להיות. למרות זאת כלכלתה יתה מפותחת מאוד והיא נשענה הרבה על פרות המחשבה והיצירתיות של תושביה.
    ברזיל, ארגנטינה, מקסיקו ויתר מדינות דרום-אמריקה – הן מדינות דמוקרטיות ובכל זאת המצב הכלכלי שם לא טוב והן מסתמכות יותר על אוצרות טבע מאשר על טכנולוגיות ויצירתיות.

    השליטים במדינות דיקטטוריות זקוקים מאוד לתושביהם – אחרת על מי הם ישלטו? מי יספק להם את השרותים שהם צריכים? איזה ערך יש למשאבים במדינה שלהם אם אין להם תושבים שיעבדו עבורם ויאפשרו להם לנצל את המשאבים האלו?
    טעות לחשוב ששליט במדינה דיקטטורית יכול לעשות ככל העולה על רוחו במדינה ללא התחשבות בתושביה. קודם כל כדאי לו מאוד שהצבא יהיה מרוצה. שנית כדאי לו שהתושבים יהיו מרוצים. כאשר דברים אלו לא קורים – יש לשליט סכנה גדולה שיפרוץ נגדו מרד. הרבה דיקטטורים איבדו את שלטונם וגם את ראשם בגלל שלא שמו לב לדברים אלו.

    Liked by 2 אנשים

  35. תמריץ: כתבת שהנס פרנק מושל פולין הביע חרטה אבל לא סלחו לו.
    קודם כל יש כאלו שמביעים חרטה רק בגלל שהם מצפים להקלה בעונש. לכן לדעתי ברוב המקרים אין להאמין למי שמביע חרטה.
    גם אם בחלק מהמקרים נראה שהאדם הביע חרטה אמיתית, לא חייבים להתחשב בזה ולהקל בעונשו.

    Liked by 1 person

  36. חייל זקן כתב:
    " …בניו זילנד כלכלה מבוססת חקלאות."
    ——–
    תמריץ כתב:
    " .. מדינה כמו נורווגיה נשענת על נפט ובכל אופן הכול שם סבבה."
    ——
    arn כתב:
    " … גרמניה הנאצית היתה מדינה שבה זכויות האדם היו במצב הכי גרוע שיכול להיות. למרות זאת כלכלתה יתה מפותחת מאוד והיא נשענה הרבה על פרות המחשבה והיצירתיות של תושביה…"
    ————-
    מסכימה שהמתאם בין כלכלה הנסמכת על משאבים (בניגוד לכלכלה הנסמכת על כושר החשיבה האנושי) לבין אופי השלטון ויחס השליטים לאוכלוסייה – מאוד רחוק מלהיות מלא.
    הרדוקציה למשתנה אחד, כלכלה, מעוותת את התמונה. הטענה מתעלמת לחלוטין מחשיבות משתנים משפיעים אחרים כמו דת (פרוטסטנטית בהשוואה לקתולית או אורתודוכסית, ובהשוואה לאיסלם) התרבות הפוליטית, השפעת המורשת השלטונית האנגלית ועוד ועוד.
    כנראה ניתן יהיה למצוא עוד מספר מקרים הסותרים את הטענה.
    אבל לא הייתי זורקת לפח את הטענה שקיים מתאם. רוב המדינות שכלכלתן מסתמכת על משאבים, שנמצאות בעיקר בעולם המוסלמי ובאפריקה (ומעט גם באמריקה הדרומית) אינן מדינות שמומלץ להמונים (למעט אליטות קטנות) לחיות בהן. לרוב אלו גם ממדינות שרבים מתושביהם מחפשים דרך להגר מהן.

    אהבתי

  37. תמריץ כתב:
    " רוסיה, סין וצפון קוריאה אכן הן חורים ענקיים בתיאוריית האייקיו הגבוה. מודה בהכנעה. יכול להיות שזה עניין זמני ושההיסטוריה של העתיד תתאים את המדינות האלו לתיאוריה ויכול להיות שלא."
    —–
    נראה לי שניתן למצוא עוד כמה חורים ענקיים בתאוריה (שאייקיו גבוה מוביל להתנהגות מוסרית נעלה) באמצעות עיון קצר בהיסטוריה של אירופה. כולל מעורבות רמי אייקיו (כמו הויקינגים, הגרמנים, הצרפתים, הבלגים והאנגלים) בשיעבוד לעבדות ובהשמדות עמים. אפילו לא מוכרחים להרחיק בהיסטוריה לדברים שבעלי אייקיו גבוה אלו עשו לפני מאה השנים האחרונות.

    אהבתי

  38. קמיליה, האידיאולוגיה ההומניסטית קיימת למעשה בתפוצה רחבה רק החל ממלחמת העולם השנייה. התיאוריה שלי אומרת שהיא תואמת ככפפה ליד לבני חברות עם אייקיו גבוה, בשל יכולת ההפשטה שהיא דורשת, ולכן כולם בסופו של דבר יאמצו אותה. מה שקרה לפני מלחמת העולם השנייה הוא שפשוט לא הייתה אידיאולוגיה כזו בתפוצה רחבה. אפילו בארה"ב הייתה עבדות לפני 1865, ואפליית שחורים קשה לפני מלחמת העולם.

    אהבתי

  39. ארנ, על פי הוויקיפדיה, הוא לא עשה רושם על משפחתו.
    בנו של פרנק, עיתונאי במקצועו, כמעט שלא זכה להכירו, כי היה בן 6 בעת שנתלה אביו, אולם מורשתו המשפחתית מילאה אותו בזעם ובמשטמה שאותם הוא פורק בספר שכתב כמכתב לאביו, אותו הוא מתאר כעלוב נפש, שקרן ויהיר.

    אהבתי

  40. בנושא הפוסט, נראה שזה כרגע המודל החזק ביותר לניתוח שפה טבעית: https://ai.googleblog.com/2022/04/pathways-language-model-palm-scaling-to.html

    אולי מחשבים עדיין לא *חושבים* אבל הם כבר די טובים ב*להבין*, לנתח ולפתור בעיות מסוגים שונים. גוגל גם מציינים שהשיפור בעוצמת המודל היא עדיין לינארית ביחס לסדר גודל הכוח החישובי (דהיינו הכפלת הכוח החישובי משפרת את יכולות המודל בגודל קבוע) ז"א שיש עוד לאן להשתפר אפילו מבחינת כח העיבוד ותו לא, תוך שימוש במודלים הקיימים.

    אהבתי

  41. אמחייה, ומה בנוגע להגדלת מסד הנתונים? הגישה למידע ברחבי העולם? זה יתרון שיש למכונה על האדם.
    אולי תגדיר את המונח חושבים. הסקת מסקנות מתוך נתונים? האם אינטרס אישי משחק תפקיד?

    אהבתי

  42. מה שאנשים נוטים להתעלם ממנו כשנדהמים מהפיתוחים האחרונים בתחום הבינה המלאכותית הוא שהרבה מהם נובעים לא מטכנולוגיה מדהימה, אלא ממודלים כלכליים חדשים. לו היו באים אליי לפני עשר שנים ושואלים אותי אם אני יכול, בהינתן משכורת נוחה וצוות פיתוח סביר, לפתח מערכת שתתרגם טקסטים ברמה לא־מקצועית, תלמד לשחק טטריס בלי הדרכה או תכתוב דיאלוגים בסגנון שודדי ים, הייתי עונה "כנראה כן, אבל למה שמישהו ישלם לי על זה?". ההצלחה הגדולה של גוגל ודומותיה היא שהן מצליחות איכשהו להרוויח כסף מבוט שמדבר כמו שודד ים. אני לא לגמרי בטוח איך זה עובד, אני חושד שיש פה אלמנט לא קטן של בועה שתתפוצץ בסופו של דבר.

    הזכרת תמריץ יפה את הפוטנציאל של החלפת נציגי שירות. הבעיה היא שאת זה אפשר לעשות בטכנולוגיה בת עשר שנים ומעטים עושים את זה. לכו לאתר של כל חברה גדולה ונסו לפתוח שיחה עם הבוט שלהם, הם גרועים ברמה מביכה. לא צריך בוט משורר שיודע לכתוב סיפורים על היטלר בשביל לעזור ללקוחות, את הבסיס של הבסיס אני לא רואה אף אחד עושה (אני אישית הפצרתי פעם בחברה שעבדתי בה שתיתן לי לעבוד קצת על הבוט הגרוע שלהם, אבל אם אין על זה תווית "בינה מלאכותית מדהימה של גוגל" אז מנהלים לא מתעניינים).

    אז לכל המודאגים – הבינה המלאכותית בינתיים לא מחליפה בני אדם במהירות גבוהה יותר מטכנולוגיות אחרות, ולהערכתי זה לא עומד להשתנות. הפנטזיות של ריי קורצוויל ושגעון הגדלות של גוגל טובים לכותרות בעיתון, אבל במציאות תמצאו התקדמות רצינית הרבה יותר בחברות "משעממות" מלאות באנשי מקצוע "משעממים" כמו מהנדסי מכונות, חשמלאים וכימאים.

    Liked by 2 אנשים

  43. שי, אני חושב שיש תסכול גדול בבוט שעובד תשעים אחוז טוב כי ה-10 אחוז האחרים בלתי נסבלים. הפיתוחים האחרונים מובילים אותנו למשהו שבין 99 ל99.9 אחוז וזה כבר גיים צ׳יינג׳ר.

    Liked by 1 person

  44. תמריץ, גיים צ'יינג'ר של איזה "גיים"? אני בטוח שהרבה תיאורטיקנים מאוד מתעניינים בדברים כאלה, אבל בעולם העסקי, כמו שאמרתי, חברות לא טורחות לשפר את הבוטים שלהן גם בטכנולוגיה שקיימת כבר שנים ארוכות וכנראה תעלה הרבה פחות ממה שהדבר הזה יעלה. שלא לדבר על זה שמרכזי שירות לקוחות גם הם הולכים ומשתפרים כל הזמן (אולי לא באיכות השירות אבל כנראה כן במחיר), אז ה"גיים צ'יינג'ר" הזה יהיה לכל היותר קצת חיסכון כספי לחברה שמפנה את הלקוח לבוט במקום למרכז טלפונים ענק בפיליפינים.
    וממילא, תמיד קל יותר להכין דוגמה מפוצצת מאשר מוצר מעשי ושימושי. אני אתרשם יותר כשתראה לי שהבוט לא כותב סיפורים על היטלר (אגב, תודה על הדוגמה המשעשעת שיצרת שם) אלא יודע לשמוע "אני משה, יבואן חלפים לרכב, הנה קטלוג המוצרים שלי בקובץ PDF מצ'וקמק והנה שמעון שיסביר לך מה עושים כשלקוח מבקש טופס 34678ד" ולייצר מזה חוויית שירות לקוחות סבירה במחיר טוב יותר מעובד בשכר מינימום.

    Liked by 1 person

  46. Liked by 1 person

  47. אתה (ומגיבים אחרים) דיברת על "היפטרות מהצורך בעובדים אנושיים", לא אני העליתי את העניין. אם הטענה היא שיש פה התפתחויות טכנולוגית קטנה והדרגתית כמו שאנחנו רואים כל שנה מאז תחילת המהפיכה התעשייתית, ושכמו כל ההתפתחויות האלה היא הולכת לאט לאט לכיוון הפיכת עבודות מסוימות לנחוצות פחות ואחרות לנחוצות יותר, אז אין ויכוח. גיים צ'יינג'ר אני עדיין לא רואה.

    Liked by 1 person

  48. לקמיליה:
    אין לך מה לדאוג. האוכלוסיה לא תיתפס כנטל בעיני השליטים אפילו אם השליטים יהיו מרושעים. שליטים לא מחפשים כסף אלא כוח ושלטון. הכסף הוא רק אמצעי לכך. האוכלוסיה לא תיתפס כנטל כי מבלעדיה לא יהיה להם על מי לשלוט.

    Liked by 1 person

  49. שי, יתכן שאתה רואה את התחזיות של ריי קורצוויל כפנטזיות מכיון שאתה מתקשה לעכל את השינויים סביבך ודוחה אותם. המסחר בבורסות העולם מתבצע על ידי חברות גדולות בעזרת תוכנה שבן אדם לא מעורב בפעולתה. (קראתי על חברה שזזה 800 מטר קרוב יותר לבורסה כדי לתת למחשבים שלה יתרון בזמן תגובה על היריבים). מחשבים ששולטים ברובוטים מבצעים נתוחים פשוטים שיהיו מורכבים יותר, ובוודאי שמציעים למנתחים בני האנוש פתרונות ומידע בעת הניתוח. מחשבים מנתחים מידע מבתי חולים ומציעים רעיונות לתרופות חדישות. יש היום פתוחים טכנולוגים שמתבססים על היכולת של תוכנה לקחת תמונה לעבד אותה ולנתח אותה על בסיס מסד נתונים.(אני מכיר חברה שעוסקת בפתוח בגד לביש שמבצע אולטרהסאונד מנתח את התמונה ושבן אדם לא יכול להבין ומעלה תוצאות, לשיווק במדינות עולם שלישי בהן אין רופאים זמינים, ואני משוכנע שיש אין ספור פיתוחים דומים) במקום שיש כסף יש אינטלגנציה מלאכותית. תנסה להכנס לאתרי ממשלה או לקבוע פגישה, הכל נעשה על ידי בוטים ואם השרות מזעזע הסיבה היא שהמתכנת היה זול.ממש כפי שהשרות על ידי בן אדם במשרד ממשלתי בארץ יהיה גרוע כך גם הבוט. זה לא כך במדינות מערביות. משאיות מטען נוסעות בארה"ב מצד לצד מהר יותר וללא הפסקה בעזרת מערכות ניהוג שמאפשרות לנהג לישון בקבינה. רכבות תחתית בכל העולם לא יכלו לתפקד ללא מחשב, אין יותר נהג פעיל. ב 10 שנים האחרונות חלה פריצה משמעותית באינטלגנציה מלאכותית אני משוכנע שאתה מודע לזה. תחשוב על משחקי המחשב שהיית כותב לפני 10 שנים ועל העיבודים הגרפיים של היום. לפני 10 שנים אתה לא היית מאמין שמחשב יוכל לתרגם תרגום סימולטני ברור כפי שהוא מסוגל כיום. הרבה מאד פתוחים שנחשבו לדמיונים נמצאים על סף הגשמה מציאותית. תראה מה שקורה מסביבך אנחנו על סף פריצת דרך מהירה.יש היום את הטכנולוגיה. אתה חושב שלא ניתן לייצר היום בוט שתדבר אליו כשאתה חולה ויחליף רופא? בוט שייצר לך פיצה וישלח אותך אליך הביתה על פי טעמך? תוכנה שתכתוב לך ספר על פי סגנון אהוב עליך.תראה לי דבר שתוכנה איננה יכולה להחליף? אם היא לא החליפה עד כה הסיבה היא עלות.

    Liked by 1 person

  50. נחום, אני לא רק מברך על השינויים סביבי, אני חלק מהם. אני עובד בתעשיית ההייטק ורואה התפתחויות חדשות כל חודש וכל שנה, וטוב שכך. אבל זה שיש התפתחויות לא אומר שכל פנטזיה עומדת להתגשם. ריי קורצוייל חושב שהבינה המלאכותית תאפשר לו לנהל שיחה עם אביו המת, ואני מצטער, אבל זו פנטזיה ותמיד תהיה פנטזיה.

    הבינה המלאכותית כבודה במקומה מונח, היא מביאה לנו חלק מההתפתחויות הטכנולוגיות של השנים האחרונות, אבל הפולחן שעושים לה בתקשורת בעיני מפחית מההערכה שזוכים לה אנשים שעובדים על פיתוחים מרשימים הרבה יותר, ועל זה חבל לי.

    לדוגמאות שנתת: ניתוחים רובוטיים זה תחום חשוב ומבורך, לא ידוע לי עד כמה בינה מלאכותית מעורבת בעניין אבל יכול להיות שכן ואני מברך על כך. מחשבים שמציעים רעיונות לתרופות חדישות – אשמח לשמוע דוגמאות ספציפיות. עיבוד תוכנה זה אחד היישומים הותיקים של בינה מלאכותית, יש שם כמה הצלחות משמעותיות, אבל בינתיים פרויקטי הדגל של התחום הזה, נהיגה עצמאית ופענוח צילומי רנטגן, למיטב ידיעתי לא מתקדמים כמתוכנן. בכל מקרה, אלה אתגרים שאני מאמין שבסופו של דבר הם יצליחו בהם. אתרי ממשלה הם דוגמה מצוינת למקום שהיה יכול להשתפר עם מימוש יותר טכנולוגיה בת עשר שנים, הם לא בשלב שהם צריכים בינה מלאכותית מתוחכמת כדי להשתפר. הטכנולוגיה בתחום הרכב משתפרת כל הזמן וטוב שכך, חלק מזה הוא בינה מלאכותית וחלק הוא עבודה אחרת שלא זוכה למספיק הערכה. משחקי מחשב זה תחום שאני מכיר היטב, יש שם התפתחויות מעולות בתחום העיבוד הגרפי ואפס התפתחויות מעניינות שקשורות לבינה מלאכותית. לפני עשר שנים כן הייתי מאמין שמחשב יוכל לתרגם תרגום סימולטני ברור כפי שהוא מסוגל כיום. האם ניתן לייצר בוט שיחליף רופא? כן, והיה אפשר גם לפני עשר שנים. הוא לא יהיה טוב במיוחד, אבל גם הרבה רופאים אנושיים אינם טובים במיוחד. בוט שייצר פיצה וישלח אותה הביתה על־פי טעמי? כשאומרים "בוט" מתכוונים בדרך־כלל לתוכנה, האתגר העיקרי בהכנת פיצה ושליחתה הם בפעולות הפיזיות של הכנת הפיצה וכמובן הנהיגה לבית הלקוח. רק לדבר עם הלקוח ולהחליט איזו פיצה להכין אפשר גם עם טכנולוגיה בת עשר שנים. תוכנה שתכתוב ספר על פי סגנון אהוב עלי? כנראה אפשרי, זה מהדברים שאני כן מאמין שפרויקטים כמו OpenAI יוכלו להשיג בסופו של דבר, לפחות עבור סוגי ספרים מסוימים.

    לסיום אתה כותב "תראה לי דבר שתוכנה איננה יכולה להחליף? אם היא לא החליפה עד כה הסיבה היא עלות", וזה משפט המפתח – אנשים חוגגים על כל דבר אקזוטי שיוצא מחברות בינה מלאכותית. אבל בסופו של דבר אם בינה מלאכותית יכולה לספק שירות כלשהו שגם אדם יכול לספק, ועלות הפיתוח, ההטמעה, וההפעלה שלה לא מצליחה להתחרות במשכורת של אותו האדם – אז היא לא עומדת לחולל מהפיכה. כמו בכל טכנולוגיה, יכול להיות שעם הזמן יצליחו לייעל אותה עוד ועוד ולהפוך אותה לתחרותית יותר. מצד שני, גם החלופות שאינן מבוססות בינה מלאכותית הולכות ומתפתחות עם הזמן. בסופו של דבר מתקבלת התקדמות הדרגתית וסבירה של הטכנולוגיה, כמו עם כל טכנולוגיה במאתיים השנים האחרונות, ואני עדיין לא שמעתי סיבה להאמין ש"אנחנו על סף פריצת דרך מהירה".

    Liked by 1 person

  52. רוזנברג נחום,
    קיים עירוב תחומים בין רובוטיקה ואינטליגנציה מלאכותית. רובוט שמבצע ניתוחים אינו משתמש באינטליגנציה מלאכותית והאתגר שם הוא מערכת אלקטרו מכנית מאד מדוייקת ומערכת משוב אלקטרו אופטית ברזולוציות מאד גבוהות. רובוטים כאלה הפכו אפשריים בגלל שיפורי חומרה. האלגוריתמיקה שלהם מבוססת על מתמטיקה ידועה ופתורה

    Liked by 2 אנשים

  53. אוף טופיק: מקרה מזעזע.
    דייר רחוב הוכה למוות לאחר שנהג ללון בתוך בנין מגורים ולפעמים גם לעשות את צרכיו שם.
    https://www.ynet.co.il/news/article/bykges3do#autoplay
    מה עושים עם דייר רחוב כזה? האם הממשלה מספקת לו מעון שבו יוכל לחיות בצורה קצת נורמלית? יש מקומות שמספקים לדיירי רחוב מקלט?
    ברור שהרוצח הוא פושע ומגיע לו עונש. אבל צריך לציין שאף אחד לא היה רוצה דייר רחוב בבנין שלו. אני מניח שרצח של דייר רחוב זה משהו נדיר אבל בכל זאת כואב הלב לסלק אותו החוצה במזג אויר קר ומצד שני אי-אפשר להכניסו לבנין.

    Liked by 1 person

  55. קמיליה,
    לפי המאמר שאליו הפנית מדובר בחישוב של הרבה משתנים שרופא אינו יכול לבצע אבל למחשב זו משימה פשוטה. בינה מלאכותית אין כאן משום שהאלגוריתם הוא פרי בינה אנושית. מערכות חישוביות שיודעות לשפר תוצאות כפונקציה של תוספת נתונים שמוזנים אליהן נולדו זמן קצר לאחר הולדת המחשב. "בינה מלאכותית" זה בזוורד שמביא תקציבים כמו "משבר האקלים"

    Liked by 1 person

  56. לא, אתה טועה חייל זקן, הכתבה מדברת על בינה עמוקה, על חוסר הבנה איך האלגוריתם עושה את זה. זו דוגמה קלאסית לאינטלגנציה מלאכותית שלומדת ושמשנה את החוקים ואת האלגוריתם על סמך נסיונה. זו ההגדרה לבינה מלאכותית.
    רובוט שמבצע ניתוחים משתמש בעיבוד תמונה ובהשוואה שלה למקרים דומים, שם איסוף הנתונים והמסקנות נעשה בבינה מלאכותית. אבל מה זה ממש משנה? אתה מפצל שערות כדי לראות שאתה ידען? מחשבים שיחליפו את בני האדם הוא הנושא.
    אם נניח שלב הנושא השיחה פה הוא האם הבינה המלאכותית תצליח באיזה שלב לקחת את הכדור מידי בן האדם ולהמשיך בכוחות עצמה הרי זו הסינגולריטי שמדברים בה ואנחנו קרובים אליה, קרובים זה 20-25 שנה אבל בינתיים מחשבים מחליפים בני אדם בקצב מהיר יותר מתמיד, להשוות את זה למכוניות שהחליפו סוסים זה אידיוטי.
    שי, תחזור ותקרא את התשובה שלך ותתקן, היא שיטחית, לא נראה שלמדת את הנושא. ולא אני לא מאמין לך שלפני 10 שנים יכולת להניח שמחשב יתרגם במדוייק, ואם אתה עוסק בעיבוד תמונות איך זה שהאמנת שמכוניות יחליפו נהגים בני אנוש, וכפי שכולם דיברו שזה יגיע תוך שנה שנתיים עכשיו כולם מספרים לחלוטין בצד השני שזה לא יקרה למרות שזה כבר קיים ויש מחשבים שמנתחים בהצלחה משתפרת תמונות רנטגן וידועים מחקרים שמחשבים הציעו רעיונות חדשים לתרופות חדישות שהתקבלו, וכל הלוגיסטיקה של להכין פיצה ולהביא הביתה על ידי רובוט קיימת 10 שנים אז איפה היא? ללא ספק היא זולה ממשכורות. אילון מסק מדבר על יצור צ'יפים שידברו עם המוח של בן האדם בשנה הבאה, ושאת הטלפונים החכמים יחליפו השתלות במוח. אתה לא קורא את כל הדברים האלו?
    ולגבי אינטלגנציה מלאכותית במשחקי מחשב חיפוש קטן מעלה רשימה של 16 משחקי המחשב שמשתמשים בהם באינטלגנציה מלאכותית כולל תאור כיצד.
    אם אתה לא לא מרגיש שאנחנו חיים בדור שעל סף מהפכה בתחום בו אתה עוסק אז אתה חי בבועה.

    אהבתי

  57. נחום,

    אני לא יודע לגבי כל התגובה שלך, אבל למיטב ידעתי אין "ידועים מחקרים שמחשבים הציעו רעיונות חדשים לתרופות חדישות שהתקבלו" (בהתקבלו, אני מניח, אתה מתכוון לאישור FDA). אם אני טועה, אשמח אם תאיר את עיני.

    אהבתי

  58. נטול ח, קראתי בעבר על תוכנה שהריצו לחפש מולקולות חדשות שייצרו מהן תרופות, במחקר ההוא המחשב הגיע עם כ 20 הצעות שמתוכן לפחות אחת עברה לפתוח, וזה היה לפני כמה שנים, התקדמו מאז. מולקולות חדשות, תרופה חדשה, רוב התרופות שאנחנו משתמשים בהם כיום מתבססות על תגליות בנות 50 שנה. אבל במקום לשאול אותי תטרח ותעשה חיפוש, השאלה הראשונה ששאלתי בשבילך יא בטלן נתנה את זה https://extrapolations.com/how-do-computers-design-drugs/ ואני בטוח שיש אין ספור מאמרים.
    החיסון נגד קורונה פותח על ידי מחשבים תוך יומיים ותוך מספר ימים הסימולציות הממוחשבות קבעו שהוא בטוח בריאותית. כל התהליך לקח ימים ספורים, הבירוקרטיה כשנה פלוס. למרות שאם מתבוננים על התוצאות, בתור אחד שחטף קורונה לפני שבועיים ולקחתי את כל החיסונים, כנראה שחייל זקן צודק וזה הכל חרטא ברטא

    אהבתי

  59. נטול ח, שאלתי את סירי וזה מה שהיא ענתה

    Artificial intelligence has been making inroads in drug discovery for a good part of the last decade. We recently published an analysis that showed that biotech companies using an AI-first approach have more than 150 small-molecule drugs in discovery and more than 15 already in clinical trials.

    אהבתי

  60. ל arn,
    אמנם מעט באיחור אבל …

    כתבת:
    " … השליטים במדינות דיקטטוריות זקוקים מאוד לתושביהם – אחרת על מי הם ישלטו? מי יספק להם את השרותים שהם צריכים? איזה ערך יש למשאבים במדינה שלהם אם אין להם תושבים שיעבדו עבורם ויאפשרו להם לנצל את המשאבים האלו?
    טעות לחשוב ששליט במדינה דיקטטורית יכול לעשות ככל העולה על רוחו במדינה ללא התחשבות בתושביה. קודם כל כדאי לו מאוד שהצבא יהיה מרוצה. שנית כדאי לו שהתושבים יהיו מרוצים. כאשר דברים אלו לא קורים – יש לשליט סכנה גדולה שיפרוץ נגדו מרד. הרבה דיקטטורים איבדו את שלטונם וגם את ראשם בגלל שלא שמו לב לדברים אלו."
    ———————-
    בכלכלה המבוססת על הפקת משאבים וייצואם – לרוב לא ניתן להעסיק אפילו עשירית מהאוכלוסייה. הרוב הופכים למיותרים.
    ומנקודת מבט השליט – המיותרים עלולים להפוך למסוכנים.

    חשוב מכך, נראה לי שאינך מבצע את ההבחנות הנדרשות בין חיוניות שמירת אליטה קטנה שנאמנה לשליט לבין שמירת רוב העם מרוצה.
    אליטה שאמורה לכלול צמרת צבאית ומשטרתית (כולל שירותים חשאיים מאוד מפותחים), " אוליגרכים" ומנכ'לים של ארגוני ענק, ומספר קטן של שופטים עליונים ובכירי תקשורת.
    מיעוט קטנטן שכזה (בהשוואה לגודל האוכלוסייה) ניתן לשחד בכבוד ובכיבודים. מכאן המתאם הגבוה בין שחיתות לבין עריצות.

    את רוב העם ניתן לדכא באכזריות ולהפחיד או להסיח את דעתו לכיוון כל מיני אויבים חיצונים או על מיני שיטות אחרות שבהן נוקטים שליטים דיקטטורים. יקר מדי (עד בלתי אפשרי) לשליט לנסות לשחד את רוב האוכלוסייה בכיבודים ובכבוד. קל יותר לבנות מערכות מושחתות מאשר מערכות שמתפקדות ביעילות גבוהה דייה בכדי להפוך את רוב האוכלוסייה לשבעת רצון.

    סרטון קצרצר שחשוב לצפות בו. לכולם.

    אהבתי

  61. רוזנברג נחום,
    אתה, כמו רבים שעוסקים בתחום, סובל מבילבול בין בינה מלאכותית לאוטומציה. הדוגמא שהבאת של פיתוח תרופות היא דוגמא מצויינת לבילבול שלך משום שמדובר כאן במקרה מובהק של אוטומציה. מה שנעשה במערכות אלה זה תהליך אלימינציה. המערכת עוברת על מספר רב של מולקולות תיאורטיות ובאמצעות סימולציה מבצעת הערכות יעילות/סיכונים ונותנת היררכיה של מולקולות זהו פשוט הליך מהיר של ניסוי וטעיה שפעם היה מבוצע במעבדה. זה אכן חוסך כח אדם (כמו כל הליך אוטומציה) אבל זה לא בינה מלאכותית. כאשר תהיה בינה מלאכותית היא תפתח כללים שעל פיהם יתאימו מולקולה למחלה, כלומר הבינה תפתח הנדסה ביו רפואית ולא את התרופות עצמן שיהיו תוצאה של חישוב. הטיעון "אנחנו לא מבינים איך זה עובד" כהוכחה? כנראה שאתה פילוסוף גדול

    Liked by 1 person

  62. לכמילה כתבת:
    "בכלכלה המבוססת על הפקת משאבים וייצואם – לרוב לא ניתן להעסיק אפילו עשירית מהאוכלוסייה. הרוב הופכים למיותרים".

    זו טעות: בעיני השליט הדיקטטורי הם לא מיותרים כלל. לשליט הדיקטטורי חשוב הכוח והשלטון הרבה יותר מהכסף. הוא רוצה להראות שהוא בוס גדול, שליט על כמה שיותר אנשים. לכן האנשים שתחת שלטונו אינם מיותרים אפילו אם הכלכלה מבוססת על משאבים ומרבית אנשים אלו אינם עובדים. אני חוזר: לשליט הדיקטטורי חשוב הכוח והשלטון הרבה יותר מהכסף.

    הטענה שלך שלשליט הדיקטטורי חשובה נאמנותה של האליטה בלבד – איננה נכונה. איך את מסבירה את המהפכה הצרפתית, הרוסית, אביב העמים הערבי בשנים 2010 – 2011 (בגלל העם שליט תוניסיה – נמלט מארצו. שליט לוב, קדאפי – הוצא להורג. שליט תימן – אבד את שלטונו (או נרצח, אני לא זוכר). שליט מצריים – אבד את שלטונו. שליט סוריה היה קרוב לאבד את שלטונו וגם את ראשו אבל רוסיה ואירן מנעו זאת). איך את מסבירה את העובדה שהרבה מקיסרי רומי איבדו את שלטונם לאחר שהפרו הבטחות כספיות שנתנו לחייליהם.

    אהבתי

  64. נחום,

    1. אני כתבתי תגובה מכבדת ואתה קורא לי בטלן, זאת הסביבה שאתה מעוניין להתדיין בה?

    2. אם זאת ההוכחה שלך, אז אני איתן בדעתי – אין שום תרופה היום בשוק שפותחה על ידי בינה מלאכותית, פשוט אין. מה שכן יש זה כלים (כמו שרודינגר לדוגמא: https://www.schrodinger.com/ ) שעוזרים בפיתוח תרופות, אבל התרומה שלהם לקיצוץ הזמנים בפרוייקטים אינה גדולה. רוב הזמן בפיתוח תרופות מוקדש להבנה של איך מולקולות המראות פוטנציאל מתנהגות בקונטקסט של תא, חיית מודל ולבסוף בני אדם. מכיוון שהמערכות האלו הן סבוכות בצורה יוצאת דופן, אין ולא יהיה בעשור הקרוב שום יכולת לסמלץ אותן בצורה טובה.

    Liked by 2 אנשים

  65. למשתמש אנונימי,

    סירי נתנה לך את הפיצ' שמישהו כמוני יתן בישיבת סיד עם משקיעים ואחר כך יעשה את דרכו לדו"חות של מקינזי. המציאות בפועל הרבה יותר אפורה

    אהבתי

  66. לגבי הדיון פה, אין כיום שום תרופה שפותחה ע"י AI, ויש יחסית מעט מאוד כלים של AI שעוזרים בפתוח תרופות. מה שכן יש זה המון AI שאוספות דאטא ממחקרים קלינים, מסדרות יפה יפה את הדאטא, ומתיימרות לעזור למדענים להוציא תובנות מהדאטא. בתחום של מבנה של חלבונים ותכנון תרופות נעזרים בהרבה תוכנות, אבל מה שחייל זקן כתב למעלה נכון, זה יותר אוטומציה מאשר "בינה מלאכותית"…

    Liked by 3 אנשים

  67. הכינוי "בינה מלאכותית" הוא מראש מטעה שכן הוא מעניק את הרושם שמדובר בתוכנה שפועלת באופן דומה לבינה האנושית. אלא שכפי שתמריץ ציין אין שום הבנה כיצד פועלת התבונה האנושית. מנסיוני האישי כשאומרים בינה מלאכותית מתכוונים לאלגוריתם שמריץ המון המון אפשרויות ומוצא פתרונות באמצעים סטטיסטיים. זה יעיל לדברים מסוימים (אגב, אחוז ההצלחות די נמוך וברוב המקרים הפתרון המתקבל אינו מוצלח יותר מפתרון שהיה מציע מומחה אנושי בהתבסס על נסיונו) אבל בוודאי שלא מתקרב להוות בינה במובנה הביולוגי.
    כשיצליחו המדענים להבין איך מרשת של עצבים ששולחים אותות זה לזה קם יום אחד אינשטיין והבין שהזמן הוא מימד שמתעוות בגלל גרביטציה, אז אולי יוכלו לבנות מחשב בעל בינה.

    Liked by 3 אנשים

  68. רינגו, מסכים איתך. עם זאת צריך להגיד שהתוכנה המדוברת (שאכן הפכה לסנסציה עולמית. כשכתבתי את הפוסט בסוף שבוע שעבר, עוד לא היה באזזז מטורף כזה, והרגשתי אז שאני מחדש משהו לקוראים), היא בעיניי פריצת דרך שלא תיאמן. אפילו כשהיא טועה, זה מרהיב לראות את היכולת המילולית הכמו אנושית שלה.

    Liked by 2 אנשים

  69. פינגבאק: ברוכים הבאים לאמנות הבינה המלאכותית – תמריץ

כתיבת תגובה