עד כמה הופעת בינת על מלאכותית מסוכנת?
כתבה בסיינטיפיק אמריקן שמצטט אתר הידען מתארת ניסוי מחשבתי שאפשר לכנותו "גולם המהדקים המשרדיים", שערך הפילוסוף ניק בוסטרום:
בינה מלאכותית מתוכננת ליצור מהדקים משרדיים. לאחר שהיא מנצלת את כל חומרי הגלם הזמינים, היא משתמשת בכל האטומים הנקרים בדרכה, ובהם אלה המרכיבים בני אדם. וכפי שהוא מתאר במאמרו מ-2003, מרגע זה היא "מתחילה לעבד את כל כדור הארץ, ואחר כך נתחים הולכים וגדלים של החלל ולעצב מהם מתקנים לייצור מהדקים משרדיים." לא יחלוף זמן רב עד שהיקום כולו יהיה עשוי ממהדקים או ממכונות לייצור מהדקים.
אחרי שהאינטליגנציה המלאכותית הזו שמוכוונת ליצירת דבר אחד מתחזקת, אין ביקום מקום לשום דבר שהוא לא מהדק.
ניסוי המחשבה הזה הוא אמנם מדע בדיוני רחוק, אבל האם כל העלילה העתידנית לא מהדהדת את מה שבעצם קורה בימים אלו במדינה? ההשתלטות המוחלטת של כמה עקרונות שיפוטיים מופשטים על העולם שלנו לא מותירה שום מרווח לדברים אחרים. פרשיות שחשיבותן האובייקטיבית זעומה בסך הכול (האם פירסמו באתר וואלה תמונה מחמיאה על שרה או לא ותמורת מה?) ממלאות את כל הנפח התקשורתי, סוחבות את המדינה לבחירות חוזרות ונשנות, משתקות את המשק בהעדר תקציב. איומים אמיתיים מאירן ועד המחסור בדירות ומצב התחבורה נזנחים ומתגמדים.
את כל ההרס מחוללת אינטליגנציה גדולה שדבקה בעקרונות כמו שוויון לפני החוק ומלחמה בשחיתות. אלו לכאורה עקרונות נאצלים שאינטליגנציה אליטסטית מקדשת. אבל הדבקות הלא מידתית בהם זורעת הרס (ואפילו שלא בהתאם ללשון החוק. חוק היסוד הרי מתווה נתיב שבו ראש הממשלה מכהן כרגיל ועומד למשפט בו בזמן). לאן שלא תביט ביקום המלא מהדקים תראה סיכות, ולאן שלא תביט בעולם הנוכחי שלנו תראה תיק 1000 ותיק 2000 ותיק 4000. התקיימו דבריו של השופט אהרון ברק:"מלוא כל הארץ משפט". אבל האם זהו בהכרח דבר טוב כל כך או שזהו דבר טוב כמו ארץ שכולה מהדקים?
אנשים שתומכים בהדחת ביבי בשל חקירותיו הם לעתים קרובות בני המעמד הסוציו-אקונומי הגבוה, הם משתאים איך אפשר לתמוך באדם מושחת ומתגאים בחשיבה האינטליגנטית והמתוחכמת שלהם שמנחה אותם. אבל האם כל האינטליגנציה הזו שלהם לא מתועלת בצורה מצומצמת להחריד? ביקום שלהם, ממש כמו ביקום של הבינה המלאכותית האדירה שהופכת כל דבר למהדק ולסיכותיו, נשדדו כל האטומים למען מטרה שיצאה מפרופורציה.
