מותר האדם

פורסם בתאריך על ידי

בשלישי מבין הרומנים הנפוליטניים של אלנה פרנטה,  אנצו מסביר לאלנה (=לֶנוּ) ולפייטרו משהו על מחשבים (וזה קורה בערך באמצע שנות השבעים,  כשהמחשבים עדיין די בחיתוליהם,  וכשאלנה ופייטרו עוד לא יודעים עליהם דבר). אלנה שואלת אם המחשב יכול לטעות,  ואנצו עונה.  זה הולך ככה:

– "הוא יכול לטעות?"
– "מי?"
– "המחשב".
– "אין שום הוא,  לֶנוּ, הוא זה אני.  אם הוא טועה,  אם הוא עושה בעיות,  אני טעיתי,  אני עשיתי בעיות" (עמ' 302).

בדיוק ככה.  ואני מזכירה לעצמי,  אם המחשב או הטלפון החכם עושים בעיות, זה לא בגלל שהם טיפשים,  זה בגלל שבני האדם שתכנתו אותם וטיפלו בהם לא בהכרח היו תמיד חכמים.

למרות שלתלמידים אני אומרת תכופות,  יושבת לכם על הכתפיים מכונה מופלאה,  הרבה יותר חכמה מכל מחשב  –  רק אל תפריעו לה לעבוד.

20 מחשבות על “מותר האדם”

  2. אנצו הולך ומתחבב במהלך הקריאה כשהוא גם תופס מקום מרכזי יותר. או שזו לילה שמאירה כל מי שסביבתה באור מיוחד כמו שמש וירחים. יש באמירה הזו שלו המון חכמה בסיסית, מהסוג שלפעמים נשכחת מרוב שהיא כזו.

    אהבתי

  4. חומר למחשבה נתת כאן
    מצד 1 נשאלת השאלה אם האדם יכול ליצור משהו שהוא יותר ( חכם ? נעלה ? ) ממנו
    מצד שני הנה מה שמצאתי היום בהארץ בקשר לגניבת 50 מליון חשבונות הפייסבוק
    " וכאן צריך לחזור לאמת הבסיסית והחשובה בסייבר: אין 100%! טכנולוגיה היא לא חסינה. כך גם האנשים שמתכננים ובונים אותה, וכך גם המשתמשים. פרצות תמיד יהיו, ותמיד קיים סיכוי שמישהו ירצה לנצל אותן לרעה."

    אהבתי

    • ומכאן חוסר האמון הבסיסי והמיושן שלי בכל הטכנולוגיות באשר הן. אם כי הדור החדש יותר אומר: יש פרצות – אז נסתום אותן ונתגבר. ואולי הצדק אתם.

      אהבתי

  5. ואולי מערכות ההפעלה של המחשב תוכננו במיוחד עם חולשות מכוונות, כדי לאפשר ריגול ושאר מיני קרימינליות שמכניסה למישהם כסף? 🙂
    בהכירי את הצד הביולוגי – בסביבת המחשב, המוח האנושי הקרימינלי מחקה תופעות ביולוגיות על מנגנוניהן, כמו הדבקה בוירוסים, תולעים… ומנגנוני פעולה הדומים בטבע.
    מה שנאמר בציטוט שהבאת, היה לגמרי נכון אז. כיום מחשבים בעלי כושר למידה ויש התקדמות אדירה בתחום הבינה המלאכותית. בהחלט אפשר שבעתיד המחשבים והרובוטים יתעלו עלינו.

    אהבתי

  6. כבר שנים שאני טוענת את אותו הדבר, אבל לא כולם מבינים אותי או מאמינים לי. זה נכון מה שכתבת קנקן על בינה מלאכותית, מחשבים שמסיקים מסקנות ומלמדים את עצמם אבל עדיין – מי שתכנת אותם זה אדם. אדם שבעת כתיבת התוכנה היה חייב לשאול את עצמו מהם כל התרחישים האפשריים שעשויים לקרות…ואף אחד אף פעם לא מביא בחשבון את הכל.

    Liked by 1 person

      • נו טוב, לייבוביץ טען זאת משום שהידע בביולוגיה מולקולרית היה מוגבל מאוד בזמנו ביחס לידוע כיום. לא מעט הטיעונים שלו אז שהתייחסו למדע הסתברו כלא נכונים, משום שנבעו מחוסר ידע על תהליכים והמנגנונים המולקולריים הגנטיים והפיזיולוגיים הידועים כיום. מה שנאמר על ידו לגבי האדם כלא ניתן להסבר לא בקיומו של אלוהים) ועוד איך ניתן כיום להסבר ברמה של עד הפרט האחרון.
        ואשאל אותך שאלה – כיצד את מגדירה מחשבה? זו שאלה כבדה כיום גם לפילוסופים…
        לדעתי איך שלא נהפוך את השאלה נגלה שגם המחשב חושב. אמנם למחשב אין עדיין רגשות כמו לאדם, אבל גם זה יגיע. כי גם הרגשות שלנו מתוכנתים במרכז עצבי קטן (צ'יפ) במוח המכונה אמיגדלה. והיום מחשבים בונים מחשבים/רובוטים – כך שהם אפילו מתרבים כבני אדם )

        אהבתי

        • היות שההבנה שלי במדעי החיים ובפילוסופיה מאוד מצומצמת, אני יכולה רק להגיד איך אני רואה זאת: האדם יצר את המחשב תוך כדי חיקוי של המוח האנושי. זה הכיוון, ולא להפך. במובנים מסוימים המחשב עולה על המוח האנושי כבר עכשיו, בזכות זיכרונו ומהירותו. אולי דווקא העובדה שהוא נטול רגשות היא שמאפשרת לו לעבוד בצורה יותר יעילה מבני אדם. מצד שני – הוא גם נטול אמביציה – זה עלול להיות גורם מעכב.

          די ברור שהמכונה תמשיך ותשתכלל – כבר היום היא שולטת בחיינו עד כדי כך שאנחנו לא יכולים להתקיים בלעדיה. אבל לא נראה לי שהמדע יודע איך תוכנן המוח האנושי, אם בכלל תוכנן, ומי תכנן אותו, ולאיזו מטרה. אפשר לדבר על אלוהים או על הטבע הכל-יכול או שאפשר לדבר על תאונות ומקריות, אבל התשובות אינן ברורות. קשה לי להשוות את 'השתלת'-הבינה שהשתילו בנו הורינו, כפי שרמזת באחת התגובות למעלה, למה שעושים אנשים שבונים מחשבים (מבחינת המטרות והשיטות).

          אם אני חושבת על התחום שבו אני דווקא כן מבינה משהו – וזה התחום של השפה – המוח של ילד קטן התברך ביצירתיות לשונית שהמחשבים בינתיים אינם מצליחים לחקות. הניסיון לתת למחשב לתרגם אינו עולה יפה לעת עתה, אם כי אני בטוחה שהוא מתקדם. אני גם מאמינה שבני אדם יצליחו לשתול בו יותר ויותר 'כללי-יצירה' מן הסוג שילד קטן מפנים בעצמו עוד לפני גיל שלוש. אפילו הניסיון הפשוט-יחסית לתת למחשב לנקד דורש פיקוח צמוד של בני אדם, אחרת השגיאות רבות. כנ"ל אפילו בודקי-האיות למיניהם במעבדי תמלילים: בלי שהם יבינו את ההקשר, הם אינם יכולים שלא לטעות. כשהאקדמיה משנה את הכללים, הם תלויים במתכנתים שיזינו לתוכם את הכללים החדשים. אני מניחה שגם זה יתקדם מאוד – אבל ההתקדמות תלויה בכך שבני אדם 'יאכילו' את המכונה. אבל זה לא בהכרח ימנע ממנה להתפתח עד כדי כך שהיא תעלה בסופו של דבר על יוצרה.

          אהבתי

          • זה בכלל לא משנה "שהאדם יצר את המחשב כחיקוי של המוח האנושי ולא להיפך". משנה מבחן התוצאה. חקר המוח איננו גם תחום המחקר שלי, אבל הבן מתמחה בתחום זה, ואני נדהם לגלות את כמות המידע החדש בתחום, שעולה בקצב לוגריתמי. בוודאי אין לך מושג עד כמה אפשר לקרוא ולשלוט במחשבה שלך ושלנו כולנו. ברמה שיציגו לך למשל 20 ציורים והבודק ידע בעזרת מחשב – באיזו מידה את אוהבת או לא אוהבת כל אחד מהם. אם יישמו זאת למשל בראיונות עבודה (ואני מאמין שכן מתישהו), המראיין יוכל לקרוא בבירור את הדעות הפוליטיות, הנטיות וכל השריטות שבמחשבה. עם חשמל וכימיה (תרופות וסמים) אפשר לשלוט כידוע על המחשבה של כל אחד ואפילו להשתיל מחשבות. וכיום אנחנו כבר מתקרבים להבנת מרבית התהליכים והמנגנונים.
            זה נכון שמחשב טיפוסי לא יודע לנקד, אבל כך גם 99.9% מהישראלים. והמחשב יודע להבחין למשל בין אם לעם – מה שלא מעט סטודנטים צברים לתואר שני ושלישי אינם יודעים לפי העבודות שהגישו לי.. וגם שוכחים לשנות את המין זכר/נקבה מהעבודות שהם מעתיקים.
            מחשבי על יכולים להכנס לאקדמיה וללמוד את הכללים החדשים. הם גם מדברים זה עם זה ולומדים אחד מהשני. אני מניח שמה שאתאר עכשיו יעניין אותך מאוד. לפני מספר חודשים, מפתחי בינה מלאכותית נדהמו שהמחשבים התחילו לדבר בינהם בשפה ייחודית שהם המציאו וששונה מהשפה שלימד אותם האדם.
            בהכירי את עולם החי וגם קצת את עולם המחשוב והרובוטיקה, אני חושב שהמושג "מותר האדם" הינו יוהרה אנושית. גם חיות ובעיקר קופים עולים עלינו במהירות האבחנה והחשיבה בתחומים לא מעטים. יש משחקי מחשב שהם ינצחו כל בן אנוש. לא את ולא אני נזכור אלו ואת סדר ההופעה של 8-9 ספרות שהוצגו זו אחר זו לפחות משניה במסך המחשב. ובקיבוץ צובה ראיתי לפני כמה שנים קופה שפותרת תרגילי חשבון שתקלידי לה במחשב. ואומר לך יותר מזאת – מרכז הרגשות שלנו הוא פרימיטיבי ואינו שונה/התפתח משאר היונקים. אז מותר האדם הוא בהחלט חטא היוהרה של האדם. אמנם האדם משתמש במחשב ובסמרטפון, אבל 99.9999% אינם יודעים בשיט כיצד זה עובד ובוודאי לא ליצור כמותם. אבל גם 99.9999% אינם מבינים בכלל כיצד גופם עובד. אני חושב שמחשבי על כבר יודעים זאת הרבה יותר ממרביתנו. חחחחחחח

            אהבתי

            • לא אוכל להתווכח אתך בענייני מדע ומחשבים, אבל כמה דיוקים:

              בני אדם שלא למדו את כללי הניקוד לא יידעו אותם, אבל המחשב אינו יודע לנקד משום שאינו מבין את ההקשר. למשל, המילה 'חולצה' יכולה לסמן פריט לבוש, או מישהי שחילצו אותה מסכנה – והניקוד בכל מקרה שונה. המחשב אינו יודע את ההקשר ולכן מנקד בשגיאות, ונוכחתי בזה לא פעם. מאותה סיבה הוא גם לא יודע אם לכתוב 'אם' או 'עם'. אני מניחה שאפשר יהיה ללמד אותו איכשהו – רק לא בטוח שיוכלו להזין אותו בכל ההקשרים האפשריים, משום שמספרם אינסופי.

              בנוגע למותר האדם – המושג אכן מתייחס בדרך כלל, בצדק או שלא בצדק, למותר האדם מן החיה – אבל לא במובן הזה השתמשתי בו בפוסט הנוכחי. ואגב כך נחמד לזכור שבקוהלת כתוב מפורשות "וּמוֹתַר הָאָדָם מִן-הַבְּהֵמָה אָיִן, כִּי הַכֹּל הָבֶל." (קהלת ג, פסוק יט) (ויקימילון).

              ואם כבר מדברים על מותר האדם מן החיה – נדמה לי שיובל נוח הררי התייחס לזה בספרו הראשון, שבו תיאר את השפה האנושית כיחידה שיכולה להתייחס גם למה שלא באמת קיים (כלומר, לשקרים, פנטזיות, דתות, אידיאולוגיות, כסף, חברות כלכליות ועוד).

              אהבתי

              • פעם חשבו שמחשב לא יוכל לנצח אלופי עולם בשחמט. כי הרי יש אינסוף אפשרויות. וזה בדיוק מה שמחשב יודע לעשות טוב מאיתנו – לחשב אינסוף אפשרויות ולבחור את זו עם הסיכוי הטוב ביותר לנצח את היריב במינימום צעדים. ואכן המחשב ניצח גם ניצח אלוף השחמט העולמי. ששכחתי את שמו. לדעתי מחשב-על יכול להבין מהקשרי משפטים מהי המילה הנכונה מבין אפשרויות דומות. צפיתי בתוכנית דקומנטרית על בובות מין חדשות בעלות בינה מלאכותית. שלא לדבר שהן לומדות במהירות מה אהוב על הבעלים שלהן וכיצד לספק אותם, נדהמתי גם מהיכולת שלהן לשוחח שיחות אינטליגנטיות בקול ובדיקציה אנושיים לגמרי עם בעליהן, על כל נושא שבעולם ולבודד מידע ספציפי מגוגל ובסיסי נתונים אחרים לצורך השיחה. כלומר, בובה כזו יכולה לבחור בהבנתה הן את המילה הנכונה והן את המידע הנכון הדרוש לה מבין אפשרויות – בהתאם להקשר המשפטים בהתנהלות השיחה. קשה ממש להאמין שזו בובה. לא בטוח שבשיחה בטלפון הייתי מבחין בקלות שאינני מדבר עם אדם. "המוח" שלה שווה כ- 10.000 דולר והגוף הנראה ומרגיש כמו אנושי – עוד כ 5,000 דולר. אולי אכתוב על זה פעם בבלוג – על בינה מלאכותית בכלל. בובות המין הללו כבר הופכות ללהיט חם והשיא בביקוש שלה/שלו הוא ביפן.

                ובהתייחס לציטוט שלך לנח הררי – כבר כתבתי בבלוג פוסט שגם חיות משקרות. קופים כמו שימפנזים משקרים כל הזמן והם מגיבים באופן אופייני כשתופסים אותם בשקר. משהו כמו אין כלום כי לא היה כלום… או מאשימים אחד מחבריהם. איך יודעים – כי בשבי הם לומדים מאיתנו להתבטא בשפת הסימנים שלנו, או על ידי הקלדה של מילים במקלדת מחשב. אינני יודע אם את יודעת – תחביר המשפט שהם בונים בשיחה זהה בסדר לשלנו – נושא, נשוא ומושא.
                ובכלל בקורס התנהגות בעלי חיים באוניברסיטה – למדנו שגם בעלי חיים מפתחים מנהגים חדשים ותרבות, אלא שקצב התפתחות התרבות באדם מהירה יותר. בין השאר בגלל מגבלות פיזיות של הליכה על ארבע וכדומה.

                דווח גם על קופים בטבע שלמשל סוגדים בריקוד למפל מים כמו לאל, משהו שנראה דומה לטקס דתי. אני חושב שהבעיה שלנו היא שאיננו מבינים את שפתן של החיות, שברובה שפת גוף. כשהיינו ילדים חשבנו שאנשים חרשים-אילמים הם מפגרים. מותר האדם שיש לו מבנה מיתרי קול שמאפשר דיבור וגן 'דיבור' אחד בלבד שמתבטא במוחנו כי הוא עבר מוטציה בהשוואה לאותו גן המצוי בחיות. וכך גם לתוכי המדבר שיש לו מבנה של מיתרי קול שמאפשר דיבור וכן אינטליגנציה כמו לילד בן חמש, יש לי קרוב משפחה שיש לו תוכי כזה. פעם סגר עליו את דלת הארון במטבח בטעות מבלי ששם לב. לאחר שחיפש אותו בכל הבית ומצא אותו בארון -התוכי צרח "שאול מניאק"… כלומר הוא השתמש בקללה המתאימה ובשם הנכון מכל בני המשפחה. פעם חשבו שתוכי פשוט רק מחקה אדם מבלי להבין מה הוא אומר. כיום ידוע שזה לא נכון.

                כאמור מרכז הרגש באמיגדלה של עופות ויונקים דומה מאוד לשלנו בפרימיטיביות שלו. ולכן לחיות יש רגשות (אהבה, שנאה, קנאה, פחד, העלבות, אגו… ) בדיוק כמו שלנו. הלוואי והיו יודעים זאת כל המתעללים בחיות. לפעמים נדמה כי דווקא בני האדם מתנהגים כמו חיות ואף גרוע מהן. כידוע בשעת אסון ציבורי נרחב, אנשים מתחילים לנהוג זה לזה כמו חיות…

                ואיך אמר הפילוסוף האנגלי ראסל לגבינו? – "אחת הצרות הגדולות של דורנו נעוצה בכך שהרגלי החשיבה שלנו אינם משתנים באותה מהירות שבה משתנות הטכניקות שאנחנו מפתחים. לפיכך, ככל שגדלה מיומנותנו, כך קטנה חכמתנו". ובהקשר לבינה מלאכותית – בעוד שהמוח שלנו מוגבל, לגבי פיתוח 'המוח המלאכותי' – השמים הם הגבול. יתכן גם שבעתיד הגולם עשוי לקום על יוצרו.

                אולי אכתוב פעם על הנושא הזה בבלוג – כדי לנפץ את הסטיגמות של האדם לגבי מחשבות המותר שלו על החיה והמכונה. כאמור, יתכן גם שיום אחד המכונה תקום על האדם. זו כבר אינה קונספציה המוגבלת לסיפורי מדע בדיוני. כי רבות הן הקונספציות במדע הבדיוני לשעבר שהפכו כיום למדע לכל דבר.

                אהבתי

    • אמפי, גם אנחנו לגמרי מתוכנתים – הקודים שלנו מורכבים מצירופים של 4 אותיות (G,A,T,C), ב-DNA, אמנם במחשב כרגע רק צירופים של שניים (1, 0.) אבל כבר בפיתוח מחשבים קוונטים בני 4 סימנים.
      וכשחלות טעויות (מוטציות) -גם אצלנו משתבשים תפקודים.

      Liked by 1 person

סגור לתגובות.