בינה מלאכותית / גולם

[masorti]

מי אמר שהיא לא מתקשרת...

בחוסר הכרה ובשינה? אתה יודע מה חולף במוחו של חסר-הכרה? מדוע מתקשרת הנשמה רק עם מוח? בגלל העקרון האנטרופי. הרי צריך איבר כלשהו לקשר. אז אם האף היה מפתח תכונות של מוח, אתה היית שואל מדוע התקשורת נעשית דרך האף. כמה מוח צריך? באמת שלא יודע. אני מניח שאת הכמות שתאפשר פיזיולוגית הפעלת מודעות-עצמית ותחושות.

 

[vizini]

אתה אמרת

אתה אמרת שהנשמה אחראית למודעות ולתחושה. ובכן, לאדם בחוסר הכרה אין מודעות ואין תחושות. בחלק ממצבי השינה אין לאדם מודעות ותחושותיו מעומעמות. לאדם בהתקף אפילפסיה אין מודעות ואין תחושות. ב"למה דווקא מוח" התכוונתי למה לא חפצים דוממים. אם הנשמה אינה פיסית, למה אינה מתקשרת גם עם חפצים דוממים? מתי מתחילה מודעות אצל עובר?

 

[masorti]

לא נכון.

אדם חסר הכרה אינו מפגין מודעות ותחושות בבדיקה שנעשית ע"י צופה מבחוץ. אין שום הוכחה שהוא אינו חש ו/או מודע לעצמו בזמן שהוא "צמח". נהפוך הוא. אנשים שהיו ב-COMA ושבו להכרה סיפרו שהם שמעו מה אנשים דיברו מסביבם. --- אתה מתעקש שוב ושוב לטעון שהביטוי הפיזיולוגי של התחושה הוא מהות הענין, ונדמה לך שאם תחזור על השטות אלף פעם אז אני אסכים איתך. אסביר לך שוב... הפיזיולוגיה (מוח וסנסורים ברחבי הגוף) הם רק המימשק בין מה שאנו מכנים "נשמה" לבין העולם החיצון. בהעדר מימשק אין טעם שהנשמה תישאר מצומדת לגוף, ולכן לאדם מת אין נשמה. ---- למה נשמה לא מתקשרת עם דומם?... תשאל את זה שברא את הנשמות וסידר את הצימוד גוף-נשמה. כעובדה - אין צימוד בין מכונה או כל עצם דומם אחר לבין נשמה. מתי מתחילה מודעות אצל עובר?... וואלה לא יודע. אינטואיטיבית.. ברגע שמתפתח אצלו מוח ברמה המסוגלת למודעות. (עובדה שגם לפי ההלכה העובר הוא אדם רק משלב מסוים בהריון)

 

[vizini]

מה שמטעה אותך

היא העובדה שתהליך ההתעוררות מקומה יכול להיות ארוך, ובתהליך זה לאדם יש מודעות חלקית. למעשה, אם עושים בדיקה מקיפה לגבי רמת הפעילות של המוח בשלבים השונים של השינה ובזמן קומה, יש קורלציה כמעט מוחלטת בין מצבים מסויימים של פעילות המוח ובין חוסר הכרה וחוסר מודעות. נדמה לך שאם תתעלם מהעובדות ומהניסוים הם לא יהיו קיימים, אבל המחקר לא יעצר אם תמשיך להתעלם מהממצאים. מה לעשות וכל המחקרים מראים קשר חד-חד ערכי בין פעילות המוח ובין התודעה... האם לתינוק בן יומו יש תודעה ומודעות עצמית? מוחו של תינוק בן יומו מפותח כמעט כמו מוחו של מבוגר. האם אתה מכיר מישהו שזוכר את לידתו? את ימיו הראשונים?

 

[אלי ו.]

אני בקושי זוכר את שבוע שעבר

מה זה אומר? שבשבוע שעבר לא היתה לי מודעות?

 

[vizini]

זה אומר שבשבוע שעבר לא היה לך

שום דבר חשוב לזכור. האם אתה לא זוכר החל משבוע שעבר ואילך? כי אז אולי באמת לא היתה לך מודעות. לגבי תינוקות - אף אחד לא זוכר את שנת חייו הראשונה. ואתה חייב להסכים שקורים בה אי אילו אירועים חשובים... ומה אפשר ללמוד מכך? למשל, שלא נולדים עם מודעות, אלא זה דבר שמתפתח.

 

[masorti]

בטח שיש קשר בין פעילות מוחית...

לבין התודעה. השאלה היא האם בכל מקרה בו המדידות החיצוניות הן של חוסר פעילות מוחית זה אכן המצב. נ.ב. קורלציה בין שני משתנים אינה בהכרח קשר סיבתי ביניהם.

 

[vizini]

התשובה לשאלה היא כן.

נכון שקורלציה בין שני משתנים אינה בהכרח קשר סיבתי ביניהם, אבל כשהקורלציה היא מלאה וגם יש הסבר הקושר בין שני המשתנים...

 

[masorti]

התשובה היא כמובן "לא".

כבר היו מקרים בהם רופאים קבעו מוות מוחי של אדם והתברר שהיתה טעות. זוכר את האשה שהתעוררה לא מזמן בחדר הטהרה באחד מבתי העלמין? גם כשקורלציה היא מלאה זה לא אומר שיש קשר סיבתי בין הדברים. למשל: לפעמים שני הדברים בלתי-תלויים זה בזה, אך נגרמים מגורם משותף שלישי. כנ"ל לגבי הסבר הקושר בין המשתנים. תלוי מהו ההסבר... לאו דווקא משתנה א' גורר את משתנה ב'.

 

[vizini]

טעויות קורות...

במקרה הזה, מדובר על טעות בזיהוי של נזק מוחי. אין ספק שפעילות מוחית לא היתה בזמן הבדיקה. אבל מי שמסיק מסקנות על סמך טעויות, לא יגיע רחוק...

 

[תיאולוגיה]

הסרט מטריקס

מדגים יפה את אפשרות האשליה שאתה מצביע עליה.

 

[masorti]

אני מניח שטיורינג היה אתיאיסט...

ומבחינתו "ממש להיות אדם" משמעו סימולציה של תגובות אנושיות ואולי גם פיזיולוגיה אנושית. בטח לא ענין אותו האם המכונה גם חשה בכאב או מודעת לעצמה. אני לא מומחה להוכחות של מבחני טיורינג, אבל אני לא רואה שום סיבה עקרונית מדוע מכונה לא יכולה ללמוד לבצע סימולציה של התנהגות אנושית בכל סיטואציה שתועמד בפניה. הכול ענין של משאבי מחשב ומהירות עיבוד.

 

[vizini]

לא מן הנמנע,

אבל זה לא קשור לנושא. "ממש להיות אדם" פירושו ממש להיות אדם. לא יודע לגבי כאב, אבל מודעות עצמית בוודאי היתה לנגד עיניו כאשר כתב את מאמרו. אתה לא רואה סיבה עקרונית מדוע מכונה וכו' - בוודאי התכוונת למכונה ללא מודעות עצמית. כי אם למכונה יש מודעות עצמית, גם אני לא רואה סיבה עקרונית. אבל ללא מודעות עצמית סביר שזה לא אפשרי. למעשה, לגבי מספר גדול של אלגוריתמים אפשר להוכיח שזה לא אפשרי. בפרט, לגבי אלגוריתמים שרק מחפשים תשובות מוכנות מראש.

 

[אלי ו.]

לא קראתי את המאמר המקורי של טיורינג

אבל המבחן הוא ניהול שיחה בצורה שלא ניתן יהיה להבדיל בין אדם למחשב מעין BOT מאוד מתוחכם. האם תוכל בכנות לייחס לאותה תכנית מחשב רגשות, יכולת לחוש כאב, יכולת לחשוב מחשבה מקורית? אלה הם רק הקריטריונים הראשונים שבאים למוחי. אגב, למי שלא יודע, טיורינג הוא אחד המתמטיקאים שהשפיעו באופן משמעותי על תוצאות מלחמת העולם השניה בהיותו ראש הצוות שפענח את הצופן הגרמני. הוא גם מראשוני מדעני המחשב, מהתקופה בא לא היה מחשב ותקופה מסוימת הוא היה מושא לקללותי כשהייתי צריך לכתוב תכניות על טיורינג משין שזה קונספט של "מחשב" פרימיטיבי.

 

[00000000000000000000]

../images/Emo13.gif אם כבר...

אז עוד אנקדוטה: טיורינג היה הומוסקסואל, בזמן שהחוק הבריטי החשיב זאת לעבירה פלילית (כך היה עד 1957). במקרה התגלה שהוא כזה, וביטלו לו את הסיווג הביטחוני הגבוה שניתן לו בעקבות תרומתו לפרויקט האניגמה. נאסר עליו להשתתף בפיתוח המחשב, הוא חויב להיפגש עם פסיכיאטר ולעבור טיפול הורמונלי, וב-1954 הוא התאבד (בגיל 42).

 

[masorti]

כל הויכוח על טיורינג הוא חסר טעם...

אני טוען שאין בעיה שמכונה עתידית תעבור בהצלחה מבחן טיורינג, ואתה טוען שלא. מכיון שממילא איני מקבל את מבחן טיורינג כקריטריון לזיהוי נשמה, הרי שהשאלה האם המחשב יעבור מבחן זה או לא - חשובה כקליפת השום.

 

[vizini]

לא, לא

אני לא טענתי שמכונה עתידית לא תעבור בהצלחה מבחן טיורינג, אלא שמכונה חסרת מודעות כנראה לא תעבור את מבחן טיורינג. אני חושב שבעתיד תהיה מכונה בעלת מודעות. אבל אתה מפספס נקודה חשובה - אם מכונה בעתיד, גם לדעתך, תוכל לחקות אדם בצורה מושלמת, ללא נשמה, אז מה הוא בכלל תפקיד הנשמה?

 

[masorti]

שום מכונה בעתיד לא תהיה בעלת מודעות

ותפקיד הנשמה הוא, בין השאר, לאפשר יכולת של מודעות עצמית ותחושה. יש הבדל בין המצב בו תשפוך על מחשב קפה רותח והסנסורים שלו יפעילו תוכנה של קול מסונתז שיאמר "כואב לי", ובין המצב בו האדם חש בכאב. לכן, למרות שהמחשב יוכל להתחזות לאדם מבחינה חיצונית - עדיין הפנימיות שלהם תהיה שונה. לדוגמא, המחשב לא יהיה מודע לכך שהוא קיים או שהוא מחקה אדם.

 

[vizini]

איך אתה יודע?

איך תדע אם המכונה או המחשב באמת חש בכאב או לא? איך תדע אם המחשב מודע לכך שהוא קיים? בוא ונהיה יותר קונקרטיים. נניח שבניתי מכונה שאני טוען כי היא בעלת מודעות או לפחות בעלת הפוטנציאל להפוך למודעת. אני גם מבטיח לך כי לא תיכנתתי מראש למכונה שום מאגר של ידע, אלא רק כמה כללים בסיסיים ויכולת לימוד. כעת, אני נותן למכונה להיות באינטראקציה עם אנשים. אם מתי שהו בעתיד, המכונה הזאת תתחיל להראות יכולות שלא תוכנתו בה מלכתחילה ושדומות להתנהגות אנושית, כולל אפילו הבעת רגשות, האם אז תסכים כי המכונה פיתחה מודעות?

 

[masorti]

בודאי שלא אסכים...

העובדה שבנית מערכת לומדת שמסמלצת מודעות לא מוכיחה דבר. איו שום בעיה עקרונית שרשת נוירונים משוכללת במחשב תוכל להגיב כאילו היתה בעלת מודעות. אבל ברור שעדיין אין לה מודעות. ניקח מקרה פשטני: רשת נוירונים לומדת שכאשר המתכנת משתעל, המחשב מפנה אליו משפט המביע דאגה לבריאותו. האם באמת המחשב דואג? מה פתאום? רשת הנוירונים רק יצרה קורלציה בין קול חיצוני מסוים לבין אוסף הברות מסותנזות מסוים. ואני חוזר בפעם האלף ואחד... אני לא אוכל לדעת (קרי: להוכחי מדעית) שהמחשב לא מודע או לא חש, אבל ברור לי מעל לכל ספק שזה המצב. עליך חובת ההוכחה שהמחשב חש ומודע ולא רק יוצר סימולציה אוטומטית.